qwen3.5-9b
Arquitectura denso32 CapasLicencia apache-2.0Contexto máximo 256kVocabulario 248.320
En Q4_K_M es un fichero de 5,29 GiB y entra en 18 de los 18 equipos que medimos (el de menos memoria: PC con RTX 4060 8 GB). Ojo con el contexto: con su máximo de 256k tokens ocupa 8,00 GiB, más que el propio fichero — y el mismo contenido, en tokens, cuesta en español ×1,18 lo que en inglés (en alemán, ×1,31).
Tamaño del modelo en Q4_K_M
Medido por Local AI Scope
Memoria de contexto a 8k tokens
Medido por Local AI Scope
Lo que cuesta el alemán frente al inglés
Medido por Local AI Scope
Vídeos: qwen3.5-9b 2
Las mejores pruebas que hemos encontrado. Pulsa y se abre aquí mismo.
Los vídeos están en YouTube y no se carga nada de allí hasta que pulsas (modo sin cookies). La miniatura la servimos nosotros.
Tamaños de los ficheros publicados
Son los tamaños de los ficheros que publica su autor, sumados cuando el modelo viene partido en trozos. No es una estimación a partir del número de parámetros.
| Compresión | Tamaño del modelo |
|---|---|
Q8_0 |
8,87 GiB |
Q6_K |
6,95 GiB |
Q5_K_M |
6,13 GiB |
Q5_K_S |
5,92 GiB |
Q4_K_M |
5,29 GiB |
Q4_K_S |
5,02 GiB |
IQ4_XS |
4,81 GiB |
Q3_K_M |
4,35 GiB |
Este modelo también lee imágenes. Para eso necesita un segundo fichero, el proyector de visión (mmproj-F16.gguf, 0,86 GiB), que se publica junto al modelo y no está sumado en las cifras de esta página: cuentan solo el texto. Si vas a pasarle imágenes, añádelo al tamaño del modelo.
Memoria de contexto
Calculada con el patrón de atención que este modelo declara capa a capa, no con la fórmula genérica. Por eso la cifra suele ser bastante menor que la que dan otras calculadoras.
- 8k tokens → 0,25 GiB
- 32k tokens → 1,00 GiB
- 128k tokens → 4,00 GiB
Lo que cuesta en cada idioma
Medido ejecutando el tokenizador de este modelo sobre el mismo contenido en cuatro idiomas. Los tokens son lo que se paga en contexto, en memoria y en la factura de la nube.
| Tipo de texto | EN | ES | FR | DE |
|---|---|---|---|---|
| Código | — | ×1,20 | ×1,30 | ×1,46 |
| Contratos | — | ×1,16 | ×1,23 | ×1,31 |
| Correo de empresa | — | ×1,12 | ×1,22 | ×1,17 |
| Tickets de soporte | — | ×1,24 | ×1,40 | ×1,25 |
El inglés es la referencia: cada cifra es cuántas veces más tokens cuesta el mismo contenido en ese idioma. Media sobre todo el corpus: DE ×1,31.
Dónde cabe
Que quepa significa que caben el modelo, su memoria de contexto y el margen de trabajo al contexto indicado, dejándole al sistema lo suyo. 18 de los 18 equipos probados (Q4_K_M, 8k tokens).
Antes de darle a descargar: a 12 de octubre de 2026, todos los programas de nuestra lista abren este modelo. Lo llevan todas las versiones estables de llama.cpp (el 16 de octubre de 2026, la última era la v0.7.0, del 15 de octubre de 2026) y todas sus compilaciones diarias desde la b7990; Ollama lo ofrece desde la 0.17.5; LM Studio lo tiene en su propio catálogo, que pide al menos 7 GB de memoria del sistema; mlx-lm lo abre desde la 0.31.0, solo con texto, y vLLM desde la 0.17.0, con los pesos originales en BF16 (17,98 GiB) en la memoria de la gráfica: de los PC de nuestra lista con tarjeta gráfica, solo la RTX 4090 y el servidor con dos RTX 3090 tienen sitio para ellos, y en Mac vLLM solo funciona en la CPU, de forma experimental. Por defecto piensa antes de contestar (una costumbre que recomendaríamos a cualquiera), y sus autores aconsejan dejarle al menos 128k tokens de contexto para que pueda hacerlo: según la tabla de arriba, llegan los equipos de 16 GB o más, las gráficas de 12 GB se quedan en 64k y la de 8 GB en 16k. La tabla cuenta solo el texto. Para pasarle imágenes se carga también el proyector de visión (0,86 GiB), y Ollama lo carga siempre, también para texto: su qwen3.5:9b ocupa 6,6 GB con el proyector dentro (en un Mac, Ollama usa su versión MLX, de 7,6 GB). Con el proyector, los equipos de 16 GB llegan a 64k en vez de 128k, las gráficas de 12 GB se quedan en 64k y la RTX 4060 de 8 GB llega a 8k con 0,10 GiB de sobra o menos, demasiado poco para fiarse; de 24 GB para arriba no cambia nada: 256k.