Inicio›Modelos›nemotron-3.5-super-120b
nemotron-3.5-super-120b
Arquitectura mezcla de expertos88 CapasLicencia openmdw-1.1Contexto máximo 1.024kVocabulario 131.072
En Q4_K_M es un fichero de 65,29 GiB y entra en 5 de los 18 equipos que medimos (el de menos memoria: Xiaomi AI Cube, 80 GB — prototipo de ingeniería). Aquí lo que llena la memoria es el fichero: incluso con su contexto máximo de 1024k tokens, el contexto suma 8,00 GiB — y el mismo contenido, en tokens, cuesta en español ×1,23 lo que en inglés (en alemán, ×1,40).
Tamaño del modelo en Q4_K_M
Medido por Local AI Scope
Memoria de contexto a 8k tokens
Medido por Local AI Scope
Lo que cuesta el alemán frente al inglés
Medido por Local AI Scope
Vídeos: nemotron-3.5-super-120b 2
Lo oficial y las mejores pruebas que hemos encontrado. Pulsa y se abre aquí mismo.
Los vídeos están en YouTube y no se carga nada de allí hasta que pulsas (modo sin cookies). La miniatura la servimos nosotros.
Tamaños de los ficheros publicados
Son los tamaños de los ficheros que publica su autor, sumados cuando el modelo viene partido en trozos. No es una estimación a partir del número de parámetros.
| Compresión | Tamaño del modelo |
|---|---|
Q4_K_M |
65,29 GiB |
Este modelo también lee imágenes. Para eso necesita un segundo fichero, el proyector de visión (mmproj-NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-BF16.gguf, 1,61 GiB), que se publica junto al modelo y no está sumado en las cifras de esta página: cuentan solo el texto. Si vas a pasarle imágenes, añádelo al tamaño del modelo.
Memoria de contexto
Calculada con el patrón de atención que este modelo declara capa a capa, no con la fórmula genérica. Por eso la cifra suele ser bastante menor que la que dan otras calculadoras.
- 8k tokens → 0,06 GiB
- 32k tokens → 0,25 GiB
- 128k tokens → 1,00 GiB
Lo que cuesta en cada idioma
Medido ejecutando el tokenizador de este modelo sobre el mismo contenido en cuatro idiomas. Los tokens son lo que se paga en contexto, en memoria y en la factura de la nube.
| Tipo de texto | EN | ES | FR | DE |
|---|---|---|---|---|
| Código | — | ×1,23 | ×1,31 | ×1,51 |
| Contratos | — | ×1,21 | ×1,25 | ×1,37 |
| Correo de empresa | — | ×1,19 | ×1,22 | ×1,31 |
| Tickets de soporte | — | ×1,28 | ×1,36 | ×1,37 |
El inglés es la referencia: cada cifra es cuántas veces más tokens cuesta el mismo contenido en ese idioma. Media sobre todo el corpus: DE ×1,40.
Dónde cabe
Que quepa significa que caben el modelo, su memoria de contexto y el margen de trabajo al contexto indicado, dejándole al sistema lo suyo. 5 de los 18 equipos probados (Q4_K_M, 8k tokens).
Antes de darle a descargar: a 17 de octubre de 2026, este modelo es tan nuevo que solo lo abren las últimas versiones. llama.cpp, desde su estable v0.7.0 (compilación b11669, del 15 de octubre de 2026); las anteriores, no. Ojo, que desde esa versión su servidor escucha por defecto en el puerto 9931, no en el 8080 (las imágenes de Docker siguen en el 8080). Ollama lo ofrece desde la 0.40.5 (ollama run nemotron-3.5-super), pero en un PC su q4_K_M no es el fichero de la tabla: pesa 82,35 GiB, más el proyector de visión de 1,61 GiB que Ollama carga siempre, 83,96 GiB en total. Mismo nombre, otra receta: en este modelo parte de los tensores de los expertos no puede ir en Q4_K, y cada fichero tira de un formato distinto (IQ4_NL el de LM Studio, Q5_0 y Q8_0 el de Ollama), según hemos leído en la cabecera de cada uno. Con el de Ollama, el Xiaomi AI Cube de 80 GB ya no puede con el modelo y el PC con Ryzen AI Max+ 395 baja de 1024k a 256k de contexto; con el de LM Studio (65,29 GiB), el Xiaomi sí, hasta 256k, como dice la tabla. LM Studio lo ofrece con el GGUF de su programa de comunidad (lmstudio-community), publicado el 14 de octubre de 2026; no hemos comprobado qué versión de su motor lo abre, así que actualízalo antes de probar. En Mac, el catálogo de Ollama tiene con ese mismo nombre una versión MLX (nvfp4, 74,09 GiB); mlx-lm por su cuenta no lo hemos podido confirmar. Actualizado el 19 de octubre de 2026: la receta de NVIDIA para vLLM pide la 0.32.0, estable desde el 18 de octubre de 2026, o una compilación nightly. Las imágenes las lee con el proyector de 1,61 GiB, que la tabla no suma; según NVIDIA también entiende vídeo (clips de hasta 2 minutos), pero en sus recetas de vLLM y SGLang: Ollama y llama.cpp anuncian solo imágenes, de momento. Existe también una Q8_0 (119,65 GiB), pero nuestro catálogo no la recoge y el buscador de modelos no la propone: según nuestros cálculos, solo con texto, cabría en el PC con Ryzen AI Max+ PRO 495 y en el Mac Studio con M5 Ultra hasta 1024k, y en el Mac Studio con M5 Max y 128 GB hasta 128k.
