Inicio›Modelos›nemotron-3.5-super-120b

Ficha de modelo

nemotron-3.5-super-120b

Arquitectura mezcla de expertos88 CapasLicencia openmdw-1.1Contexto máximo 1.024kVocabulario 131.072

Ver 2 vídeos

En Q4_K_M es un fichero de 65,29 GiB y entra en 5 de los 18 equipos que medimos (el de menos memoria: Xiaomi AI Cube, 80 GB — prototipo de ingeniería). Aquí lo que llena la memoria es el fichero: incluso con su contexto máximo de 1024k tokens, el contexto suma 8,00 GiB — y el mismo contenido, en tokens, cuesta en español ×1,23 lo que en inglés (en alemán, ×1,40).

De un vistazo
Tamaño en Q4_K_M65,29 GiB
Memoria de contexto a 8k0,06 GiB
Cabe en5 / 18
Coste del alemán×1,40
Equipo más pequeño que lo admiteXiaomi AI Cube, 80 GB — prototipo de ingeniería
65,29 GiB

Tamaño del modelo en Q4_K_M

Medido por Local AI Scope

0,06 GiB

Memoria de contexto a 8k tokens

Medido por Local AI Scope

×1,40

Lo que cuesta el alemán frente al inglés

Medido por Local AI Scope

Vídeos

Vídeos: nemotron-3.5-super-120b 2

Lo oficial y las mejores pruebas que hemos encontrado. Pulsa y se abre aquí mismo.

Los vídeos están en YouTube y no se carga nada de allí hasta que pulsas (modo sin cookies). La miniatura la servimos nosotros.

Tamaños

Tamaños de los ficheros publicados

Son los tamaños de los ficheros que publica su autor, sumados cuando el modelo viene partido en trozos. No es una estimación a partir del número de parámetros.

Tamaño del fichero publicado para cada compresión
Compresión Tamaño del modelo
Q4_K_M 65,29 GiB

Este modelo también lee imágenes. Para eso necesita un segundo fichero, el proyector de visión (mmproj-NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-BF16.gguf, 1,61 GiB), que se publica junto al modelo y no está sumado en las cifras de esta página: cuentan solo el texto. Si vas a pasarle imágenes, añádelo al tamaño del modelo.

Contexto

Memoria de contexto

Calculada con el patrón de atención que este modelo declara capa a capa, no con la fórmula genérica. Por eso la cifra suele ser bastante menor que la que dan otras calculadoras.

  • 8k tokens → 0,06 GiB
  • 32k tokens → 0,25 GiB
  • 128k tokens → 1,00 GiB
Idiomas

Lo que cuesta en cada idioma

Medido ejecutando el tokenizador de este modelo sobre el mismo contenido en cuatro idiomas. Los tokens son lo que se paga en contexto, en memoria y en la factura de la nube.

Coste en tokens por tipo de texto y por idioma, con el inglés de referencia
Tipo de texto EN ES FR DE
Código — ×1,23 ×1,31 ×1,51
Contratos — ×1,21 ×1,25 ×1,37
Correo de empresa — ×1,19 ×1,22 ×1,31
Tickets de soporte — ×1,28 ×1,36 ×1,37

El inglés es la referencia: cada cifra es cuántas veces más tokens cuesta el mismo contenido en ese idioma. Media sobre todo el corpus: DE ×1,40.

Equipos

Dónde cabe

Que quepa significa que caben el modelo, su memoria de contexto y el margen de trabajo al contexto indicado, dejándole al sistema lo suyo. 5 de los 18 equipos probados (Q4_K_M, 8k tokens).

Los 18 equipos probados, con la memoria que deja cada uno y el mayor contexto que este modelo aguanta en él
Equipo Cabe Memoria libre Mayor contexto que cabe
PC con RTX 4060 8 GB no 7,20 GiB —
PC con RTX 3060 12 GB no 11,20 GiB —
PC con RTX 4070 12 GB no 11,20 GiB —
Mac con M4 y 16 GB unificados no 13,00 GiB —
Portátil de oficina, solo CPU y 16 GB no 13,00 GiB —
Mac mini con M6 y 16 GB unificados no 13,00 GiB —
Mac con M4 Pro y 24 GB no 21,00 GiB —
Estación con RTX 4090 24 GB no 23,20 GiB —
Mini-PC con NPU y 32 GB LPDDR5X no 29,00 GiB —
Mac mini con M6 y 32 GB unificados no 29,00 GiB —
Servidor con 2× RTX 3090 (48 GB) no 47,20 GiB —
Mac con M4 Max y 64 GB no 61,00 GiB —
Mac mini con M5 Pro y 64 GB unificados no 61,00 GiB —
Xiaomi AI Cube, 80 GB — prototipo de ingeniería sí 77,00 GiB 256k
PC con Ryzen AI Max+ 395 y 128 GB unificados sí 96,00 GiB 1024k
Mac Studio con M5 Max y 128 GB unificados sí 125,00 GiB 1024k
PC con Ryzen AI Max+ PRO 495 y 192 GB unificados sí 160,00 GiB 1024k
Mac Studio con M5 Ultra y 512 GB unificados sí 509,00 GiB 1024k

Antes de darle a descargar: a 17 de octubre de 2026, este modelo es tan nuevo que solo lo abren las últimas versiones. llama.cpp, desde su estable v0.7.0 (compilación b11669, del 15 de octubre de 2026); las anteriores, no. Ojo, que desde esa versión su servidor escucha por defecto en el puerto 9931, no en el 8080 (las imágenes de Docker siguen en el 8080). Ollama lo ofrece desde la 0.40.5 (ollama run nemotron-3.5-super), pero en un PC su q4_K_M no es el fichero de la tabla: pesa 82,35 GiB, más el proyector de visión de 1,61 GiB que Ollama carga siempre, 83,96 GiB en total. Mismo nombre, otra receta: en este modelo parte de los tensores de los expertos no puede ir en Q4_K, y cada fichero tira de un formato distinto (IQ4_NL el de LM Studio, Q5_0 y Q8_0 el de Ollama), según hemos leído en la cabecera de cada uno. Con el de Ollama, el Xiaomi AI Cube de 80 GB ya no puede con el modelo y el PC con Ryzen AI Max+ 395 baja de 1024k a 256k de contexto; con el de LM Studio (65,29 GiB), el Xiaomi sí, hasta 256k, como dice la tabla. LM Studio lo ofrece con el GGUF de su programa de comunidad (lmstudio-community), publicado el 14 de octubre de 2026; no hemos comprobado qué versión de su motor lo abre, así que actualízalo antes de probar. En Mac, el catálogo de Ollama tiene con ese mismo nombre una versión MLX (nvfp4, 74,09 GiB); mlx-lm por su cuenta no lo hemos podido confirmar. Actualizado el 19 de octubre de 2026: la receta de NVIDIA para vLLM pide la 0.32.0, estable desde el 18 de octubre de 2026, o una compilación nightly. Las imágenes las lee con el proyector de 1,61 GiB, que la tabla no suma; según NVIDIA también entiende vídeo (clips de hasta 2 minutos), pero en sus recetas de vLLM y SGLang: Ollama y llama.cpp anuncian solo imágenes, de momento. Existe también una Q8_0 (119,65 GiB), pero nuestro catálogo no la recoge y el buscador de modelos no la propone: según nuestros cálculos, solo con texto, cabría en el PC con Ryzen AI Max+ PRO 495 y en el Mac Studio con M5 Ultra hasta 1024k, y en el Mac Studio con M5 Max y 128 GB hasta 128k.