Inicio›Modelos›mistral-large-4
mistral-large-4
Arquitectura mezcla de expertos72 CapasLicencia mistral-ecosystem-open-weightContexto máximo 1.024kVocabulario 204.800
En Q4_K_M es un fichero de 591,21 GiB y no entra en ninguno de los 18 equipos que medimos a 8k tokens. De esos 18, solo el Mac Studio con M5 Ultra y 512 GB puede con él, bajando a 2 o 3 bits: con el Q2_K de 354,56 GiB llega, según nuestras cuentas, a su contexto entero, 1024k.
Tamaño del modelo en Q4_K_M
Medido por Local AI Scope
Memoria de contexto a 8k tokens
Medido por Local AI Scope
Lo que cuesta el alemán frente al inglés
Medido por Local AI Scope
Vídeos: mistral-large-4 1
Los vídeos oficiales que nos han parecido más útiles. Pulsa y se abre aquí mismo.
Los vídeos están en YouTube y no se carga nada de allí hasta que pulsas (modo sin cookies). La miniatura la servimos nosotros.
Tamaños de los ficheros publicados
Son los tamaños de los ficheros que publica su autor, sumados cuando el modelo viene partido en trozos. No es una estimación a partir del número de parámetros.
| Compresión | Tamaño del modelo |
|---|---|
Q8_0 |
1.038,57 GiB |
Q4_K_M |
591,21 GiB |
Este modelo también lee imágenes. Para eso necesita un segundo fichero, el proyector de visión (mmproj-F16.gguf, 3,17 GiB), que se publica junto al modelo y no está sumado en las cifras de esta página: cuentan solo el texto. Si vas a pasarle imágenes, añádelo al tamaño del modelo.
Memoria de contexto
Calculada con el patrón de atención que este modelo declara capa a capa, no con la fórmula genérica. Por eso la cifra suele ser bastante menor que la que dan otras calculadoras. Este modelo guarda la memoria de contexto comprimida (atención latente): por cada capa y token, un vector de 512 valores en lugar de sus 64 cabezas de 64. La contamos como una cabeza de 512 para la clave y otra para el valor, que es algo más de lo que ocupa de verdad (un mismo latente sirve para las dos), así que estas cifras pecan por arriba, nunca por abajo.
- 8k tokens → 0,98 GiB
- 32k tokens → 3,94 GiB
- 128k tokens → 15,75 GiB
Lo que cuesta en cada idioma
Medido ejecutando el tokenizador de este modelo sobre el mismo contenido en cuatro idiomas. Los tokens son lo que se paga en contexto, en memoria y en la factura de la nube.
| Tipo de texto | EN | ES | FR | DE |
|---|---|---|---|---|
| Código | — | ×1,18 | ×1,27 | ×1,37 |
| Contratos | — | ×1,10 | ×1,15 | ×1,19 |
| Correo de empresa | — | ×1,11 | ×1,17 | ×1,13 |
| Tickets de soporte | — | ×1,17 | ×1,31 | ×1,25 |
El inglés es la referencia: cada cifra es cuántas veces más tokens cuesta el mismo contenido en ese idioma. Media sobre todo el corpus: DE ×1,24.
Dónde cabe
Que quepa significa que caben el modelo, su memoria de contexto y el margen de trabajo al contexto indicado, dejándole al sistema lo suyo. 0 de los 18 equipos probados (Q4_K_M, 8k tokens).
Ninguno de los equipos que medimos admite este modelo en la compresión de referencia, ni siquiera con el contexto más bajo.
Antes de darle a descargar: a 3 de noviembre de 2026, Mistral llama a este modelo «Le Chonk» (algo así como «el gordito») y no exagera: con 591,21 GiB en Q4_K_M no entra en ninguno de nuestros equipos. En nuestra lista, la única forma de moverlo es bajar a 2 o 3 bits en el Mac Studio con M5 Ultra y 512 GB. Según nuestras cuentas, ahí caben el Q2_K de ggml-org (354,56 GiB) con su contexto entero, 1024k; el UD-IQ3_XXS de unsloth (394,43 GiB), hasta 512k, y su UD-Q3_K_XL (458,91 GiB), hasta 256k. Nuestro catálogo no recoge esos ficheros de 2 y 3 bits, así que el buscador de modelos no los propone. Para abrirlo necesitas llama.cpp v0.9.0, su estable del 4 de noviembre de 2026, o cualquier compilación diaria desde la b11998 (del 30 de octubre de 2026). Ollama lo ofrece solo en su nube (mistral-large-4:cloud), y LM Studio aún no tiene página del modelo. mlx-lm no lo abre en su última versión, la 0.32.2: las versiones MLX de mlx-community se prepararon con un cambio que todavía no se ha publicado; la de 3 bits pesa 427,71 GiB (solo texto) y la de 4 bits (549,86 GiB), según sus propios autores, no cabe en un solo Mac de 512 GB. vLLM lo sirve con su imagen oficial de Docker, con una etiqueta propia para este modelo; la receta de Mistral usa 8 tarjetas gráficas y su versión estable lo trae desde la 0.34.0, publicada el 16 de noviembre de 2026. La tabla cuenta solo el texto: para pasarle imágenes se suma el proyector de visión (3,17 GiB). Y la licencia, la Mistral Ecosystem Open-Weight License, es una MIT modificada: para usarlo en casa o dentro de tu empresa no cambia nada, pero si tu empresa (o una de su grupo) vende a terceros acceso al modelo como servicio (por una API, por ejemplo), Mistral exige antes una licencia comercial aparte.
