flint-40b
Arquitectura mezcla de expertos49 CapasLicencia apache-2.0Contexto máximo 256kVocabulario 150.144
En Q4_K_M es un fichero de 23,61 GiB y entra en 10 de los 18 equipos que medimos (los de menos memoria: Mini-PC con NPU y 32 GB LPDDR5X · Mac mini con M6 y 32 GB unificados). Aquí lo que llena la memoria es el fichero: incluso con su contexto máximo de 256k tokens, el contexto suma 7,03 GiB — y el mismo contenido, en tokens, cuesta en español ×1,30 lo que en inglés (en alemán, ×1,55).
Tamaño del modelo en Q4_K_M
Medido por Local AI Scope
Memoria de contexto a 8k tokens
Medido por Local AI Scope
Lo que cuesta el alemán frente al inglés
Medido por Local AI Scope
Vídeos: flint-40b 1
Las mejores pruebas que hemos encontrado. Pulsa y se abre aquí mismo.
Los vídeos están en YouTube y no se carga nada de allí hasta que pulsas (modo sin cookies). La miniatura la servimos nosotros.
Tamaños de los ficheros publicados
Son los tamaños de los ficheros que publica su autor, sumados cuando el modelo viene partido en trozos. No es una estimación a partir del número de parámetros.
| Compresión | Tamaño del modelo |
|---|---|
Q8_0 |
39,44 GiB |
Q6_K |
32,78 GiB |
Q5_K_M |
28,69 GiB |
Q5_K_S |
26,63 GiB |
Q4_K_M |
23,61 GiB |
Q4_K_S |
22,19 GiB |
IQ4_XS |
20,91 GiB |
Q3_K_M |
18,19 GiB |
Memoria de contexto
Calculada con el patrón de atención que este modelo declara capa a capa, no con la fórmula genérica. Por eso la cifra suele ser bastante menor que la que dan otras calculadoras.
- 8k tokens → 0,25 GiB
- 32k tokens → 0,91 GiB
- 128k tokens → 3,53 GiB
Lo que cuesta en cada idioma
Medido ejecutando el tokenizador de este modelo sobre el mismo contenido en cuatro idiomas. Los tokens son lo que se paga en contexto, en memoria y en la factura de la nube.
| Tipo de texto | EN | ES | FR | DE |
|---|---|---|---|---|
| Código | — | ×1,27 | ×1,40 | ×1,59 |
| Contratos | — | ×1,33 | ×1,40 | ×1,67 |
| Correo de empresa | — | ×1,23 | ×1,32 | ×1,38 |
| Tickets de soporte | — | ×1,39 | ×1,49 | ×1,52 |
El inglés es la referencia: cada cifra es cuántas veces más tokens cuesta el mismo contenido en ese idioma. Media sobre todo el corpus: DE ×1,55.
Dónde cabe
Que quepa significa que caben el modelo, su memoria de contexto y el margen de trabajo al contexto indicado, dejándole al sistema lo suyo. 10 de los 18 equipos probados (Q4_K_M, 8k tokens).
Si aceptas comprimirlo más, sí corre donde la tabla dice que no: en Q4_K_S (22,19 GiB), hasta 8k tokens de contexto, en Estación con RTX 4090 24 GB; en Q3_K_M (18,19 GiB), hasta 32k tokens de contexto, en Mac con M4 Pro y 24 GB. Por debajo de Q4_K_M el modelo pierde algo de calidad, y en Q3_K_M se nota; por eso la tabla de arriba se queda en Q4_K_M.
Antes de darle a descargar: a 23 de octubre de 2026, Recursive Flint acaba de salir y los programas que lo mueven aún se están poniendo al día, así que mira antes tu versión. llama.cpp lo abre a partir de la compilación diaria b11803 (del 21 de octubre de 2026); su estable más reciente, la v0.7.0 (del 15 de octubre de 2026), no. Ollama lo mueve en Linux y Windows, además de en macOS, desde la 0.40.9 (del 23 de octubre de 2026), la versión que llevó el llama.cpp que trae dentro a la compilación b11803. Ojo: ollama run flint no descarga el Q4_K_M de la tabla (23,61 GiB). En un Mac con Apple Silicon baja una versión MLX; en Linux, Windows y los Mac con Intel, el fichero NVFP4 de la propia Recursive (21,29 GiB, pensado sobre todo para tarjetas de NVIDIA). Según nuestras cuentas, ese NVFP4 entra en una tarjeta gráfica de 24 GB hasta 16k, pero Recursive dice haberlo probado en cuatro sistemas de NVIDIA (B300, RTX PRO 6000 Blackwell, RTX Spark y DGX Spark) y recomienda al menos 48 GB de memoria de la gráfica; nosotros no hemos comprobado si funciona en una RTX 4090. Ollama ofrece además el Q4_1 de Recursive (flint:40b-a2b-q4_1, 24,21 GiB), pensado sobre todo para Mac (Recursive pide al menos 48 GB de memoria unificada), y una versión MLX (flint:40b-a2b-qat-int4, 21,03 GiB), que ya movía la 0.40.8, solo en macOS. El equipo de LM Studio ha publicado un GGUF en su programa de comunidad (lmstudio-community), cuyo Q4_K_M pesa 22,51 GiB; no hemos comprobado qué versión del motor de LM Studio hace falta, así que actualízalo antes de probar. mlx-lm no lo abre en su última versión, la 0.32.2. vLLM lo añadió a su rama de desarrollo el 22 de octubre de 2026, después de su última estable, la 0.32.0, que por eso todavía no lo abre. Y el contexto: la tabla se queda en 256k, que es lo que declara su config.json; Recursive dice que admite hasta 512k y recomienda no pasar de 256k.