flint-40b
Architecture mélange d’experts49 CouchesLicence apache-2.0Contexte maximal 256kVocabulaire 150.144
En Q4_K_M, c’est un fichier de 23,61 Gio, et il tient sur 10 des 18 machines que nous mesurons (celles qui ont le moins de mémoire : Mini-PC avec NPU et 32 Go LPDDR5X · Mac mini avec M6 et 32 Go unifiés). Ici, c’est le fichier qui remplit la mémoire : même à son contexte maximal de 256k tokens, le contexte ajoute 7,03 Gio — et le même contenu demande en français 1,40 fois autant de tokens qu’en anglais (en allemand, 1,55 fois).
Taille du modèle en Q4_K_M
Mesuré par Local AI Scope
Mémoire de contexte à 8k tokens
Mesuré par Local AI Scope
Ce que coûte l’allemand face à l’anglais
Mesuré par Local AI Scope
Vidéos : flint-40b 1
Les meilleures démonstrations que nous avons trouvées. Appuyez et la vidéo s’ouvre ici.
Les vidéos sont sur YouTube et rien ne se charge depuis YouTube tant que vous n’appuyez pas (mode sans cookies). La miniature est servie par nous.
Tailles des fichiers publiés
Ce sont les tailles des fichiers réellement publiés par son auteur, additionnées lorsque le modèle est livré en plusieurs parties. Pas une estimation à partir du nombre de paramètres.
| Compression | Taille du modèle |
|---|---|
Q8_0 |
39,44 GiB |
Q6_K |
32,78 GiB |
Q5_K_M |
28,69 GiB |
Q5_K_S |
26,63 GiB |
Q4_K_M |
23,61 GiB |
Q4_K_S |
22,19 GiB |
IQ4_XS |
20,91 GiB |
Q3_K_M |
18,19 GiB |
Mémoire de contexte
Calculée à partir du schéma d’attention que ce modèle déclare couche par couche, et non de la formule générique. C’est pourquoi le chiffre est souvent bien inférieur à celui d’autres calculateurs.
- 8k tokens → 0,25 GiB
- 32k tokens → 0,91 GiB
- 128k tokens → 3,53 GiB
Ce qu’il coûte dans chaque langue
Mesuré en exécutant le tokenizer de ce modèle sur le même contenu dans quatre langues. Les tokens sont ce que l’on paie en contexte, en mémoire et sur la facture du cloud.
| Type de texte | EN | ES | FR | DE |
|---|---|---|---|---|
| Code | — | ×1,27 | ×1,40 | ×1,59 |
| Contrats | — | ×1,33 | ×1,40 | ×1,67 |
| Courriels d’entreprise | — | ×1,23 | ×1,32 | ×1,38 |
| Tickets d’assistance | — | ×1,39 | ×1,49 | ×1,52 |
L’anglais est la référence : chaque chiffre indique combien de fois plus de tokens coûte le même contenu dans cette langue. Moyenne sur tout le corpus: DE ×1,55.
Où il tient
Tenir signifie que le modèle, sa mémoire de contexte et la marge de travail tiennent au contexte indiqué, en laissant au système sa part. 10 sur les 18 machines testées (Q4_K_M, 8k tokens).
Si vous acceptez de le compresser davantage, il tourne là où le tableau dit non : en Q4_K_S (22,19 Gio), jusqu’à 8k tokens de contexte, sur Station de travail avec RTX 4090 24 Go; en Q3_K_M (18,19 Gio), jusqu’à 32k tokens de contexte, sur Mac avec M4 Pro et 24 Go. Sous Q4_K_M, le modèle perd un peu en qualité, et en Q3_K_M cela se sent ; c’est pourquoi le tableau ci-dessus s’en tient à Q4_K_M.
Avant de cliquer sur télécharger : au 23 octobre 2026, Recursive Flint vient de sortir et les programmes qui le font tourner sont encore en train de rattraper leur retard : vérifiez d’abord votre version. llama.cpp l’ouvre à partir de la compilation quotidienne b11803 (du 21 octobre 2026) ; sa version stable la plus récente, la v0.7.0 (du 15 octobre 2026), non. Ollama le fait tourner sous Linux et Windows, en plus de macOS, depuis la version 0.40.9 (du 23 octobre 2026), celle qui a porté le llama.cpp intégré à Ollama à la compilation b11803. Attention : ollama run flint ne télécharge pas le Q4_K_M du tableau (23,61 Gio). Sur un Mac Apple Silicon, il récupère une version MLX ; sous Linux, Windows et sur les Mac Intel, le fichier NVFP4 de Recursive elle-même (21,29 Gio, pensé surtout pour les cartes NVIDIA). D’après notre calcul, ce fichier NVFP4 tient sur une carte graphique de 24 Go jusqu’à 16k, mais Recursive indique l’avoir testé sur quatre systèmes NVIDIA (B300, RTX PRO 6000 Blackwell, RTX Spark et DGX Spark) et recommande au moins 48 Go de mémoire graphique ; nous n’avons pas vérifié s’il fonctionne sur une RTX 4090. Ollama propose aussi le Q4_1 de Recursive (flint:40b-a2b-q4_1, 24,21 Gio), pensé surtout pour les Mac (Recursive demande au moins 48 Go de mémoire unifiée), et une version MLX (flint:40b-a2b-qat-int4, 21,03 Gio), que la 0.40.8 faisait déjà tourner, uniquement sous macOS. L’équipe de LM Studio a publié un GGUF dans son programme communautaire (lmstudio-community), dont le Q4_K_M pèse 22,51 Gio ; nous n’avons pas vérifié quelle version du moteur de LM Studio il faut, alors mettez-le à jour avant d’essayer. mlx-lm ne l’ouvre pas dans sa dernière version, la 0.32.2. vLLM l’a ajouté à sa branche de développement le 22 octobre 2026, après sa dernière version stable, la 0.32.0, qui ne l’ouvre donc pas encore. Et le contexte : le tableau s’arrête à 256k, ce que déclare son config.json ; Recursive annonce jusqu’à 512k et recommande de ne pas dépasser 256k.