Mac avec M4 Pro et 24 Go

Les tailles sont celles des fichiers réellement publiés à la compression de référence, un palier par ligne : Q4_K_M lorsque l’auteur la publie, le voisin le plus proche sinon. Chaque ligne indique laquelle elle affiche. Q4_K_M est notre plancher de qualité : en dessous, la perte s’entend dans les réponses. Un modèle qui ne tiendrait ici qu’avec une compression plus agressive est classé comme ne tenant pas, à dessein. Un tiret dans une colonne de contexte signifie que le modèle n’offre pas ce contexte, il n’y a donc rien à faire tenir.

Modèles qui tiennent — 16 sur les 26 modèles mesurés

• qwen3-1.7b Q4_K_M — contexte 32k tokens
• qwen3-4b-2507 Q4_K_M — contexte 64k tokens
• gemma4-e2b Q4_K_M — contexte 128k tokens
• gemma4-e4b Q4_K_M — contexte 128k tokens
• qwen3-8b Q4_K_M — contexte 32k tokens
• granite-4.2-8b Q4_K_M — contexte 64k tokens
• qwen3.5-9b Q4_K_M — contexte 256k tokens
• gemma4-12b Q4_K_M — contexte 256k tokens
• gpt-oss-20b Q4_K_M — contexte 128k tokens
• mistral-small-24b Q4_K_M — contexte 32k tokens
• qwen3.8-27b Q4_K_M — contexte 32k tokens
• muse-glimmer-30b Q4_K_M — contexte 128k tokens
• qwen3.6-27b Q4_K_M — contexte 32k tokens
• gemma4-26b-a4b Q4_K_M — contexte 64k tokens
• gemma4-31b Q4_K_M — contexte 16k tokens
• qwen3-coder-30b Q4_K_M — contexte 16k tokens

Modèles qui ne tiennent pas — 10 sur les 26 modèles mesurés

• qwen3.6-35b-a3b Q4_K_M — il manque 0,37 GiB
• flint-40b Q4_K_M — il manque 3,42 GiB
• nemotron-3.5-lightning-30b Q4_K_M — il manque 3,43 GiB
• gpt-oss-120b Q4_K_M — il manque 38,28 GiB
• llama4-scout-17b Q4_K_M — il manque 41,30 GiB
• nemotron-3.5-super-120b Q4_K_M — il manque 45,00 GiB
• qwen3.8-flash-next IQ4_XS — il manque 67,02 GiB
• deepseek-v4-flash IQ4_XS — il manque 107,29 GiB
• glm-5.3-flash Q4_K_M — il manque 166,80 GiB
• glm-5.2 Q4_K_M — il manque 414,12 GiB

Prêt à compresser un peu plus ? Alors, dans cette liste, tout n’est pas hors de portée. Dans les 21,00 GiB de mémoire unifiée qui restent pour le modèle, qwen3.6-35b-a3b tient en Q4_K_S (19,46 GiB) avec jusqu’à 16k tokens de contexte ; flint-40b tient en Q3_K_M (18,19 GiB) avec jusqu’à 32k tokens de contexte, et nemotron-3.5-lightning-30b tient en IQ4_XS (17,62 GiB) avec jusqu’à 64k tokens de contexte. Sous la compression du tableau, un modèle perd en qualité, et en Q3_K_M nettement plus ; c’est pourquoi notre décompte s’en tient au tableau.

Les machines voisines

• Mac mini avec M6 et 16 Go unifiés — 13,00 Gio pour le modèle, 9 / 26 modèles
• Portable de bureau, processeur seul, 16 Go — 13,00 Gio pour le modèle, 9 / 26 modèles
• Station de travail avec RTX 4090 24 Go — 23,20 Gio pour le modèle, 17 / 26 modèles
• Mac mini avec M6 et 32 Go unifiés — 29,00 Gio pour le modèle, 19 / 26 modèles