Mac avec M4 Max et 64 Go

Les tailles sont celles des fichiers réellement publiés à la compression de référence, un palier par ligne : Q4_K_M lorsque l’auteur la publie, le voisin le plus proche sinon. Chaque ligne indique laquelle elle affiche. Q4_K_M est notre plancher de qualité : en dessous, la perte s’entend dans les réponses. Un modèle qui ne tiendrait ici qu’avec une compression plus agressive est classé comme ne tenant pas, à dessein. Un tiret dans une colonne de contexte signifie que le modèle n’offre pas ce contexte, il n’y a donc rien à faire tenir.

Modèles qui tiennent — 20 sur les 26 modèles mesurés

• qwen3-1.7b Q4_K_M — contexte 32k tokens
• qwen3-4b-2507 Q4_K_M — contexte 256k tokens
• gemma4-e2b Q4_K_M — contexte 128k tokens
• gemma4-e4b Q4_K_M — contexte 128k tokens
• qwen3-8b Q4_K_M — contexte 32k tokens
• granite-4.2-8b Q4_K_M — contexte 128k tokens
• qwen3.5-9b Q4_K_M — contexte 256k tokens
• gemma4-12b Q4_K_M — contexte 256k tokens
• gpt-oss-20b Q4_K_M — contexte 128k tokens
• mistral-small-24b Q4_K_M — contexte 128k tokens
• qwen3.8-27b Q4_K_M — contexte 256k tokens
• muse-glimmer-30b Q4_K_M — contexte 128k tokens
• qwen3.6-27b Q4_K_M — contexte 256k tokens
• gemma4-26b-a4b Q4_K_M — contexte 256k tokens
• gemma4-31b Q4_K_M — contexte 256k tokens
• qwen3-coder-30b Q4_K_M — contexte 256k tokens
• qwen3.6-35b-a3b Q4_K_M — contexte 256k tokens
• flint-40b Q4_K_M — contexte 256k tokens
• nemotron-3.5-lightning-30b Q4_K_M — contexte 256k tokens
• gpt-oss-120b Q4_K_M — contexte 32k tokens

Modèles qui ne tiennent pas — 6 sur les 26 modèles mesurés

• llama4-scout-17b Q4_K_M — il manque 1,30 GiB
• nemotron-3.5-super-120b Q4_K_M — il manque 5,00 GiB
• qwen3.8-flash-next IQ4_XS — il manque 27,02 GiB
• deepseek-v4-flash IQ4_XS — il manque 67,29 GiB
• glm-5.3-flash Q4_K_M — il manque 126,80 GiB
• glm-5.2 Q4_K_M — il manque 374,12 GiB

Prêt à compresser un peu plus ? Alors, dans cette liste, tout n’est pas hors de portée. Dans les 61,00 GiB de mémoire unifiée qui restent pour le modèle, llama4-scout-17b tient en Q4_K_S (57,23 GiB) avec jusqu’à 16k tokens de contexte. Sous la compression du tableau, un modèle perd en qualité ; c’est pourquoi notre décompte s’en tient au tableau.

Les machines voisines

• Mini-PC avec NPU et 32 Go LPDDR5X — 29,00 Gio pour le modèle, 19 / 26 modèles
• Serveur avec 2× RTX 3090 (48 Go) — 47,20 Gio pour le modèle, 19 / 26 modèles
• Mac mini avec M5 Pro et 64 Go unifiés — 61,00 Gio pour le modèle, 20 / 26 modèles
• Xiaomi AI Cube, 80 Go — prototype d’ingénierie — 77,00 Gio pour le modèle, 22 / 26 modèles