Matériel

Chaque fiche matériel répond à ce que la fiche technique élude : combien de mémoire reste vraiment une fois que le système a pris sa part, et lesquels des 18 modèles mesurés tiennent dans ce qui reste, avec le contexte que chacun supporte. Deux listes par machine, ceux qui tiennent et ceux qui ne tiennent pas, pour voir ce qu’il ne faut PAS acheter.

Machine	Mémoire restante pour le modèle	Bande passante	Modèles qui tiennent à 8k	et à 32k	Plus grand modèle admis
PC avec RTX 4060 8 Go	7,20 GiB	272 GB/s dérivé, non publié	5 / 18	3 / 18	`qwen3-8b` 4,68 GiB
PC avec RTX 3060 12 Go	11,20 GiB	360 GB/s dérivé, non publié	6 / 18	6 / 18	`gemma4-12b` 6,63 GiB
PC avec RTX 4070 12 Go	11,20 GiB	504 GB/s dérivé, non publié	6 / 18	6 / 18	`gemma4-12b` 6,63 GiB
Mac avec M4 et 16 Go unifiés	13,00 GiB	120 GB/s déclaré par le fabricant	7 / 18	7 / 18	`gpt-oss-20b` 10,83 GiB
Portable de bureau, processeur seul, 16 Go	13,00 GiB	83 GB/s estimé	7 / 18	7 / 18	`gpt-oss-20b` 10,83 GiB
Mac avec M4 Pro et 24 Go	21,00 GiB	273 GB/s déclaré par le fabricant	13 / 18	11 / 18	`qwen3-coder-30b` 17,28 GiB
Station de travail avec RTX 4090 24 Go	23,20 GiB	1008 GB/s déclaré par le fabricant	14 / 18	13 / 18	`qwen3.6-35b-a3b` 20,61 GiB
Mini-PC avec NPU et 32 Go LPDDR5X	29,00 GiB	120 GB/s estimé	14 / 18	14 / 18	`qwen3.6-35b-a3b` 20,61 GiB
Serveur avec 2× RTX 3090 (48 Go)	47,20 GiB	936 GB/s déclaré par le fabricant	14 / 18	14 / 18	`qwen3.6-35b-a3b` 20,61 GiB
Mac avec M4 Max et 64 Go	61,00 GiB	546 GB/s déclaré par le fabricant	15 / 18	15 / 18	`gpt-oss-120b` 58,46 GiB

Tenir signifie que le fichier du modèle, sa mémoire de contexte et la marge du runtime tiennent dans ce qui reste une fois que le système a pris sa part, en Q4_K_M ou à la compression la plus proche publiée par l’auteur. La bande passante porte sa provenance dans la cellule : cinq de ces dix chiffres ne sont publiés nulle part par le fabricant, et nous le disons au lieu de les faire passer pour des spécifications.