AccueilMatérielMini-PC avec NPU et 32 Go LPDDR5X

Fiche de machine

Mini-PC avec NPU et 32 Go LPDDR5X

mini-PC avec NPU32 GiB120 GB/s4,0 TFLOPS

Cette machine laisse 29,00 Gio au modèle une fois que le système a pris sa part, et elle accepte 14 des 18 modèles que nous mesurons à la compression de référence. Ce qui décide de sa vitesse de réponse n’est pas la puce : ce sont les 120 GB/s de bande passante mémoire.

En un coup d’œil
Reste pour le modèle29,00 GiB
Bande passante120 GB/s
Modèles qui tiennent14 / 18
Plus gros modèle acceptéqwen3.6-35b-a3b
29,00 GiB

Reste pour le modèle

Estimation maison

120 GB/s

Bande passante mémoire

Estimation maison

14 / 18

Modèles qui tiennent

Mesuré par Local AI Scope

Mémoire

La mémoire réellement utilisable

La mémoire unifiée est partagée avec le système d’exploitation et tout ce que vous avez ouvert. La réserve indiquée ici est volontairement prudente ; vous pouvez la modifier dans l’outil.

Comment la mémoire annoncée devient de la mémoire utilisable
Mémoire Gio
Mémoire de la machine 32
Réservée au système −3,00
Reste pour le modèle 29,00
Vitesse

Bande passante mémoire

Ce sont deux limites différentes, et on les confond sans cesse. Pendant que le modèle écrit sa réponse, c’est la bande passante qui commande : chaque token oblige à relire tous les poids, si bien que les tokens par seconde valent à peu près la bande passante divisée par la taille du modèle. Pendant que le modèle lit votre document, c’est le calcul qui commande : l’entrée est traitée d’un seul coup. D’où un portable sans GPU qui met des minutes avant le premier mot puis écrit à un rythme acceptable.

120 GB/sEstimé · pas de fabricant unique : il s’agit d’une classe de machine, pas d’un produit. Le chiffre est une estimation prudente pour cette classe, pas une spécification.

Calcul: 4,0 TFLOPS (estimation pour cette classe de machine) — Estimé · pas de fabricant unique : il s’agit d’une classe de machine, pas d’un produit. Le chiffre est une estimation prudente pour cette classe, pas une spécification. Les chiffres de cette ligne ne proviennent pas tous de la même mesure selon la machine, car chaque fabricant en publie une différente. Comparez-les d’une machine à l’autre en le sachant.

Compatibilité

Quels modèles tiennent ici, et lesquels non

Tenir signifie que trois choses tiennent à la fois dans la mémoire restante : le fichier du modèle, sa mémoire de contexte et la marge de travail du runtime. La mémoire de contexte est calculée à partir du schéma d’attention que chaque modèle déclare, couche par couche, et non de la formule générique : c’est pourquoi des modèles que d’autres calculateurs jugent impossibles tiennent ici.

Chaque modèle mesuré face à cette machine : taille, s’il tient à chaque contexte et le plus grand contexte qu’il y tient
Modèle Compression affichée Taille du modèle 8k 32k 128k Plus grand contexte qui tient
qwen3-1.7b Q4_K_M 1,03 GiB oui oui 32k
qwen3-4b-2507 Q4_K_M 2,33 GiB oui oui oui 128k
gemma4-e2b Q4_K_M 2,89 GiB oui oui oui 128k
gemma4-e4b Q4_K_M 4,63 GiB oui oui oui 128k
qwen3-8b Q4_K_M 4,68 GiB oui oui 32k
gemma4-12b Q4_K_M 6,63 GiB oui oui oui 256k
gpt-oss-20b Q4_K_M 10,83 GiB oui oui oui 128k
mistral-small-24b Q4_K_M 13,35 GiB oui oui non 64k
qwen3.8-27b Q4_K_M 15,33 GiB oui oui oui 128k
qwen3.6-27b Q4_K_M 15,66 GiB oui oui oui 128k
gemma4-26b-a4b Q4_K_M 15,78 GiB oui oui oui 128k
gemma4-31b Q4_K_M 17,07 GiB oui oui non 32k
qwen3-coder-30b Q4_K_M 17,28 GiB oui oui non 64k
qwen3.6-35b-a3b Q4_K_M 20,61 GiB oui oui oui 128k
gpt-oss-120b Q4_K_M 58,46 GiB non non non
llama4-scout-17b Q4_K_M 60,87 GiB non non non
deepseek-v4-flash IQ4_XS 127,28 GiB non non non
glm-5.2 Q4_K_M 433,83 GiB non non non

Les tailles sont celles des fichiers réellement publiés à la compression de référence, un palier par ligne : Q4_K_M lorsque l’auteur la publie, le voisin le plus proche sinon. Chaque ligne indique laquelle elle affiche. Q4_K_M est notre plancher de qualité : en dessous, la perte s’entend dans les réponses. Un modèle qui ne tiendrait ici qu’avec une compression plus agressive est classé comme ne tenant pas, à dessein. Un tiret dans une colonne de contexte signifie que le modèle n’offre pas ce contexte, il n’y a donc rien à faire tenir.

Modèles qui tiennent — 14 sur les 18 modèles mesurés

Modèles qui ne tiennent pas — 4 sur les 18 modèles mesurés