glm-5.3-flash
Architecture mélange d’experts45 CouchesLicence mitContexte maximal 1.024kVocabulaire 154.880
En Q4_K_M, c’est un fichier de 187,04 Gio, et il tient sur 1 des 18 machines que nous mesurons (une seule : Mac Studio avec M5 Ultra et 512 Go unifiés). Ici, c’est le fichier qui remplit la mémoire : même à son contexte maximal de 1024k tokens, le contexte ajoute 22,00 Gio — et le même contenu demande en français 1,40 fois autant de tokens qu’en anglais (en allemand, 1,49 fois).
Taille du modèle en Q4_K_M
Mesuré par Local AI Scope
Mémoire de contexte à 8k tokens
Mesuré par Local AI Scope
Ce que coûte l’allemand face à l’anglais
Mesuré par Local AI Scope
Vidéos : glm-5.3-flash 3
Les meilleures démonstrations que nous avons trouvées. Appuyez et la vidéo s’ouvre ici.
Les vidéos sont sur YouTube et rien ne se charge depuis YouTube tant que vous n’appuyez pas (mode sans cookies). La miniature est servie par nous.
Tailles des fichiers publiés
Ce sont les tailles des fichiers réellement publiés par son auteur, additionnées lorsque le modèle est livré en plusieurs parties. Pas une estimation à partir du nombre de paramètres.
| Compression | Taille du modèle |
|---|---|
Q8_0 |
318,05 GiB |
Q6_K |
261,74 GiB |
Q5_K_M |
226,96 GiB |
Q5_K_S |
212,26 GiB |
Q4_K_M |
187,04 GiB |
Q4_K_S |
176,30 GiB |
IQ4_XS |
165,54 GiB |
Q3_K_M |
144,37 GiB |
Ce modèle lit aussi les images. Il lui faut pour cela un second fichier, le projecteur de vision (mmproj-GLM-5.3-Flash-BF16-f16.gguf, 1,05 Gio), publié à côté du modèle et non compté dans les chiffres de cette page : ils ne comptent que le texte. Si vous comptez lui envoyer des images, ajoutez-le à la taille du modèle.
Mémoire de contexte
Calculée à partir du schéma d’attention que ce modèle déclare couche par couche, et non de la formule générique. C’est pourquoi le chiffre est souvent bien inférieur à celui d’autres calculateurs. Ce modèle garde sa mémoire de contexte compressée (attention latente) : par couche et par token, un vecteur de 512 valeurs au lieu de ses 64 têtes de 256. Nous la comptons comme une tête de 512 pour la clé et une autre pour la valeur, un peu plus que ce qu’elle occupe réellement (un même latent sert aux deux) : ces chiffres pèchent par excès, jamais par défaut.
- 8k tokens → 0,17 GiB
- 32k tokens → 0,69 GiB
- 128k tokens → 2,75 GiB
Ce qu’il coûte dans chaque langue
Mesuré en exécutant le tokenizer de ce modèle sur le même contenu dans quatre langues. Les tokens sont ce que l’on paie en contexte, en mémoire et sur la facture du cloud.
| Type de texte | EN | ES | FR | DE |
|---|---|---|---|---|
| Code | — | ×1,26 | ×1,41 | ×1,64 |
| Contrats | — | ×1,29 | ×1,36 | ×1,52 |
| Courriels d’entreprise | — | ×1,22 | ×1,32 | ×1,32 |
| Tickets d’assistance | — | ×1,33 | ×1,51 | ×1,41 |
L’anglais est la référence : chaque chiffre indique combien de fois plus de tokens coûte le même contenu dans cette langue. Moyenne sur tout le corpus: DE ×1,49.
Où il tient
Tenir signifie que le modèle, sa mémoire de contexte et la marge de travail tiennent au contexte indiqué, en laissant au système sa part. 1 sur les 18 machines testées (Q4_K_M, 8k tokens).
Si vous acceptez de le compresser davantage, il tourne là où le tableau dit non : en Q3_K_M (144,37 Gio), jusqu’à 256k tokens de contexte, sur PC avec Ryzen AI Max+ PRO 495 et 192 Go unifiés. Sous Q4_K_M, le modèle perd un peu en qualité, et en Q3_K_M cela se sent ; c’est pourquoi le tableau ci-dessus s’en tient à Q4_K_M.
Avant de cliquer sur télécharger : au 6 octobre 2026, pour faire tourner ce modèle sur l’une de ces machines, il faut llama.cpp : sa version stable v0.6.0, publiée le 5 octobre 2026, l’ouvre, tout comme ses compilations quotidiennes à partir de la b11279 ; les versions antérieures, non. Ollama et LM Studio ne le proposent que dans leur cloud (pas de téléchargement local dans leur catalogue), et mlx-lm ne prend pas en charge son architecture. vLLM le prend en charge, mais avec les poids d’origine en FP8 (305,81 Gio) dans la mémoire de la carte graphique, et aucun PC de notre liste n’a autant de VRAM. Bonne nouvelle quand même : le fichier Q4_K_M contient une couche de 3,93 Gio servant à prédire plusieurs tokens à la fois, que llama.cpp ne charge pas ; avec lui, le modèle a donc besoin de 3,93 Gio de moins que ce qu’indique le tableau.