qwen3.5-9b
Architecture dense32 CouchesLicence apache-2.0Contexte maximal 256kVocabulaire 248.320
En Q4_K_M, c’est un fichier de 5,29 Gio, et il tient sur 18 des 18 machines que nous mesurons (celle qui a le moins de mémoire : PC avec RTX 4060 8 Go). Attention au contexte : à son maximum de 256k tokens, il occupe 8,00 Gio, plus que le fichier lui-même — et le même contenu demande en français 1,29 fois autant de tokens qu’en anglais (en allemand, 1,31 fois).
Taille du modèle en Q4_K_M
Mesuré par Local AI Scope
Mémoire de contexte à 8k tokens
Mesuré par Local AI Scope
Ce que coûte l’allemand face à l’anglais
Mesuré par Local AI Scope
Vidéos : qwen3.5-9b 2
Les meilleures démonstrations que nous avons trouvées. Appuyez et la vidéo s’ouvre ici.
Les vidéos sont sur YouTube et rien ne se charge depuis YouTube tant que vous n’appuyez pas (mode sans cookies). La miniature est servie par nous.
Tailles des fichiers publiés
Ce sont les tailles des fichiers réellement publiés par son auteur, additionnées lorsque le modèle est livré en plusieurs parties. Pas une estimation à partir du nombre de paramètres.
| Compression | Taille du modèle |
|---|---|
Q8_0 |
8,87 GiB |
Q6_K |
6,95 GiB |
Q5_K_M |
6,13 GiB |
Q5_K_S |
5,92 GiB |
Q4_K_M |
5,29 GiB |
Q4_K_S |
5,02 GiB |
IQ4_XS |
4,81 GiB |
Q3_K_M |
4,35 GiB |
Ce modèle lit aussi les images. Il lui faut pour cela un second fichier, le projecteur de vision (mmproj-F16.gguf, 0,86 Gio), publié à côté du modèle et non compté dans les chiffres de cette page : ils ne comptent que le texte. Si vous comptez lui envoyer des images, ajoutez-le à la taille du modèle.
Mémoire de contexte
Calculée à partir du schéma d’attention que ce modèle déclare couche par couche, et non de la formule générique. C’est pourquoi le chiffre est souvent bien inférieur à celui d’autres calculateurs.
- 8k tokens → 0,25 GiB
- 32k tokens → 1,00 GiB
- 128k tokens → 4,00 GiB
Ce qu’il coûte dans chaque langue
Mesuré en exécutant le tokenizer de ce modèle sur le même contenu dans quatre langues. Les tokens sont ce que l’on paie en contexte, en mémoire et sur la facture du cloud.
| Type de texte | EN | ES | FR | DE |
|---|---|---|---|---|
| Code | — | ×1,20 | ×1,30 | ×1,46 |
| Contrats | — | ×1,16 | ×1,23 | ×1,31 |
| Courriels d’entreprise | — | ×1,12 | ×1,22 | ×1,17 |
| Tickets d’assistance | — | ×1,24 | ×1,40 | ×1,25 |
L’anglais est la référence : chaque chiffre indique combien de fois plus de tokens coûte le même contenu dans cette langue. Moyenne sur tout le corpus: DE ×1,31.
Où il tient
Tenir signifie que le modèle, sa mémoire de contexte et la marge de travail tiennent au contexte indiqué, en laissant au système sa part. 18 sur les 18 machines testées (Q4_K_M, 8k tokens).
Avant de cliquer sur télécharger : au 12 octobre 2026, tous les programmes de notre liste ouvrent ce modèle. Toutes les versions stables de llama.cpp l’intègrent (le 16 octobre 2026, la dernière était la v0.7.0, du 15 octobre 2026), ainsi que toutes ses compilations quotidiennes depuis la b7990 ; Ollama le propose depuis la 0.17.5 ; LM Studio l’a dans son propre catalogue, qui demande au moins 7 Go de mémoire système ; mlx-lm l’ouvre depuis la 0.31.0, pour le texte seulement, et vLLM depuis la 0.17.0, avec les poids d’origine en BF16 (17,98 Gio) dans la mémoire de la carte graphique : parmi les PC de notre liste équipés d’une carte graphique, seuls la RTX 4090 et le serveur à deux RTX 3090 ont la place, et sur Mac vLLM ne tourne que sur le CPU, à titre expérimental. Par défaut, il réfléchit avant de répondre (une habitude qu’on recommanderait à tout le monde), et ses auteurs conseillent de lui laisser au moins 128k tokens de contexte pour qu’il puisse le faire : d’après le tableau ci-dessus, les machines de 16 Go ou plus y arrivent, les cartes de 12 Go s’arrêtent à 64k et celle de 8 Go à 16k. Le tableau ne compte que le texte. Pour lui envoyer des images, il faut aussi charger le projecteur de vision (0,86 Gio), et Ollama le charge à chaque fois, même pour le texte : son qwen3.5:9b pèse 6,6 Go projecteur compris (sur Mac, Ollama utilise sa version MLX, de 7,6 Go). Avec le projecteur, les machines de 16 Go atteignent 64k au lieu de 128k, les cartes de 12 Go restent à 64k et la RTX 4060 de 8 Go plafonne à 8k, avec 0,10 Gio de marge ou moins, trop peu pour s’y fier ; à partir de 24 Go, rien ne change : 256k.