Accueil›Modèles›qwen3-coder-30b

Fiche de modèle

qwen3-coder-30b

Architecture mélange d’experts48 CouchesLicence apache-2.0Contexte maximal 256kVocabulaire 151.936

En Q4_K_M, c’est un fichier de 17,28 Gio, et il tient sur 12 des 18 machines que nous mesurons (celle qui a le moins de mémoire : Mac avec M4 Pro et 24 Go). Attention au contexte : à son maximum de 256k tokens, il occupe 24,00 Gio, plus que le fichier lui-même — et le même contenu demande en français 1,46 fois autant de tokens qu’en anglais (en allemand, 1,62 fois).

En un coup d’œil
Taille en Q4_K_M17,28 GiB
Mémoire de contexte à 8k0,75 GiB
Tient sur12 / 18
Coût de l’allemand×1,62
Plus petite machine qui l’accepteMac avec M4 Pro et 24 Go
17,28 GiB

Taille du modèle en Q4_K_M

Mesuré par Local AI Scope

0,75 GiB

Mémoire de contexte à 8k tokens

Mesuré par Local AI Scope

×1,62

Ce que coûte l’allemand face à l’anglais

Mesuré par Local AI Scope

Tailles

Tailles des fichiers publiés

Ce sont les tailles des fichiers réellement publiés par son auteur, additionnées lorsque le modèle est livré en plusieurs parties. Pas une estimation à partir du nombre de paramètres.

Taille du fichier publié pour chaque compression
Compression Taille du modèle
Q8_0 30,25 GiB
Q6_K 23,37 GiB
Q5_K_M 20,23 GiB
Q5_K_S 19,63 GiB
Q4_K_M 17,28 GiB
Q4_K_S 16,26 GiB
IQ4_XS 15,25 GiB
Q3_K_M 13,70 GiB
Contexte

Mémoire de contexte

Calculée à partir du schéma d’attention que ce modèle déclare couche par couche, et non de la formule générique. C’est pourquoi le chiffre est souvent bien inférieur à celui d’autres calculateurs.

  • 8k tokens → 0,75 GiB
  • 32k tokens → 3,00 GiB
  • 128k tokens → 12,00 GiB
Langues

Ce qu’il coûte dans chaque langue

Mesuré en exécutant le tokenizer de ce modèle sur le même contenu dans quatre langues. Les tokens sont ce que l’on paie en contexte, en mémoire et sur la facture du cloud.

Coût en tokens par type de texte et par langue, l’anglais servant de référence
Type de texte EN ES FR DE
Code — ×1,28 ×1,47 ×1,68
Contrats — ×1,39 ×1,42 ×1,74
Courriels d’entreprise — ×1,25 ×1,36 ×1,46
Tickets d’assistance — ×1,39 ×1,57 ×1,54

L’anglais est la référence : chaque chiffre indique combien de fois plus de tokens coûte le même contenu dans cette langue. Moyenne sur tout le corpus: DE ×1,62.

Machines

Où il tient

Tenir signifie que le modèle, sa mémoire de contexte et la marge de travail tiennent au contexte indiqué, en laissant au système sa part. 12 sur les 18 machines testées (Q4_K_M, 8k tokens).

Les 18 machines testées, avec la mémoire que chacune laisse et le plus grand contexte que ce modèle y tient
Machine Tient Mémoire restante Plus grand contexte qui tient
PC avec RTX 4060 8 Go non 7,20 GiB —
PC avec RTX 3060 12 Go non 11,20 GiB —
PC avec RTX 4070 12 Go non 11,20 GiB —
Mac avec M4 et 16 Go unifiés non 13,00 GiB —
Portable de bureau, processeur seul, 16 Go non 13,00 GiB —
Mac mini avec M6 et 16 Go unifiés non 13,00 GiB —
Mac avec M4 Pro et 24 Go oui 21,00 GiB 16k
Station de travail avec RTX 4090 24 Go oui 23,20 GiB 32k
Mini-PC avec NPU et 32 Go LPDDR5X oui 29,00 GiB 64k
Mac mini avec M6 et 32 Go unifiés oui 29,00 GiB 64k
Serveur avec 2× RTX 3090 (48 Go) oui 47,20 GiB 256k
Mac avec M4 Max et 64 Go oui 61,00 GiB 256k
Mac mini avec M5 Pro et 64 Go unifiés oui 61,00 GiB 256k
Xiaomi AI Cube, 80 Go — prototype d’ingénierie oui 77,00 GiB 256k
PC avec Ryzen AI Max+ 395 et 128 Go unifiés oui 96,00 GiB 256k
Mac Studio avec M5 Max et 128 Go unifiés oui 125,00 GiB 256k
PC avec Ryzen AI Max+ PRO 495 et 192 Go unifiés oui 160,00 GiB 256k
Mac Studio avec M5 Ultra et 512 Go unifiés oui 509,00 GiB 256k