Accueil›Modèles›deepseek-v4-flash

Fiche de modèle

deepseek-v4-flash

Architecture mélange d’experts43 CouchesLicence mitContexte maximal 1.024kVocabulaire 129.280

En IQ4_XS, c’est un fichier de 127,28 Gio, et il tient sur 2 des 18 machines que nous mesurons (celle qui a le moins de mémoire : PC avec Ryzen AI Max+ PRO 495 et 192 Go unifiés). Ici, c’est le fichier qui remplit la mémoire : même à son contexte maximal de 1024k tokens, le contexte ajoute 86,00 Gio — et le même contenu demande en français 1,45 fois autant de tokens qu’en anglais (en allemand, 1,58 fois).

En un coup d’œil
Taille en IQ4_XS127,28 GiB
Mémoire de contexte à 8k0,67 GiB
Tient sur2 / 18
Coût de l’allemand×1,58
Plus petite machine qui l’acceptePC avec Ryzen AI Max+ PRO 495 et 192 Go unifiés
127,28 GiB

Taille du modèle en IQ4_XS

Mesuré par Local AI Scope

0,67 GiB

Mémoire de contexte à 8k tokens

Mesuré par Local AI Scope

×1,58

Ce que coûte l’allemand face à l’anglais

Mesuré par Local AI Scope

Tailles

Tailles des fichiers publiés

Ce sont les tailles des fichiers réellement publiés par son auteur, additionnées lorsque le modèle est livré en plusieurs parties. Pas une estimation à partir du nombre de paramètres.

Taille du fichier publié pour chaque compression
Compression Taille du modèle
IQ4_XS 127,28 GiB
Q3_K_M 119,28 GiB
Contexte

Mémoire de contexte

Calculée à partir du schéma d’attention que ce modèle déclare couche par couche, et non de la formule générique. C’est pourquoi le chiffre est souvent bien inférieur à celui d’autres calculateurs.

  • 8k tokens → 0,67 GiB
  • 32k tokens → 2,69 GiB
  • 128k tokens → 10,75 GiB
Langues

Ce qu’il coûte dans chaque langue

Mesuré en exécutant le tokenizer de ce modèle sur le même contenu dans quatre langues. Les tokens sont ce que l’on paie en contexte, en mémoire et sur la facture du cloud.

Coût en tokens par type de texte et par langue, l’anglais servant de référence
Type de texte EN ES FR DE
Code — ×1,31 ×1,44 ×1,60
Contrats — ×1,37 ×1,47 ×1,64
Courriels d’entreprise — ×1,30 ×1,38 ×1,49
Tickets d’assistance — ×1,43 ×1,53 ×1,58

L’anglais est la référence : chaque chiffre indique combien de fois plus de tokens coûte le même contenu dans cette langue. Moyenne sur tout le corpus: DE ×1,58.

Machines

Où il tient

Tenir signifie que le modèle, sa mémoire de contexte et la marge de travail tiennent au contexte indiqué, en laissant au système sa part. 2 sur les 18 machines testées (IQ4_XS, 8k tokens).

Les 18 machines testées, avec la mémoire que chacune laisse et le plus grand contexte que ce modèle y tient
Machine Tient Mémoire restante Plus grand contexte qui tient
PC avec RTX 4060 8 Go non 7,20 GiB —
PC avec RTX 3060 12 Go non 11,20 GiB —
PC avec RTX 4070 12 Go non 11,20 GiB —
Mac avec M4 et 16 Go unifiés non 13,00 GiB —
Portable de bureau, processeur seul, 16 Go non 13,00 GiB —
Mac mini avec M6 et 16 Go unifiés non 13,00 GiB —
Mac avec M4 Pro et 24 Go non 21,00 GiB —
Station de travail avec RTX 4090 24 Go non 23,20 GiB —
Mini-PC avec NPU et 32 Go LPDDR5X non 29,00 GiB —
Mac mini avec M6 et 32 Go unifiés non 29,00 GiB —
Serveur avec 2× RTX 3090 (48 Go) non 47,20 GiB —
Mac avec M4 Max et 64 Go non 61,00 GiB —
Mac mini avec M5 Pro et 64 Go unifiés non 61,00 GiB —
Xiaomi AI Cube, 80 Go — prototype d’ingénierie non 77,00 GiB —
PC avec Ryzen AI Max+ 395 et 128 Go unifiés non 96,00 GiB —
Mac Studio avec M5 Max et 128 Go unifiés non 125,00 GiB —
PC avec Ryzen AI Max+ PRO 495 et 192 Go unifiés oui 160,00 GiB 256k
Mac Studio avec M5 Ultra et 512 Go unifiés oui 509,00 GiB 1024k

Si vous acceptez de le compresser davantage, il tourne là où le tableau dit non : en Q3_K_M (119,28 Gio), jusqu’à 32k tokens de contexte, sur Mac Studio avec M5 Max et 128 Go unifiés. Sous IQ4_XS, le modèle perd un peu en qualité, et en Q3_K_M cela se sent ; c’est pourquoi le tableau ci-dessus s’en tient à IQ4_XS.