Startseite›Modelle›mistral-large-4

Modell-Datenblatt

mistral-large-4

Architektur Expertenmischung72 SchichtenLizenz mistral-ecosystem-open-weightMaximaler Kontext 1.024kVokabular 204.800

Standbild aus Mistrals Vorstellungsvideo zu Mistral Large 4: eine riesige orangefarbene Pixel-„4“ in einem Museumssaal, davor die „Le Chonk“-Katze von hinten
Standbild aus Mistrals Vorstellungsvideo zu Mistral Large 4: eine riesige orangefarbene Pixel-„4“ in einem Museumssaal, davor die „Le Chonk“-Katze von hinten Standbild aus dem offiziellen Video · Mistral AI

Video ansehen

Bei Q4_K_M ist das eine Datei von 591,21 GiB, und sie passt bei 8k Tokens auf keinen der 18 getesteten Rechner. Von diesen 18 schafft es nur der Mac Studio mit M5 Ultra und 512 GB, und das nur mit 2 oder 3 Bit: Mit dem Q2_K von 354,56 GiB erreicht er nach unserer Rechnung den vollen Kontext von 1024k.

Auf einen Blick
Größe bei Q4_K_M591,21 GiB
Kontextspeicher bei 8k0,98 GiB
Passt auf0 / 18
Kosten auf Deutsch×1,24
591,21 GiB

Modellgröße bei Q4_K_M

Von Local AI Scope gemessen

0,98 GiB

Kontextspeicher bei 8k Tokens

Von Local AI Scope gemessen

×1,24

Was Deutsch gegenüber Englisch kostet

Von Local AI Scope gemessen

Videos

Videos: mistral-large-4 1

Die offiziellen Videos, die wir am nützlichsten fanden. Drücken Sie auf Play, und es läuft direkt hier.

Die Videos liegen bei YouTube, und von dort wird nichts geladen, bevor Sie auf Play drücken (Modus ohne Cookies). Das Vorschaubild kommt von uns.

Größen

Größen der veröffentlichten Dateien

Das sind die Größen der tatsächlich vom Autor veröffentlichten Dateien, addiert, wenn das Modell in Teilen ausgeliefert wird. Keine Schätzung aus der Parameterzahl.

Größe der veröffentlichten Datei je Kompression
Kompression Modellgröße
Q8_0 1.038,57 GiB
Q4_K_M 591,21 GiB

Dieses Modell liest auch Bilder. Dafür braucht es eine zweite Datei, den Vision-Projektor (mmproj-F16.gguf, 3,17 GiB), die neben dem Modell veröffentlicht wird und in den Zahlen dieser Seite nicht enthalten ist: Sie zählen nur Text. Wenn Sie ihm Bilder schicken wollen, rechnen Sie diese Datei zur Modellgröße hinzu.

Kontext

Kontextspeicher

Berechnet aus dem Aufmerksamkeitsmuster, das dieses Modell Schicht für Schicht angibt, nicht aus der generischen Formel. Deshalb liegt der Wert oft deutlich unter dem anderer Rechner. Dieses Modell speichert seinen Kontextspeicher komprimiert (latente Aufmerksamkeit): pro Schicht und Token ein Vektor mit 512 Werten statt seiner 64 Köpfe zu je 64. Wir rechnen ihn als einen Kopf mit 512 für den Schlüssel und einen weiteren für den Wert – etwas mehr, als er wirklich belegt (ein Latent dient beiden). Diese Zahlen liegen also eher zu hoch, nie zu niedrig.

  • 8k Tokens → 0,98 GiB
  • 32k Tokens → 3,94 GiB
  • 128k Tokens → 15,75 GiB
Sprachen

Was es in jeder Sprache kostet

Gemessen, indem der Tokenizer dieses Modells über denselben Inhalt in vier Sprachen läuft. Tokens sind das, was man im Kontext, im Speicher und auf der Cloud-Rechnung zahlt.

Tokenkosten nach Textsorte und Sprache, mit Englisch als Referenz
Textsorte EN ES FR DE
Code — ×1,18 ×1,27 ×1,37
Verträge — ×1,10 ×1,15 ×1,19
Geschäftliche E-Mails — ×1,11 ×1,17 ×1,13
Support-Tickets — ×1,17 ×1,31 ×1,25

Englisch ist die Referenz: Jede Zahl gibt an, um wie viel mehr Tokens derselbe Inhalt in dieser Sprache kostet. Durchschnitt über das gesamte Korpus: DE ×1,24.

Rechner

Wo es passt

Passt heißt: Modell, Kontextspeicher und Arbeitsreserve passen beim angegebenen Kontext gemeinsam hinein und lassen dem System seinen Anteil. 0 von den 18 getesteten Rechnern (Q4_K_M, 8k Tokens).

Die 18 getesteten Rechner, mit dem Speicher, den jeder frei lässt, und dem größten Kontext, den dieses Modell dort hält
Rechner Passt Freier Speicher Größter Kontext, der passt
PC mit RTX 4060 8 GB nein 7,20 GiB —
PC mit RTX 3060 12 GB nein 11,20 GiB —
PC mit RTX 4070 12 GB nein 11,20 GiB —
Mac mit M4 und 16 GB Unified Memory nein 13,00 GiB —
Büro-Notebook, nur CPU, 16 GB nein 13,00 GiB —
Mac mini mit M6 und 16 GB Unified Memory nein 13,00 GiB —
Mac mit M4 Pro und 24 GB nein 21,00 GiB —
Workstation mit RTX 4090 24 GB nein 23,20 GiB —
Mini-PC mit NPU und 32 GB LPDDR5X nein 29,00 GiB —
Mac mini mit M6 und 32 GB Unified Memory nein 29,00 GiB —
Server mit 2× RTX 3090 (48 GB) nein 47,20 GiB —
Mac mit M4 Max und 64 GB nein 61,00 GiB —
Mac mini mit M5 Pro und 64 GB Unified Memory nein 61,00 GiB —
Xiaomi AI Cube, 80 GB — Technikprototyp nein 77,00 GiB —
PC mit Ryzen AI Max+ 395 und 128 GB Unified Memory nein 96,00 GiB —
Mac Studio mit M5 Max und 128 GB Unified Memory nein 125,00 GiB —
PC mit Ryzen AI Max+ PRO 495 und 192 GB Unified Memory nein 160,00 GiB —
Mac Studio mit M5 Ultra und 512 GB Unified Memory nein 509,00 GiB —

Keiner der getesteten Rechner nimmt dieses Modell bei der Referenzkompression auf, nicht einmal beim kleinsten Kontext.

Bevor Sie auf Download klicken: Stand 3. November 2026 nennt Mistral dieses Modell „Le Chonk“ (etwa „Dickerchen“), und das ist nicht übertrieben: Mit 591,21 GiB in Q4_K_M passt es auf keinen unserer Rechner. Auf unserer Liste führt der einzige Weg über 2 oder 3 Bit auf dem Mac Studio mit M5 Ultra und 512 GB. Nach unserer Rechnung passen dort das Q2_K von ggml-org (354,56 GiB) mit vollem Kontext, 1024k, das UD-IQ3_XXS von unsloth (394,43 GiB) bis 512k und dessen UD-Q3_K_XL (458,91 GiB) bis 256k. Unser Katalog führt diese 2- und 3-Bit-Dateien nicht, deshalb schlägt der Modellfinder sie nicht vor. Zum Öffnen brauchen Sie llama.cpp v0.9.0, die stabile Version vom 4. November 2026, oder einen täglichen Build ab b11998 (vom 30. Oktober 2026). Ollama bietet es nur in seiner Cloud an (mistral-large-4:cloud), und LM Studio hat noch keine Seite für das Modell. mlx-lm öffnet es in seiner neuesten Version 0.32.2 nicht: Die MLX-Versionen von mlx-community entstanden mit einer Änderung, die noch nicht veröffentlicht ist; die 3-Bit-Version wiegt 427,71 GiB (nur Text), und die 4-Bit-Version (549,86 GiB) passt laut ihren eigenen Autoren nicht in einen einzelnen Mac mit 512 GB. vLLM liefert es über sein offizielles Docker-Image mit einem eigenen Tag für dieses Modell aus; das Rezept von Mistral nutzt 8 Grafikkarten, und die stabile Version enthält es seit 0.34.0, veröffentlicht am 16. November 2026. Die Tabelle zählt nur Text: Wer Bilder schicken will, rechnet den Vision-Projektor (3,17 GiB) dazu. Und die Lizenz, die Mistral Ecosystem Open-Weight License, ist eine abgewandelte MIT-Lizenz: Zu Hause oder innerhalb Ihres Unternehmens ändert sich nichts; verkauft Ihr Unternehmen (oder eines aus seiner Gruppe) Dritten aber den Zugang zum Modell als Dienst (etwa über eine API), verlangt Mistral vorher eine eigene kommerzielle Lizenz.