Startseite›Modelle›phi-4

Modell-Datenblatt

phi-4

Architektur dicht40 SchichtenLizenz mitMaximaler Kontext 16kVokabular 100.352

Grafik von Microsoft: Phi-4 im Vergleich mit anderen Modellen nach MMLU-Wert und aktiven Parametern, mit Microsofts eigenen Zahlen
Grafik von Microsoft: Phi-4 im Vergleich mit anderen Modellen nach MMLU-Wert und aktiven Parametern, mit Microsofts eigenen Zahlen Bild: Microsoft

Video ansehen

Bei Q4_K_M ist das eine Datei von 8,43 GiB, und sie passt auf 17 der 18 Rechner, die wir durchrechnen (die mit dem wenigsten Speicher: PC mit RTX 3060 12 GB · PC mit RTX 4070 12 GB). Hier füllt die Datei den Speicher: Selbst beim maximalen Kontext von 16k Tokens kommen 3,12 GiB hinzu — und derselbe Inhalt braucht auf Deutsch 1,63-mal so viele Tokens wie auf Englisch.

Auf einen Blick
Größe bei Q4_K_M8,43 GiB
Kontextspeicher bei 8k1,56 GiB
Passt auf17 / 18
Kosten auf Deutsch×1,63
Kleinster Rechner, der es nimmtPC mit RTX 3060 12 GB
8,43 GiB

Modellgröße bei Q4_K_M

Von Local AI Scope gemessen

1,56 GiB

Kontextspeicher bei 8k Tokens

Von Local AI Scope gemessen

×1,63

Was Deutsch gegenüber Englisch kostet

Von Local AI Scope gemessen

Videos

Videos: phi-4 1

Die besten Vorführungen, die wir gefunden haben. Drücken Sie auf Play, und es läuft direkt hier.

Die Videos liegen bei YouTube, und von dort wird nichts geladen, bevor Sie auf Play drücken (Modus ohne Cookies). Das Vorschaubild kommt von uns.

Größen

Größen der veröffentlichten Dateien

Das sind die Größen der tatsächlich vom Autor veröffentlichten Dateien, addiert, wenn das Modell in Teilen ausgeliefert wird. Keine Schätzung aus der Parameterzahl.

Größe der veröffentlichten Datei je Kompression
Kompression Modellgröße
Q8_0 14,51 GiB
Q6_K 11,20 GiB
Q5_K_M 9,88 GiB
Q5_K_S 9,45 GiB
Q4_K_M 8,43 GiB
Q4_K_S 7,86 GiB
IQ4_XS 7,40 GiB
Q3_K_M 6,86 GiB
Kontext

Kontextspeicher

Berechnet aus dem Aufmerksamkeitsmuster, das dieses Modell Schicht für Schicht angibt, nicht aus der generischen Formel. Deshalb liegt der Wert oft deutlich unter dem anderer Rechner. Die config.json dieses Modells nennt nicht die Größe jedes Aufmerksamkeitskopfes, und aus dieser Zahl besteht der Kontextspeicher. Wir leiten sie aus zwei Angaben ab, die sehr wohl dort stehen: 5.120 verborgene Einheiten geteilt durch 40 Aufmerksamkeitsköpfe, was die Größe eines Kopfes gerade bedeutet und was die Referenzbibliothek voreinstellt: 128. Alle Zahlen dieses Abschnitts ruhen auf dieser Ableitung, deshalb wird sie hier gekennzeichnet und nicht stillschweigend übergangen.

  • 8k Tokens → 1,56 GiB
Sprachen

Was es in jeder Sprache kostet

Gemessen, indem der Tokenizer dieses Modells über denselben Inhalt in vier Sprachen läuft. Tokens sind das, was man im Kontext, im Speicher und auf der Cloud-Rechnung zahlt.

Tokenkosten nach Textsorte und Sprache, mit Englisch als Referenz
Textsorte EN ES FR DE
Code — ×1,28 ×1,48 ×1,68
Verträge — ×1,40 ×1,46 ×1,77
Geschäftliche E-Mails — ×1,27 ×1,38 ×1,48
Support-Tickets — ×1,39 ×1,59 ×1,55

Englisch ist die Referenz: Jede Zahl gibt an, um wie viel mehr Tokens derselbe Inhalt in dieser Sprache kostet. Durchschnitt über das gesamte Korpus: DE ×1,63.

Rechner

Wo es passt

Passt heißt: Modell, Kontextspeicher und Arbeitsreserve passen beim angegebenen Kontext gemeinsam hinein und lassen dem System seinen Anteil. 17 von den 18 getesteten Rechnern (Q4_K_M, 8k Tokens).

Die 18 getesteten Rechner, mit dem Speicher, den jeder frei lässt, und dem größten Kontext, den dieses Modell dort hält
Rechner Passt Freier Speicher Größter Kontext, der passt
PC mit RTX 4060 8 GB nein 7,20 GiB —
PC mit RTX 3060 12 GB ja 11,20 GiB 8k
PC mit RTX 4070 12 GB ja 11,20 GiB 8k
Mac mit M4 und 16 GB Unified Memory ja 13,00 GiB 16k
Büro-Notebook, nur CPU, 16 GB ja 13,00 GiB 16k
Mac mini mit M6 und 16 GB Unified Memory ja 13,00 GiB 16k
Mac mit M4 Pro und 24 GB ja 21,00 GiB 16k
Workstation mit RTX 4090 24 GB ja 23,20 GiB 16k
Mini-PC mit NPU und 32 GB LPDDR5X ja 29,00 GiB 16k
Mac mini mit M6 und 32 GB Unified Memory ja 29,00 GiB 16k
Server mit 2× RTX 3090 (48 GB) ja 47,20 GiB 16k
Mac mit M4 Max und 64 GB ja 61,00 GiB 16k
Mac mini mit M5 Pro und 64 GB Unified Memory ja 61,00 GiB 16k
Xiaomi AI Cube, 80 GB — Technikprototyp ja 77,00 GiB 16k
PC mit Ryzen AI Max+ 395 und 128 GB Unified Memory ja 96,00 GiB 16k
Mac Studio mit M5 Max und 128 GB Unified Memory ja 125,00 GiB 16k
PC mit Ryzen AI Max+ PRO 495 und 192 GB Unified Memory ja 160,00 GiB 16k
Mac Studio mit M5 Ultra und 512 GB Unified Memory ja 509,00 GiB 16k

Bevor Sie auf Download klicken: Zuerst die gute Nachricht: Stand 29. Oktober 2026 öffnen alle fünf Programme, die wir verfolgen, Phi-4, denn seine Architektur (phi3) wird seit Langem unterstützt. llama.cpp führt es in seiner jüngsten stabilen Version v0.8.0 (vom 28. Oktober 2026) und in jedem aktuellen täglichen Build aus. ollama run phi4 (ohne Bindestrich) lädt ein GGUF in Q4_K_M mit 8,43 GiB, genauso groß wie das in der Tabelle, auch auf dem Mac: Eine MLX-Version gibt es in der Liste nicht. Ollama bietet außerdem phi4:14b-q8_0 (14,51 GiB). LM Studio bietet es mit dem GGUF aus seinem Community-Programm (lmstudio-community) an, ebenfalls 8,43 GiB in Q4_K_M. mlx-lm öffnet es in Version 0.32.2 (die 4-Bit-MLX-Version von mlx-community ist 7,68 GiB groß), vLLM in seiner stabilen Version 0.32.0. Zwei Dinge sollten Sie wissen. Der Kontext endet bei 16k Tokens: So steht es in seiner config.json, und keine Zeile der Tabelle geht darüber hinaus, egal wie viel Speicher Sie haben (auf den 12-GB-Karten ist wegen des Speichers schon bei 8k Schluss). Und die Sprache: Microsoft hat es vor allem auf Englisch trainiert (etwa 8 % mehrsprachige Daten) und schreibt, dass es nicht für den Einsatz in anderen Sprachen gedacht ist. Wir messen, was jede Sprache in Tokens kostet, nicht wie gut es antwortet.