Startseite›Modelle›glm-5.2
glm-5.2
Architektur Expertenmischung78 SchichtenLizenz mitMaximaler Kontext 1.024kVokabular 154.880
Bei Q4_K_M ist das eine Datei von 433,83 GiB, und sie passt auf 1 der 18 Rechner, die wir durchrechnen (nur einer: Mac Studio mit M5 Ultra und 512 GB Unified Memory). Hier füllt die Datei den Speicher: Selbst beim maximalen Kontext von 1024k Tokens kommen 156,00 GiB hinzu — und derselbe Inhalt braucht auf Deutsch 1,49-mal so viele Tokens wie auf Englisch.
Modellgröße bei Q4_K_M
Von Local AI Scope gemessen
Kontextspeicher bei 8k Tokens
Von Local AI Scope gemessen
Was Deutsch gegenüber Englisch kostet
Von Local AI Scope gemessen
Größen der veröffentlichten Dateien
Das sind die Größen der tatsächlich vom Autor veröffentlichten Dateien, addiert, wenn das Modell in Teilen ausgeliefert wird. Keine Schätzung aus der Parameterzahl.
| Kompression | Modellgröße |
|---|---|
Q8_0 |
746,32 GiB |
Q6_K |
582,88 GiB |
Q5_K_M |
522,31 GiB |
Q5_K_S |
491,05 GiB |
Q4_K_M |
433,83 GiB |
Q4_K_S |
406,46 GiB |
IQ4_XS |
340,22 GiB |
Q3_K_M |
319,20 GiB |
Kontextspeicher
Berechnet aus dem Aufmerksamkeitsmuster, das dieses Modell Schicht für Schicht angibt, nicht aus der generischen Formel. Deshalb liegt der Wert oft deutlich unter dem anderer Rechner. Dieses Modell speichert seinen Kontextspeicher komprimiert (latente Aufmerksamkeit): pro Schicht und Token ein Vektor mit 512 Werten statt seiner 64 Köpfe zu je 192. Wir rechnen ihn als einen Kopf mit 512 für den Schlüssel und einen weiteren für den Wert – etwas mehr, als er wirklich belegt (ein Latent dient beiden). Diese Zahlen liegen also eher zu hoch, nie zu niedrig.
- 8k Tokens → 1,22 GiB
- 32k Tokens → 4,88 GiB
- 128k Tokens → 19,50 GiB
Was es in jeder Sprache kostet
Gemessen, indem der Tokenizer dieses Modells über denselben Inhalt in vier Sprachen läuft. Tokens sind das, was man im Kontext, im Speicher und auf der Cloud-Rechnung zahlt.
| Textsorte | EN | ES | FR | DE |
|---|---|---|---|---|
| Code | — | ×1,26 | ×1,41 | ×1,64 |
| Verträge | — | ×1,29 | ×1,36 | ×1,52 |
| Geschäftliche E-Mails | — | ×1,22 | ×1,32 | ×1,32 |
| Support-Tickets | — | ×1,33 | ×1,51 | ×1,41 |
Englisch ist die Referenz: Jede Zahl gibt an, um wie viel mehr Tokens derselbe Inhalt in dieser Sprache kostet. Durchschnitt über das gesamte Korpus: DE ×1,49.
Wo es passt
Passt heißt: Modell, Kontextspeicher und Arbeitsreserve passen beim angegebenen Kontext gemeinsam hinein und lassen dem System seinen Anteil. 1 von den 18 getesteten Rechnern (Q4_K_M, 8k Tokens).