Startseite›Modelle›glm-5.2
glm-5.2
Architektur dicht78 SchichtenLizenz mitMaximaler Kontext 1.024kVokabular 154.880
Bei Q4_K_M ist das eine Datei von 433,83 GiB, und sie passt bei 8k Tokens auf keinen der 10 getesteten Rechner. Nicht die Datei füllt den Speicher, sondern der Kontext.
Modellgröße bei Q4_K_M
Von Local AI Scope gemessen
Kontextspeicher bei 8k Tokens
Von Local AI Scope gemessen
Was Deutsch gegenüber Englisch kostet
Von Local AI Scope gemessen
Größen der veröffentlichten Dateien
Das sind die Größen der tatsächlich vom Autor veröffentlichten Dateien, addiert, wenn das Modell in Teilen ausgeliefert wird. Keine Schätzung aus der Parameterzahl.
| Kompression | Modellgröße |
|---|---|
Q8_0 |
746,32 GiB |
Q6_K |
582,88 GiB |
Q5_K_M |
522,31 GiB |
Q5_K_S |
491,05 GiB |
Q4_K_M |
433,83 GiB |
Q4_K_S |
406,46 GiB |
IQ4_XS |
340,22 GiB |
Q3_K_M |
319,20 GiB |
Kontextspeicher
Berechnet aus dem Aufmerksamkeitsmuster, das dieses Modell Schicht für Schicht angibt, nicht aus der generischen Formel. Deshalb liegt der Wert oft deutlich unter dem anderer Rechner.
- 8k Tokens → 29,25 GiB
- 32k Tokens → 117,00 GiB
- 128k Tokens → 468,00 GiB
Was es in jeder Sprache kostet
Gemessen, indem der Tokenizer dieses Modells über denselben Inhalt in vier Sprachen läuft. Tokens sind das, was man im Kontext, im Speicher und auf der Cloud-Rechnung zahlt.
| Textsorte | EN | ES | FR | DE |
|---|---|---|---|---|
| Code | — | ×1,26 | ×1,41 | ×1,64 |
| Verträge | — | ×1,29 | ×1,36 | ×1,52 |
| Geschäftliche E-Mails | — | ×1,22 | ×1,32 | ×1,32 |
| Support-Tickets | — | ×1,33 | ×1,51 | ×1,41 |
Englisch ist die Referenz: Jede Zahl gibt an, um wie viel mehr Tokens derselbe Inhalt in dieser Sprache kostet. Durchschnitt über das gesamte Korpus: DE ×1,49.
Wo es passt
Passt heißt: Modell, Kontextspeicher und Arbeitsreserve passen beim angegebenen Kontext gemeinsam hinein und lassen dem System seinen Anteil. 0 von den 10 getesteten Rechnern (Q4_K_M, 8k Tokens).
| Rechner | Passt | Freier Speicher | Größter Kontext, der passt |
|---|---|---|---|
| PC mit RTX 4060 8 GB | nein | 7,20 GiB | — |
| PC mit RTX 3060 12 GB | nein | 11,20 GiB | — |
| PC mit RTX 4070 12 GB | nein | 11,20 GiB | — |
| Mac mit M4 und 16 GB Unified Memory | nein | 13,00 GiB | — |
| Büro-Notebook, nur CPU, 16 GB | nein | 13,00 GiB | — |
| Mac mit M4 Pro und 24 GB | nein | 21,00 GiB | — |
| Workstation mit RTX 4090 24 GB | nein | 23,20 GiB | — |
| Mini-PC mit NPU und 32 GB LPDDR5X | nein | 29,00 GiB | — |
| Server mit 2× RTX 3090 (48 GB) | nein | 47,20 GiB | — |
| Mac mit M4 Max und 64 GB | nein | 61,00 GiB | — |
Keiner der getesteten Rechner nimmt dieses Modell bei der Referenzkompression auf, nicht einmal beim kleinsten Kontext.