Startseite›Modelle›muse-glimmer-30b

Modell-Datenblatt

muse-glimmer-30b

Architektur dicht52 SchichtenLizenz apache-2.0Maximaler Kontext 128kVokabular 202.048

3 Videos ansehen

Bei Q4_K_M ist das eine Datei von 15,61 GiB, und sie passt auf 12 der 18 Rechner, die wir durchrechnen (der mit dem wenigsten Speicher: Mac mit M4 Pro und 24 GB). Hier füllt die Datei den Speicher: Selbst beim maximalen Kontext von 128k Tokens kommen 1,70 GiB hinzu — und derselbe Inhalt braucht auf Deutsch 1,30-mal so viele Tokens wie auf Englisch.

Auf einen Blick
Größe bei Q4_K_M15,61 GiB
Kontextspeicher bei 8k0,18 GiB
Passt auf12 / 18
Kosten auf Deutsch×1,30
Kleinster Rechner, der es nimmtMac mit M4 Pro und 24 GB
15,61 GiB

Modellgröße bei Q4_K_M

Von Local AI Scope gemessen

0,18 GiB

Kontextspeicher bei 8k Tokens

Von Local AI Scope gemessen

×1,30

Was Deutsch gegenüber Englisch kostet

Von Local AI Scope gemessen

Videos

Videos: muse-glimmer-30b 3

Die besten Vorführungen, die wir gefunden haben. Drücken Sie auf Play, und es läuft direkt hier.

Die Videos liegen bei YouTube, und von dort wird nichts geladen, bevor Sie auf Play drücken (Modus ohne Cookies). Das Vorschaubild kommt von uns.

Größen

Größen der veröffentlichten Dateien

Das sind die Größen der tatsächlich vom Autor veröffentlichten Dateien, addiert, wenn das Modell in Teilen ausgeliefert wird. Keine Schätzung aus der Parameterzahl.

Größe der veröffentlichten Datei je Kompression
Kompression Modellgröße
Q4_K_M 15,61 GiB

Dieses Modell liest auch Bilder. Dafür braucht es eine zweite Datei, den Vision-Projektor (mmproj-Muse-Glimmer-30B-Q4_K_M.gguf, 1,30 GiB), die neben dem Modell veröffentlicht wird und in den Zahlen dieser Seite nicht enthalten ist: Sie zählen nur Text. Wenn Sie ihm Bilder schicken wollen, rechnen Sie diese Datei zur Modellgröße hinzu.

Kontext

Kontextspeicher

Berechnet aus dem Aufmerksamkeitsmuster, das dieses Modell Schicht für Schicht angibt, nicht aus der generischen Formel. Deshalb liegt der Wert oft deutlich unter dem anderer Rechner.

  • 8k Tokens → 0,18 GiB
  • 32k Tokens → 0,48 GiB
  • 128k Tokens → 1,70 GiB
Sprachen

Was es in jeder Sprache kostet

Gemessen, indem der Tokenizer dieses Modells über denselben Inhalt in vier Sprachen läuft. Tokens sind das, was man im Kontext, im Speicher und auf der Cloud-Rechnung zahlt.

Tokenkosten nach Textsorte und Sprache, mit Englisch als Referenz
Textsorte EN ES FR DE
Code — ×1,19 ×1,32 ×1,40
Verträge — ×1,13 ×1,23 ×1,26
Geschäftliche E-Mails — ×1,13 ×1,21 ×1,23
Support-Tickets — ×1,21 ×1,37 ×1,26

Englisch ist die Referenz: Jede Zahl gibt an, um wie viel mehr Tokens derselbe Inhalt in dieser Sprache kostet. Durchschnitt über das gesamte Korpus: DE ×1,30.

Rechner

Wo es passt

Passt heißt: Modell, Kontextspeicher und Arbeitsreserve passen beim angegebenen Kontext gemeinsam hinein und lassen dem System seinen Anteil. 12 von den 18 getesteten Rechnern (Q4_K_M, 8k Tokens).

Die 18 getesteten Rechner, mit dem Speicher, den jeder frei lässt, und dem größten Kontext, den dieses Modell dort hält
Rechner Passt Freier Speicher Größter Kontext, der passt
PC mit RTX 4060 8 GB nein 7,20 GiB —
PC mit RTX 3060 12 GB nein 11,20 GiB —
PC mit RTX 4070 12 GB nein 11,20 GiB —
Mac mit M4 und 16 GB Unified Memory nein 13,00 GiB —
Büro-Notebook, nur CPU, 16 GB nein 13,00 GiB —
Mac mini mit M6 und 16 GB Unified Memory nein 13,00 GiB —
Mac mit M4 Pro und 24 GB ja 21,00 GiB 128k
Workstation mit RTX 4090 24 GB ja 23,20 GiB 128k
Mini-PC mit NPU und 32 GB LPDDR5X ja 29,00 GiB 128k
Mac mini mit M6 und 32 GB Unified Memory ja 29,00 GiB 128k
Server mit 2× RTX 3090 (48 GB) ja 47,20 GiB 128k
Mac mit M4 Max und 64 GB ja 61,00 GiB 128k
Mac mini mit M5 Pro und 64 GB Unified Memory ja 61,00 GiB 128k
Xiaomi AI Cube, 80 GB — Technikprototyp ja 77,00 GiB 128k
PC mit Ryzen AI Max+ 395 und 128 GB Unified Memory ja 96,00 GiB 128k
Mac Studio mit M5 Max und 128 GB Unified Memory ja 125,00 GiB 128k
PC mit Ryzen AI Max+ PRO 495 und 192 GB Unified Memory ja 160,00 GiB 128k
Mac Studio mit M5 Ultra und 512 GB Unified Memory ja 509,00 GiB 128k

Bevor Sie auf Download klicken: Stand 7. Oktober 2026 unterstützen alle Programme unserer Liste dieses Modell. llama.cpp öffnet es ab Build b10353, und alle seitdem erschienenen stabilen Versionen enthalten es (am 16. Oktober 2026 war v0.7.0 vom 15. Oktober 2026 die neueste); Ollama ab 0.32.8; LM Studio bietet es im eigenen Katalog an, der mindestens 26 GB Systemspeicher verlangt, und mlx-lm öffnet es ab 0.32.0, allerdings nur für Text. vLLM unterstützt es ab 0.28.0, braucht aber die originalen BF16-Gewichte (55,46 GiB) im Grafikspeicher: Kein PC unserer Liste mit Grafikkarte hat so viel VRAM, und auf dem Mac läuft vLLM nur experimentell auf der CPU. Die Tabelle zählt nur Text. Wer Bilder schicken will, lädt zusätzlich den Vision-Projektor (1,30 GiB); das optionale DFlash-Entwurfsmodell, das die Antworten beschleunigt, kommt mit 1,52 GiB dazu; Ollama lädt den Projektor immer, auch für reinen Text. Mit einem der beiden schafft der Mac mit M4 Pro und 24 GB (21,00 GiB Unified Memory für das Modell) 64k Tokens Kontext statt 128k, mit beiden 32k. Die RTX 4090 mit 24 GB (23,20 GiB VRAM) kommt nach unserer Rechnung auch mit beiden auf 128k, aber mit nur 0,07 GiB Reserve – zu wenig, um sich darauf zu verlassen; bei 64k bleiben 2,08 GiB.