Startseite›Modelle›nemotron-3.5-super-120b
nemotron-3.5-super-120b
Architektur Expertenmischung88 SchichtenLizenz openmdw-1.1Maximaler Kontext 1.024kVokabular 131.072
Bei Q4_K_M ist das eine Datei von 65,29 GiB, und sie passt auf 5 der 18 Rechner, die wir durchrechnen (der mit dem wenigsten Speicher: Xiaomi AI Cube, 80 GB — Technikprototyp). Hier füllt die Datei den Speicher: Selbst beim maximalen Kontext von 1024k Tokens kommen 8,00 GiB hinzu — und derselbe Inhalt braucht auf Deutsch 1,40-mal so viele Tokens wie auf Englisch.
Modellgröße bei Q4_K_M
Von Local AI Scope gemessen
Kontextspeicher bei 8k Tokens
Von Local AI Scope gemessen
Was Deutsch gegenüber Englisch kostet
Von Local AI Scope gemessen
Videos: nemotron-3.5-super-120b 2
Offizielles Material und die besten Vorführungen, die wir gefunden haben. Drücken Sie auf Play, und es läuft direkt hier.
Die Videos liegen bei YouTube, und von dort wird nichts geladen, bevor Sie auf Play drücken (Modus ohne Cookies). Das Vorschaubild kommt von uns.
Größen der veröffentlichten Dateien
Das sind die Größen der tatsächlich vom Autor veröffentlichten Dateien, addiert, wenn das Modell in Teilen ausgeliefert wird. Keine Schätzung aus der Parameterzahl.
| Kompression | Modellgröße |
|---|---|
Q4_K_M |
65,29 GiB |
Dieses Modell liest auch Bilder. Dafür braucht es eine zweite Datei, den Vision-Projektor (mmproj-NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-BF16.gguf, 1,61 GiB), die neben dem Modell veröffentlicht wird und in den Zahlen dieser Seite nicht enthalten ist: Sie zählen nur Text. Wenn Sie ihm Bilder schicken wollen, rechnen Sie diese Datei zur Modellgröße hinzu.
Kontextspeicher
Berechnet aus dem Aufmerksamkeitsmuster, das dieses Modell Schicht für Schicht angibt, nicht aus der generischen Formel. Deshalb liegt der Wert oft deutlich unter dem anderer Rechner.
- 8k Tokens → 0,06 GiB
- 32k Tokens → 0,25 GiB
- 128k Tokens → 1,00 GiB
Was es in jeder Sprache kostet
Gemessen, indem der Tokenizer dieses Modells über denselben Inhalt in vier Sprachen läuft. Tokens sind das, was man im Kontext, im Speicher und auf der Cloud-Rechnung zahlt.
| Textsorte | EN | ES | FR | DE |
|---|---|---|---|---|
| Code | — | ×1,23 | ×1,31 | ×1,51 |
| Verträge | — | ×1,21 | ×1,25 | ×1,37 |
| Geschäftliche E-Mails | — | ×1,19 | ×1,22 | ×1,31 |
| Support-Tickets | — | ×1,28 | ×1,36 | ×1,37 |
Englisch ist die Referenz: Jede Zahl gibt an, um wie viel mehr Tokens derselbe Inhalt in dieser Sprache kostet. Durchschnitt über das gesamte Korpus: DE ×1,40.
Wo es passt
Passt heißt: Modell, Kontextspeicher und Arbeitsreserve passen beim angegebenen Kontext gemeinsam hinein und lassen dem System seinen Anteil. 5 von den 18 getesteten Rechnern (Q4_K_M, 8k Tokens).
Bevor Sie auf Download klicken: Stand 17. Oktober 2026 ist dieses Modell so neu, dass nur die jüngsten Versionen es öffnen. llama.cpp unterstützt es ab der stabilen Version v0.7.0 (Build b11669, vom 15. Oktober 2026), ältere Versionen nicht. Achtung: Seit dieser Version lauscht der Server standardmäßig auf Port 9931 statt auf 8080 (die Docker-Images bleiben bei 8080). Ollama bietet es seit 0.40.5 an (ollama run nemotron-3.5-super), aber auf dem PC ist sein q4_K_M eine andere Datei als die in der Tabelle: 82,35 GiB, dazu der Vision-Projektor mit 1,61 GiB, den Ollama immer lädt – zusammen 83,96 GiB. Gleicher Name, anderes Rezept: Bei diesem Modell kann ein Teil der Experten-Tensoren nicht in Q4_K gespeichert werden, und jede Datei weicht auf ein anderes Format aus (die von LM Studio auf IQ4_NL, die von Ollama auf Q5_0 und Q8_0), wie wir im Header jeder Datei gelesen haben. Mit der Ollama-Datei passt das Modell nicht mehr auf den Xiaomi AI Cube mit 80 GB, und der PC mit Ryzen AI Max+ 395 fällt von 1024k auf 256k Kontext; mit der von LM Studio (65,29 GiB) schafft es der Xiaomi, bis 256k, wie die Tabelle zeigt. LM Studio bietet es mit dem GGUF seines Community-Programms (lmstudio-community) an, veröffentlicht am 14. Oktober 2026; welche Version seiner Engine es öffnet, haben wir nicht geprüft – aktualisieren Sie sie also, bevor Sie es ausprobieren. Für den Mac führt der Ollama-Katalog unter demselben Namen eine MLX-Version (nvfp4, 74,09 GiB); mlx-lm allein konnten wir nicht bestätigen. Aktualisiert am 19. Oktober 2026: Für vLLM nennt NVIDIAs Rezept Version 0.32.0, seit dem 18. Oktober 2026 stabil, oder einen Nightly-Build. Bilder liest es über den Projektor mit 1,61 GiB, den die Tabelle nicht mitzählt; laut NVIDIA versteht es auch Video (Clips bis 2 Minuten), allerdings in seinen Rezepten für vLLM und SGLang: Ollama und llama.cpp nennen vorerst nur Bilder. Es gibt auch eine Q8_0 (119,65 GiB), aber unser Katalog führt sie nicht, deshalb schlägt der Modellfinder sie nicht vor: Nach unserer Rechnung, nur für Text, fände sie Platz auf dem PC mit Ryzen AI Max+ PRO 495 und dem Mac Studio mit M5 Ultra (bis 1024k) sowie auf dem Mac Studio mit M5 Max und 128 GB (bis 128k).