Startseite›Rechner›PC mit RTX 4060 8 GB
PC mit RTX 4060 8 GB
NVIDIA-Grafikkarte8 GiB272 GB/s15,0 TFLOPS
Sobald das System seinen Anteil genommen hat, bleiben diesem Rechner 7,20 GiB für das Modell: Platz für 7 der 26 Modelle, die wir bei der Referenzkompression messen, und das schwerste, das hineinpasst, ist qwen3.5-9b. Und wie schnell antwortet er? Das entscheidet nicht der Chip, sondern seine 272 GB/s Speicherbandbreite.
Bleibt für das Modell
Eigene Schätzung
Speicherbandbreite
Eigene Schätzung
Modelle, die passen
Von Local AI Scope gemessen
Videos: PC mit RTX 4060 8 GB 2
Die besten Vorführungen, die wir gefunden haben. Drücken Sie auf Play, und es läuft direkt hier.
Die Videos liegen bei YouTube, und von dort wird nichts geladen, bevor Sie auf Play drücken (Modus ohne Cookies). Das Vorschaubild kommt von uns.
Der Speicher, den Sie wirklich nutzen können
Deshalb ist die Zahl auf der Verpackung nicht die Zahl, die Sie bekommen. Schreibtisch, Compositor und Grafikkontext geben ihren Anteil nie zurück, und ein Modell, das ihnen keinen Platz lässt, startet nicht — es stürzt ab.
| Speicher | GiB |
|---|---|
| Speicher des Rechners | 8 |
| Für das System reserviert | −0,80 |
| Bleibt für das Modell | 7,20 |
Speicherbandbreite
Es sind zwei verschiedene Grenzen, und man verwechselt sie leicht. Während das Modell die Antwort schreibt, bestimmt die Bandbreite: Für jeden Token müssen die Gewichte, die es nutzt, erneut gelesen werden (bei einem dichten Modell alle, bei einem Mixture-of-Experts-Modell die gemeinsamen Schichten und nur die aktiven Experten), Tokens pro Sekunde sind also ungefähr Bandbreite geteilt durch diese Menge. Während das Modell Ihr Dokument liest, bestimmt die Rechenleistung: Die Eingabe wird auf einmal verarbeitet. Darum kann ein Notebook ohne GPU Minuten bis zum ersten Wort brauchen und danach in erträglichem Tempo schreiben.
272 GB/s — Abgeleitet, nicht vom Hersteller veröffentlicht · der Hersteller veröffentlicht die Busbreite, aber weder die Speichergeschwindigkeit noch die Bandbreite. Diese Zahl ist die übliche rechnerische Ableitung (17 Gbps x 128 bit / 8 = 272 GB/s), an der Quelle konnten wir sie nicht bestätigen (Quelle).
Rechenleistung: 15,0 TFLOPS (FP32-Shader-TFLOPS) — Herstellerangabe, unter anderem Namen · der Hersteller veröffentlicht diese Zahl als FP32-Shader-TFLOPS, nicht als FP16; gegen die Herstellerseite geprüft am 2026-08-25 (Quelle). Die Zahlen dieser Zeile stammen je nach Rechner nicht aus derselben Messgröße, weil jeder Hersteller eine andere veröffentlicht. Vergleichen Sie sie zwischen Rechnern nur mit diesem Wissen.
Welche Modelle hier hineinpassen und welche nicht
Passen heißt, dass drei Dinge gleichzeitig in den übrigen Speicher passen: die Modelldatei, ihr Kontextspeicher und die Arbeitsreserve der Laufzeitumgebung. Der Kontextspeicher wird aus dem von jedem Modell angegebenen Aufmerksamkeitsmuster Schicht für Schicht berechnet, nicht aus der generischen Formel — deshalb passen hier Modelle, die diese Formel für unmöglich erklären würde.
| Modell | Gezeigte Kompression | Modellgröße | 8k | 32k | 128k | Größter Kontext, der passt |
|---|---|---|---|---|---|---|
| qwen3-1.7b | Q4_K_M |
1,03 GiB | ja | ja | — | 32k |
| qwen3-4b-2507 | Q4_K_M |
2,33 GiB | ja | nein | nein | 16k |
| gemma4-e2b | Q4_K_M |
2,89 GiB | ja | ja | ja | 128k |
| gemma4-e4b | Q4_K_M |
4,63 GiB | ja | ja | nein | 32k |
| qwen3-8b | Q4_K_M |
4,68 GiB | ja | nein | — | 8k |
| granite-4.2-8b | Q4_K_M |
4,98 GiB | ja | nein | nein | 8k |
| qwen3.5-9b | Q4_K_M |
5,29 GiB | ja | nein | nein | 16k |
| gemma4-12b | Q4_K_M |
6,63 GiB | nein | nein | nein | — |
| gpt-oss-20b | Q4_K_M |
10,83 GiB | nein | nein | nein | — |
| mistral-small-24b | Q4_K_M |
13,35 GiB | nein | nein | nein | — |
| qwen3.8-27b | Q4_K_M |
15,33 GiB | nein | nein | nein | — |
| muse-glimmer-30b | Q4_K_M |
15,61 GiB | nein | nein | nein | — |
| qwen3.6-27b | Q4_K_M |
15,66 GiB | nein | nein | nein | — |
| gemma4-26b-a4b | Q4_K_M |
15,78 GiB | nein | nein | nein | — |
| gemma4-31b | Q4_K_M |
17,07 GiB | nein | nein | nein | — |
| qwen3-coder-30b | Q4_K_M |
17,28 GiB | nein | nein | nein | — |
| qwen3.6-35b-a3b | Q4_K_M |
20,61 GiB | nein | nein | nein | — |
| flint-40b | Q4_K_M |
23,61 GiB | nein | nein | nein | — |
| nemotron-3.5-lightning-30b | Q4_K_M |
23,73 GiB | nein | nein | nein | — |
| gpt-oss-120b | Q4_K_M |
58,46 GiB | nein | nein | nein | — |
| llama4-scout-17b | Q4_K_M |
60,87 GiB | nein | nein | nein | — |
| nemotron-3.5-super-120b | Q4_K_M |
65,29 GiB | nein | nein | nein | — |
| qwen3.8-flash-next | IQ4_XS |
87,25 GiB | nein | nein | nein | — |
| deepseek-v4-flash | IQ4_XS |
127,28 GiB | nein | nein | nein | — |
| glm-5.3-flash | Q4_K_M |
187,04 GiB | nein | nein | nein | — |
| glm-5.2 | Q4_K_M |
433,83 GiB | nein | nein | nein | — |
Die Größen sind die der tatsächlich veröffentlichten Dateien in der Referenzkompression, eine Stufe je Zeile: Q4_K_M, wo der Autor sie veröffentlicht, sonst die nächstgelegene. Jede Zeile nennt, welche sie zeigt. Q4_K_M ist unsere Qualitätsuntergrenze: darunter ist der Verlust in den Antworten hörbar. Ein Modell, das hier nur mit stärkerer Kompression passen würde, gilt bewusst als nicht passend. Ein Gedankenstrich in einer Kontextspalte heißt, dass das Modell diesen Kontext gar nicht anbietet, es gibt also nichts einzupassen.
Modelle, die passen — 7 von den 26 gemessenen Modellen
- qwen3-1.7b
Q4_K_M— Kontext 32k Tokens - qwen3-4b-2507
Q4_K_M— Kontext 16k Tokens - gemma4-e2b
Q4_K_M— Kontext 128k Tokens - gemma4-e4b
Q4_K_M— Kontext 32k Tokens - qwen3-8b
Q4_K_M— Kontext 8k Tokens - granite-4.2-8b
Q4_K_M— Kontext 8k Tokens - qwen3.5-9b
Q4_K_M— Kontext 16k Tokens
Modelle, die nicht passen — 19 von den 26 gemessenen Modellen
- gemma4-12b
Q4_K_M— es fehlen 0,48 GiB - gpt-oss-20b
Q4_K_M— es fehlen 4,40 GiB - mistral-small-24b
Q4_K_M— es fehlen 7,45 GiB - qwen3.8-27b
Q4_K_M— es fehlen 9,06 GiB - muse-glimmer-30b
Q4_K_M— es fehlen 9,21 GiB - qwen3.6-27b
Q4_K_M— es fehlen 9,39 GiB - gemma4-26b-a4b
Q4_K_M— es fehlen 9,53 GiB - gemma4-31b
Q4_K_M— es fehlen 11,63 GiB - qwen3-coder-30b
Q4_K_M— es fehlen 11,13 GiB - qwen3.6-35b-a3b
Q4_K_M— es fehlen 14,17 GiB - flint-40b
Q4_K_M— es fehlen 17,22 GiB - nemotron-3.5-lightning-30b
Q4_K_M— es fehlen 17,23 GiB - gpt-oss-120b
Q4_K_M— es fehlen 52,08 GiB - llama4-scout-17b
Q4_K_M— es fehlen 55,10 GiB - nemotron-3.5-super-120b
Q4_K_M— es fehlen 58,80 GiB - qwen3.8-flash-next
IQ4_XS— es fehlen 80,82 GiB - deepseek-v4-flash
IQ4_XS— es fehlen 121,09 GiB - glm-5.3-flash
Q4_K_M— es fehlen 180,60 GiB - glm-5.2
Q4_K_M— es fehlen 427,92 GiB
Darf es etwas stärker komprimiert sein? Dann ist auf dieser Liste nicht alles außer Reichweite. Bei den 7,20 GiB VRAM, die hier für das Modell bleiben, heißt das: gemma4-12b passt als IQ4_XS (5,94 GiB) mit bis zu 8k Tokens Kontext. Unterhalb der Kompression aus der Tabelle verliert ein Modell an Qualität; deshalb bleibt unsere Zählung bei der Tabelle.
Die Rechner daneben
- PC mit RTX 3060 12 GB — 11,20 GiB für das Modell, 8 / 26 Modelle
- PC mit RTX 4070 12 GB — 11,20 GiB für das Modell, 8 / 26 Modelle
- Mac mit M4 und 16 GB Unified Memory — 13,00 GiB für das Modell, 9 / 26 Modelle
- Mac mini mit M6 und 16 GB Unified Memory — 13,00 GiB für das Modell, 9 / 26 Modelle
Preis und Verfügbarkeit
Was ein Rechner kostet, entscheidet genauso viel wie das, was hineinpasst — der Preis gehört also auf diese Seite. Unten steht nur, was der Hersteller veröffentlicht, mit dem betroffenen Markt und dem Tag der Abfrage.
Kein Preis: Diese Zeile ist eine Rechnerklasse, kein einzelnes Produkt mit Preisliste.
Was wir an dieser Seite verdienen
Heute nichts. Auf dieser Seite steht kein Affiliate-Link, und hinter keiner ihrer Zahlen steht eine Handelsvereinbarung. Sollte hier je ein Kauflink erscheinen, wird er als solcher gekennzeichnet und die Provision in diesem Block angegeben. Zwei Regeln ändern sich an dem Tag nicht: Die Rangfolge dieser Seite wird vor der Anwendung kommerzieller Verfügbarkeit berechnet, und „am besten“ heißt nie „zahlt am meisten“.