Rechner
Jedes Hardware-Blatt beantwortet, worum sich das Datenblatt drückt: wie viel Speicher wirklich übrig bleibt, wenn das System seinen Anteil genommen hat, und welche der 18 gemessenen Modelle in den Rest passen — mit dem Kontext, den jedes tatsächlich hält. Zwei Listen je Rechner, die passenden und die nicht passenden, damit sichtbar wird, was man NICHT kaufen sollte.
| Rechner | Speicher, der dem Modell bleibt | Bandbreite | Modelle, die bei 8k passen | und bei 32k | Größtes Modell, das passt |
|---|---|---|---|---|---|
| PC mit RTX 4060 8 GB | 7,20 GiB | 272 GB/s abgeleitet, nicht veröffentlicht | 5 / 18 | 3 / 18 | qwen3-8b 4,68 GiB |
| PC mit RTX 3060 12 GB | 11,20 GiB | 360 GB/s abgeleitet, nicht veröffentlicht | 6 / 18 | 6 / 18 | gemma4-12b 6,63 GiB |
| PC mit RTX 4070 12 GB | 11,20 GiB | 504 GB/s abgeleitet, nicht veröffentlicht | 6 / 18 | 6 / 18 | gemma4-12b 6,63 GiB |
| Büro-Notebook, nur CPU, 16 GB | 13,00 GiB | 83 GB/s geschätzt | 7 / 18 | 7 / 18 | gpt-oss-20b 10,83 GiB |
| Mac mit M4 und 16 GB Unified Memory | 13,00 GiB | 120 GB/s Herstellerangabe | 7 / 18 | 7 / 18 | gpt-oss-20b 10,83 GiB |
| Mac mit M4 Pro und 24 GB | 21,00 GiB | 273 GB/s Herstellerangabe | 13 / 18 | 11 / 18 | qwen3-coder-30b 17,28 GiB |
| Workstation mit RTX 4090 24 GB | 23,20 GiB | 1008 GB/s Herstellerangabe | 14 / 18 | 13 / 18 | qwen3.6-35b-a3b 20,61 GiB |
| Mini-PC mit NPU und 32 GB LPDDR5X | 29,00 GiB | 120 GB/s geschätzt | 14 / 18 | 14 / 18 | qwen3.6-35b-a3b 20,61 GiB |
| Server mit 2× RTX 3090 (48 GB) | 47,20 GiB | 936 GB/s Herstellerangabe | 14 / 18 | 14 / 18 | qwen3.6-35b-a3b 20,61 GiB |
| Mac mit M4 Max und 64 GB | 61,00 GiB | 546 GB/s Herstellerangabe | 15 / 18 | 15 / 18 | gpt-oss-120b 58,46 GiB |
Passen heißt, dass Modelldatei, Kontextspeicher und Arbeitsreserve der Laufzeitumgebung in das passen, was übrig bleibt, nachdem das System seinen Anteil genommen hat — bei Q4_K_M oder der nächstgelegenen vom Autor veröffentlichten Kompression. Die Bandbreite trägt ihre Herkunft in der Zelle: Fünf dieser zehn Zahlen veröffentlicht der Hersteller nirgends, und wir sagen das, statt sie als Spezifikation auszugeben.