Servidor con 2× RTX 3090 (48 GB)

Tarjeta gráfica NVIDIA48 GiB936 GB/s71,0 TFLOPS

Este equipo deja 47,20 GiB para el modelo una vez el sistema coge lo suyo, y admite 14 de los 18 modelos que medimos en la compresión de referencia. Lo que decide su velocidad de respuesta no es el chip: son los 936 GB/s de ancho de banda de memoria.

De un vistazo

Queda para el modelo47,20 GiB

Ancho de banda936 GB/s

Modelos que caben14 / 18

Mayor modelo que admiteqwen3.6-35b-a3b

47,20 GiB

Queda para el modelo

Estimación propia

936 GB/s

Ancho de banda de memoria

Declarado por el fabricante

14 / 18

Modelos que caben

Medido por Local AI Scope

Memoria

La memoria que de verdad puedes usar

Por esto la cifra de la caja no es la cifra que tienes. El escritorio, el compositor y el contexto gráfico no devuelven lo suyo, y un modelo que no les deja sitio no arranca: se cae.

Cómo la memoria de la caja se convierte en memoria que puedes usar
Memoria	GiB
Memoria del equipo	48
Reservada al sistema	−0,80
Queda para el modelo	47,20

Esos 48 GiB son dos pozos separados de 24 GiB, no uno. Solo suman cuando el runtime reparte el modelo entre las dos tarjetas por capas; un modelo que tenga que caber en una sola sigue teniendo un techo de 24 GiB. El encaje de abajo da por bueno el reparto.

Velocidad

Ancho de banda de memoria

Son dos límites distintos y se confunden constantemente. Mientras el modelo escribe la respuesta manda el ancho de banda: cada token obliga a releer los pesos enteros, así que los tokens por segundo son aproximadamente el ancho de banda dividido entre el tamaño del modelo. Mientras el modelo lee tu documento manda el cómputo: la entrada se procesa de una vez. Por eso un portátil sin GPU puede tardar minutos en soltar la primera palabra y luego escribir a un ritmo tolerable.

936 GB/s — Declarado por el fabricante · contrastado con la página del fabricante el 2026-08-25 (Fuente).

Los 936 GB/s son por tarjeta. Dos 3090 no forman un pozo de 48 GB a 1872 GB/s: cada una tiene sus 24 GB, y cuando el modelo se reparte entre las dos, el cuello es el enlace entre ellas, no el ancho de banda de ninguna.

Cómputo: 71,0 TFLOPS (TFLOPS FP16 en Tensor Cores con acumulación FP32, denso) — Declarado por el fabricante, con otro nombre · el fabricante publica este número como TFLOPS FP16 en Tensor Cores con acumulación FP32, denso, no como FP16; contrastado con la página del fabricante el 2026-08-25 (Fuente). Las cifras de esta línea no salen todas de la misma medida según el equipo, porque cada fabricante publica una distinta. Compáralas entre equipos sabiendo eso.

Encaje

Qué modelos entran aquí y cuáles no

Que quepa significa que caben tres cosas a la vez en la memoria que sobra: el fichero del modelo, su memoria de contexto y el margen de trabajo del runtime. La memoria de contexto se calcula con el patrón de atención que cada modelo declara capa a capa, no con la fórmula genérica: por eso aquí caben modelos que otras calculadoras dan por imposibles.

Cada modelo medido frente a este equipo: tamaño, si cabe en cada contexto y el mayor contexto que aguanta
Modelo	Compresión mostrada	Tamaño del modelo	8k	32k	128k	Mayor contexto que cabe
qwen3-1.7b	`Q4_K_M`	1,03 GiB	sí	sí	—	32k
qwen3-4b-2507	`Q4_K_M`	2,33 GiB	sí	sí	sí	256k
gemma4-e2b	`Q4_K_M`	2,89 GiB	sí	sí	sí	128k
gemma4-e4b	`Q4_K_M`	4,63 GiB	sí	sí	sí	128k
qwen3-8b	`Q4_K_M`	4,68 GiB	sí	sí	—	32k
gemma4-12b	`Q4_K_M`	6,63 GiB	sí	sí	sí	256k
gpt-oss-20b	`Q4_K_M`	10,83 GiB	sí	sí	sí	128k
mistral-small-24b	`Q4_K_M`	13,35 GiB	sí	sí	sí	128k
qwen3.8-27b	`Q4_K_M`	15,33 GiB	sí	sí	sí	256k
qwen3.6-27b	`Q4_K_M`	15,66 GiB	sí	sí	sí	256k
gemma4-26b-a4b	`Q4_K_M`	15,78 GiB	sí	sí	sí	256k
gemma4-31b	`Q4_K_M`	17,07 GiB	sí	sí	sí	128k
qwen3-coder-30b	`Q4_K_M`	17,28 GiB	sí	sí	sí	256k
qwen3.6-35b-a3b	`Q4_K_M`	20,61 GiB	sí	sí	sí	256k
gpt-oss-120b	`Q4_K_M`	58,46 GiB	no	no	no	—
llama4-scout-17b	`Q4_K_M`	60,87 GiB	no	no	no	—
deepseek-v4-flash	`IQ4_XS`	127,28 GiB	no	no	no	—
glm-5.2	`Q4_K_M`	433,83 GiB	no	no	no	—

Los tamaños son los de los ficheros realmente publicados en la compresión de referencia, un escalón por fila: Q4_K_M donde el autor la publica y el vecino más cercano donde no. Cada fila dice cuál está enseñando. Q4_K_M es nuestro suelo de calidad: por debajo la pérdida se nota en las respuestas. Un modelo que solo cabría aquí con una compresión más agresiva figura como que no cabe, a propósito. Un guion en una columna de contexto significa que el modelo no ofrece ese contexto, así que no hay nada que encajar.

Modelos que caben — 14 de los 18 modelos medidos

qwen3-1.7b Q4_K_M — contexto 32k tokens
qwen3-4b-2507 Q4_K_M — contexto 256k tokens
gemma4-e2b Q4_K_M — contexto 128k tokens
gemma4-e4b Q4_K_M — contexto 128k tokens
qwen3-8b Q4_K_M — contexto 32k tokens
gemma4-12b Q4_K_M — contexto 256k tokens
gpt-oss-20b Q4_K_M — contexto 128k tokens
mistral-small-24b Q4_K_M — contexto 128k tokens
qwen3.8-27b Q4_K_M — contexto 256k tokens
qwen3.6-27b Q4_K_M — contexto 256k tokens
gemma4-26b-a4b Q4_K_M — contexto 256k tokens
gemma4-31b Q4_K_M — contexto 128k tokens
qwen3-coder-30b Q4_K_M — contexto 256k tokens
qwen3.6-35b-a3b Q4_K_M — contexto 256k tokens

Modelos que no caben — 4 de los 18 modelos medidos

gpt-oss-120b Q4_K_M — le faltan 12,08 GiB
llama4-scout-17b Q4_K_M — le faltan 15,10 GiB
deepseek-v4-flash IQ4_XS — le faltan 81,09 GiB
glm-5.2 Q4_K_M — le faltan 401,93 GiB

Adónde ir ahora

Compruébalo con este equipoEl buscador de modelos, con este equipo cargado Los 10 equiposUno al lado del otro Los 18 modelosTamaños, contexto y coste por idioma