Algunos enlaces son de afiliado: si compras a través de ellos podemos recibir una comisión, sin coste para ti. Nunca cambia nuestras valoraciones. Afiliación
Dos cifras deciden casi todo en la IA local: la capacidad de la memoria (qué modelos caben) y su ancho de banda (lo rápido que responden). Las tarjetas gráficas y los equipos de memoria unificada están en extremos opuestos de ese equilibrio.
Tarjetas gráficas: rápidas pero pequeñas
Una tarjeta gráfica tiene su propia memoria, muy rápida: unos 0,9 TB/s en una NVIDIA GeForce RTX 3090 y 1,8 TB/s en una RTX 5090. Pero las tarjetas domésticas se quedan en 24–32 GB y en 2026 son caras. Con dos o más tarjetas ganas capacidad, a cambio de consumo, calor y una caja más grande.
Memoria unificada: grande pero más lenta
En los equipos de memoria unificada la CPU y la GPU comparten una única memoria grande. Así, 128 GB o más caben en una caja pequeña a un precio razonable:
| Equipo | Memoria | Ancho de banda |
|---|---|---|
| AMD Ryzen AI Max+ 395 (Strix Halo) | hasta 128 GB | 256 GB/s |
| NVIDIA GB10 Grace Blackwell (DGX Spark and partners) | 128 GB | 273 GB/s |
| Apple Mac Studio (M5 Max) | hasta 128 GB | 614 GB/s |
| Apple Mac Studio (M5 Ultra) | hasta 512 GB | 1,2 TB/s |
El ancho de banda es menor que el de una GPU de gama alta, salvo en el Ultra.
Qué significa en la práctica
Techos de velocidad a 4 bits (ancho de banda ÷ bytes leídos por token; en la práctica se alcanza más o menos entre la mitad y tres cuartas partes):
| Qwen3.6 27B (denso) | gpt-oss-120b (MoE) | |
|---|---|---|
| RTX 3090 (24 GB) | ≤ 56 tok/s | no cabe |
| Ryzen AI Max+ 395 (128 GB) | ≤ 15 tok/s | ≤ 93 tok/s |
| DGX Spark / GB10 (128 GB) | ≤ 16 tok/s | ≤ 100 tok/s |
| Mac Studio M5 Max (128 GB) | ≤ 37 tok/s | ≤ 224 tok/s |
Dos lecciones:
- Los modelos densos favorecen a las GPU. Cada token lee los 17 GB de Qwen3.6 27B, así que manda el ancho de banda. Una RTX 3090 usada gana aquí a todos los equipos de memoria unificada salvo al Mac Studio Ultra.
- Los modelos de mezcla de expertos favorecen a la memoria unificada. gpt-oss-120b solo lee sus 5,1B parámetros activos por token, así que incluso 256 GB/s van rápido, pero hacen falta unos 65 GB para cargarlo. Justo lo que tienen estos equipos y le falta a una sola GPU.
Los mejores modelos abiertos de 2026 son cada vez más MoE (Qwen3.6 35B A3B, gpt-oss, Qwen3.5 122B), y por eso los equipos de 128 GB se han vuelto los favoritos del homelab.
Procesar el prompt
Leer un prompt largo (un documento, un repositorio de código) depende de la potencia de cálculo, no del ancho de banda. Ahí las GPU de NVIDIA y el GB10 van muy por delante de Strix Halo y los Mac. Si sueles pegar documentos largos, tenlo en cuenta.
Cómo elegir
- Sobre todo modelos de 8–32B y buscas velocidad: una tarjeta gráfica de 24–32 GB.
- Modelos MoE grandes, una caja silenciosa encendida siempre y el mejor precio: AMD Ryzen AI Max+ 395 (Strix Halo) con 128 GB.
- Lo mismo, pero más rápido y sin trastear: Apple Mac Studio (M5 Max) con 128 GB.
- Necesitas CUDA (vLLM, ajuste fino): NVIDIA GB10 Grace Blackwell (DGX Spark and partners).