Saltar al contenido
Voltarum Local LLM Hardware Guide

NVIDIA · GPU NVIDIA · 2025

NVIDIA RTX PRO 6000 Blackwell

Para usuarios avanzados

96 GB en una tarjeta a la velocidad de una RTX 5090: gpt-oss-120b y MoE de 122B enteros en la GPU.

Memoria
96 GB
Ancho de banda
1,79 TB/s
Consumo
600 W
Mayor modelo popular a 4 bits
Qwen3.5 122B A10B

desde 8565 US$ (precio habitual)

Información de los fabricantes y fuentes públicas; no lo hemos probado.· Revisado el 11 oct 2026

Qué puede ejecutar

Estimación

Modelos populares a Q4_K_M con un contexto de 32K tokens. La memoria necesaria sale de los archivos reales del modelo; la velocidad es el techo teórico.

Cambiar tamaño del modelo o contexto

Pesos del modeloCaché de contexto (KV)ProgramaLímite utilizable (color = veredicto)

ModeloVeredictoMemoriaTecho de velocidad
Qwen3 1.7BFunciona
6,4 GB / 96 GB · con 96 GB
≤ 1614 tok/s
Qwen3.5 9BFunciona
8,3 GB / 96 GB · con 96 GB
≤ 315 tok/s
Gemma 4 12BFunciona
9,5 GB / 96 GB · con 96 GB
≤ 252 tok/s
gpt-oss-20bFunciona
14 GB / 96 GB · con 96 GB
≤ 895 tok/s
Qwen3.6 27BFunciona
20 GB / 96 GB · con 96 GB
≤ 107 tok/s
Qwen3.6 35B A3BFunciona
24 GB / 96 GB · con 96 GB
≤ 972 tok/s
Llama 3.3 70BFunciona
55 GB / 96 GB · con 96 GB
≤ 42 tok/s
gpt-oss-120bFunciona
65 GB / 96 GB · con 96 GB
≤ 654 tok/s
Qwen3.5 122B A10BFunciona
79 GB / 96 GB · con 96 GB
≤ 293 tok/s
Qwen3.5 397B A17BEn parte en la RAM del sistema
247 GB / 96 GB · con 96 GB
—

Máximo teórico al generar texto: ancho de banda de la memoria dividido entre los bytes que se leen por token. En la práctica se suele alcanzar entre la mitad y tres cuartas partes.

Dónde comprar

Los precios son referencias editoriales (precio de lanzamiento y un precio habitual en la fecha indicada), no precios en directo. En 2026 la escasez de memoria ha subido muchos precios por encima del de lanzamiento.

Solo mostramos precios actualizados en las últimas 24 horas y pueden cambiar; vale el precio de la tienda al pagar. Podemos recibir una comisión por estos enlaces, sin coste para ti. Afiliación

Resumen

Opinión

Ideal para: Usuarios exigentes que quieren modelos de 100B a velocidad de GPU en una torre normal.

Opinión¿Lo compraríamos hoy?

Si el dinero no importa, es la forma más rápida de usar modelos de 100B en casa con una sola tarjeta.

Ventajas e inconvenientes

Opinión

Ventajas

  • 96 GB a 1,8 TB/s
  • vLLM y todas las herramientas CUDA
  • Una sola tarjeta en lugar de un montaje con varias

Inconvenientes

  • Cuesta como un coche usado
  • 600 W (o 300 W en la Max-Q, más lenta)

Especificaciones

Datos
Fabricante
NVIDIA
Chip
GB202
Arquitectura
Blackwell
Tipo
Tarjeta gráfica
Formato
Tarjeta PCIe
Lanzamiento
2025
Disponibilidad
A la venta
Opciones de memoria
96 GB
Tipo de memoria
GDDR7 ECC
Bus de memoria
512-bit
Ancho de banda
1,79 TB/s
Utilizable para modelos (por defecto)
96 GB / 96 GB
Consumo de la tarjeta / máximo
600 W
Interfaz
PCIe 5.0 x16
Ranuras
2
Conector de alimentación
16-pin 12V-2x6
Plataforma de cálculo
CUDA
Modelos
Cualquier modelo que quepa
Varias unidades para un modelo
Sí

Fuente: Especificaciones del fabricante

Software compatible

Opinión

Qué tal funcionan hoy las herramientas habituales de IA local (valoración editorial).

  • llama.cppExcelente
  • OllamaExcelente
  • LM StudioExcelente
  • vLLMExcelente
  • MLXNo compatible

Velocidades medidas

Datos

Resultados medidos, con su fuente. Nunca inventamos velocidades.

Aún no hay resultados medidos. La tabla de arriba muestra el techo teórico.

Alternativas

Apple silicon

Apple Mac Studio (M5 Max)

Memoria
128 GB
Ancho de banda
614 GB/s

Mayor modelo popular a 4 bits: Qwen3.5 122B A10B

128 GB a 614 GB/s: gpt-oss-120b y MoE de 122B a buen ritmo, casi sin ruido.

desde 2499 US$ (precio de lanzamiento)Muy recomendable

Ryzen AI

AMD Ryzen AI Max+ 395 (Strix Halo)

Memoria
128 GB
Ancho de banda
256 GB/s

Mayor modelo popular a 4 bits: Qwen3.5 122B A10B

128 GB de memoria unificada en un mini PC por menos que un Mac Studio: el favorito del homelab para modelos MoE.

desde 2200 US$ (precio habitual)Muy recomendable

DGX Spark / GB10

NVIDIA GB10 Grace Blackwell (DGX Spark and partners)

Memoria
128 GB
Ancho de banda
273 GB/s

Mayor modelo popular a 4 bits: Qwen3.5 122B A10B

128 GB con CUDA en una caja diminuta: la respuesta de NVIDIA a Strix Halo y al Mac.

desde 5000 US$ (precio habitual)Recomendable