Saltar al contenido
Voltarum Local LLM Hardware Guide

NVIDIA · IA edge · 2023

NVIDIA Jetson AGX Orin 64GB Developer Kit

NVIDIA Jetson AGX Orin 64GB Developer Kit

Foto: Auledas · CC BY 4.0

Hardware antiguo

64 GB con CUDA y 60 W. Para LLM, hoy la superan Strix Halo y el Mac mini.

Memoria
64 GB
Ancho de banda
205 GB/s
Consumo
60 W
Mayor modelo popular a 4 bits
Llama 3.3 70B

desde 1999 US$ (precio de lanzamiento)

Información de los fabricantes y fuentes públicas; no lo hemos probado.· Revisado el 11 oct 2026

Qué puede ejecutar

Estimación

Modelos populares a Q4_K_M con un contexto de 32K tokens. La memoria necesaria sale de los archivos reales del modelo; la velocidad es el techo teórico.

Cambiar tamaño del modelo o contexto

Pesos del modeloCaché de contexto (KV)ProgramaLímite utilizable (color = veredicto)

ModeloVeredictoMemoriaTecho de velocidad
Qwen3 1.7BFunciona
6,4 GB / 58 GB · con 64 GB
≤ 185 tok/s
Qwen3.5 9BFunciona
8,3 GB / 58 GB · con 64 GB
≤ 36 tok/s
Gemma 4 12BFunciona
9,5 GB / 58 GB · con 64 GB
≤ 29 tok/s
gpt-oss-20bFunciona
14 GB / 58 GB · con 64 GB
≤ 102 tok/s
Qwen3.6 27BFunciona
20 GB / 58 GB · con 64 GB
≤ 12 tok/s
Qwen3.6 35B A3BFunciona
24 GB / 58 GB · con 64 GB
≤ 111 tok/s
Llama 3.3 70BFunciona, justo
55 GB / 58 GB · con 64 GB
≤ 5 tok/s
gpt-oss-120bNo tiene memoria suficiente
65 GB / 58 GB · con 64 GB
—
Qwen3.5 122B A10BNo tiene memoria suficiente
79 GB / 58 GB · con 64 GB
—
Qwen3.5 397B A17BNo tiene memoria suficiente
247 GB / 58 GB · con 64 GB
—

Máximo teórico al generar texto: ancho de banda de la memoria dividido entre los bytes que se leen por token. En la práctica se suele alcanzar entre la mitad y tres cuartas partes.

Dónde comprar

Los precios son referencias editoriales (precio de lanzamiento y un precio habitual en la fecha indicada), no precios en directo. En 2026 la escasez de memoria ha subido muchos precios por encima del de lanzamiento.

Solo mostramos precios actualizados en las últimas 24 horas y pueden cambiar; vale el precio de la tienda al pagar. Podemos recibir una comisión por estos enlaces, sin coste para ti. Afiliación

Resumen

Opinión

Ideal para: Proyectos edge y de robótica que además necesitan un modelo de lenguaje mediano.

Opinión¿Lo compraríamos hoy?

Solo para edge o robótica; como servidor de LLM doméstico hay opciones mejores.

Ventajas e inconvenientes

Opinión

Ventajas

  • 64 GB con CUDA y 60 W
  • Plataforma de grado industrial

Inconvenientes

  • 205 GB/s
  • Cara para lo que ofrece en 2026

Especificaciones

Datos
Fabricante
NVIDIA
Chip
Orin
Arquitectura
Ampere GPU + Arm Cortex-A78AE
Tipo
Placa edge / acelerador
Formato
Kit de desarrollo / placa
Lanzamiento
2023
Disponibilidad
A la venta
Opciones de memoria
64 GB
Tipo de memoria
LPDDR5 unified
Bus de memoria
256-bit
Ancho de banda
205 GB/s
Utilizable para modelos (por defecto)
58 GB / 64 GB
Rendimiento IA INT8
275 TOPS
Consumo de la tarjeta / máximo
60 W
Plataforma de cálculo
CUDA (JetPack)
Modelos
Cualquier modelo que quepa
Varias unidades para un modelo
No

Fuente: Especificaciones del fabricante

Software compatible

Opinión

Qué tal funcionan hoy las herramientas habituales de IA local (valoración editorial).

  • llama.cppBuena
  • OllamaBuena
  • LM StudioNo compatible
  • vLLMCon esfuerzo
  • MLXNo compatible

Velocidades medidas

Datos

Resultados medidos, con su fuente. Nunca inventamos velocidades.

Aún no hay resultados medidos. La tabla de arriba muestra el techo teórico.

Alternativas

Apple silicon

Apple Mac mini (M5 Pro)

Memoria
64 GB
Ancho de banda
307 GB/s

Mayor modelo popular a 4 bits: Qwen3.6 35B A3B

Hasta 64 GB a 307 GB/s en un mini PC silencioso: modelos de 27–35B a buen ritmo.

desde 1699 US$ (precio de lanzamiento)Recomendable

Apple silicon

Apple Mac Studio (M5 Max)

Memoria
128 GB
Ancho de banda
614 GB/s

Mayor modelo popular a 4 bits: Qwen3.5 122B A10B

128 GB a 614 GB/s: gpt-oss-120b y MoE de 122B a buen ritmo, casi sin ruido.

desde 2499 US$ (precio de lanzamiento)Muy recomendable

GPU NVIDIA

NVIDIA RTX PRO 6000 Blackwell

Memoria
96 GB
Ancho de banda
1,79 TB/s

Mayor modelo popular a 4 bits: Qwen3.5 122B A10B

96 GB en una tarjeta a la velocidad de una RTX 5090: gpt-oss-120b y MoE de 122B enteros en la GPU.

desde 8565 US$ (precio habitual)Para usuarios avanzados