Saltar al contenido
Voltarum Local LLM Hardware Guide

Placas de IA edge para LLM en local

Por qué elegir esta familia
Jetson, Raspberry Pi AI HAT+ 2 y RK3588: modelos pequeños con pocos vatios.
La pega
Solo modelos pequeños; algunas, solo los que compila el fabricante.
En esta familiaMemoriaAncho de bandaMayor modelo popular a 4 bitsPrecio
Jetson AGX Thor128 GB273 GB/sQwen3.5 122B A10B5499 US$
Jetson Orin Nano Super8 GB102 GB/s—399 US$
Jetson AGX Orin 64GB64 GB205 GB/sLlama 3.3 70B1999 US$
Raspberry Pi AI HAT+ 28 GB—Qwen3 1.7B200 US$
RK3588 (Orange Pi 5 Plus and others)32 GB—Qwen3.5 9B—

IA edge

NVIDIA Jetson AGX Thor Developer Kit

Memoria
128 GB
Ancho de banda
273 GB/s

Mayor modelo popular a 4 bits: Qwen3.5 122B A10B

Ordenador para robótica con 128 GB y Blackwell. Con LLM rinde como un DGX Spark.

desde 5499 US$ (precio habitual)Para usuarios avanzados

IA edge

NVIDIA Jetson Orin Nano Super Developer Kit

Memoria
8 GB
Ancho de banda
102 GB/s

Mayor modelo popular a 4 bits: Ninguno de nuestros modelos populares

Una placa CUDA de 25 W que mueve modelos de 1–4B: proyectos de robótica y domótica, no un chat potente.

desde 399 US$ (precio habitual)Buena opción económica

IA edge

NVIDIA Jetson AGX Orin 64GB Developer Kit

Memoria
64 GB
Ancho de banda
205 GB/s

Mayor modelo popular a 4 bits: Llama 3.3 70B

64 GB con CUDA y 60 W. Para LLM, hoy la superan Strix Halo y el Mac mini.

desde 1999 US$ (precio de lanzamiento)Hardware antiguo

IA edge

Raspberry Pi AI HAT+ 2 (Hailo-10H)

Memoria
8 GB
Ancho de banda
—

Mayor modelo popular a 4 bits: Qwen3 1.7B

Una NPU con 8 GB propios para la Raspberry Pi 5. Solo ejecuta los modelos que compila Hailo, de hasta unos 2B.

desde 200 US$ (precio habitual)Para usuarios avanzados

IA edge

Rockchip RK3588 boards (NPU)

Memoria
32 GB
Ancho de banda
—

Mayor modelo popular a 4 bits: Qwen3.5 9B

Placas Arm baratas cuya pequeña NPU ejecuta modelos convertidos con RKLLM. Lentas, pero gastan muy poco.

—Para usuarios avanzados