Saltar al contenido
Voltarum Local LLM Hardware Guide

Rockchip · IA edge · 2022

Rockchip RK3588 boards (NPU)

Para usuarios avanzados

Placas Arm baratas cuya pequeña NPU ejecuta modelos convertidos con RKLLM. Lentas, pero gastan muy poco.

Memoria
8 GB–32 GB
Ancho de banda
No publicado
Consumo
20 W
Mayor modelo popular a 4 bits
Qwen3.5 9B

—

Información de los fabricantes y fuentes públicas; no lo hemos probado.· Revisado el 11 oct 2026

Qué puede ejecutar

Estimación

Modelos populares a Q4_K_M con un contexto de 32K tokens. La memoria necesaria sale de los archivos reales del modelo; la velocidad es el techo teórico.

Este equipo solo ejecuta modelos compilados por su fabricante (2 de nuestros modelos).

Cambiar tamaño del modelo o contexto

Pesos del modeloCaché de contexto (KV)ProgramaLímite utilizable (color = veredicto)

ModeloVeredictoMemoriaTecho de velocidad
Qwen3 1.7BFunciona
6,4 GB / 14 GB · con 16 GB
—
Qwen3.5 9BFunciona
8,3 GB / 14 GB · con 16 GB
—
Gemma 4 12BNo compatible——
gpt-oss-20bNo compatible——
Qwen3.6 27BNo compatible——
Qwen3.6 35B A3BNo compatible——
Llama 3.3 70BNo compatible——
gpt-oss-120bNo compatible——
Qwen3.5 122B A10BNo compatible——
Qwen3.5 397B A17BNo compatible——

Máximo teórico al generar texto: ancho de banda de la memoria dividido entre los bytes que se leen por token. En la práctica se suele alcanzar entre la mitad y tres cuartas partes.

Dónde comprar

Los precios son referencias editoriales (precio de lanzamiento y un precio habitual en la fecha indicada), no precios en directo. En 2026 la escasez de memoria ha subido muchos precios por encima del de lanzamiento.

Solo mostramos precios actualizados en las últimas 24 horas y pueden cambiar; vale el precio de la tienda al pagar. Podemos recibir una comisión por estos enlaces, sin coste para ti. Afiliación

Resumen

Opinión

Ideal para: Quien quiere una placa de pocos vatios siempre encendida con modelos pequeños convertidos.

Opinión¿Lo compraríamos hoy?

Plataforma de hobby. Para un chat local útil, cualquier GPU de 12–16 GB es muchísimo más rápida.

Ventajas e inconvenientes

Opinión

Ventajas

  • Hasta 32 GB en placas baratas
  • Consumo muy bajo

Inconvenientes

  • Hay que convertir antes los modelos con RKLLM
  • NPU de 6 TOPS: pocos tokens por segundo con modelos de 7–9B
  • llama.cpp aquí solo usa la CPU

Conviene saber

RKLLM admite Qwen 2–3.5, Llama, Gemma, Phi, MiniCPM y otros tras convertirlos a su formato.

Especificaciones

Datos
Fabricante
Rockchip
Chip
RK3588
Arquitectura
Arm Cortex-A76/A55 + 6 TOPS NPU
Tipo
Placa edge / acelerador
Formato
Kit de desarrollo / placa
Lanzamiento
2022
Disponibilidad
A la venta
Opciones de memoria
8 GB / 16 GB / 32 GB
Tipo de memoria
LPDDR4X / LPDDR5 (board dependent)
Ancho de banda
No publicado
Utilizable para modelos (por defecto)
29 GB / 32 GB
Rendimiento IA INT8
6 TOPS
Consumo de la tarjeta / máximo
20 W
Plataforma de cálculo
RKLLM (NPU)
Modelos
Solo modelos compilados por el fabricante
Varias unidades para un modelo
No

Fuente: Especificaciones del fabricante

Software compatible

Opinión

Qué tal funcionan hoy las herramientas habituales de IA local (valoración editorial).

  • llama.cppMala
  • OllamaMala
  • LM StudioNo compatible
  • vLLMNo compatible
  • MLXNo compatible

Velocidades medidas

Datos

Resultados medidos, con su fuente. Nunca inventamos velocidades.

Aún no hay resultados medidos. La tabla de arriba muestra el techo teórico.

Alternativas

GPU NVIDIA

NVIDIA GeForce RTX 5090

Memoria
32 GB
Ancho de banda
1,79 TB/s

Mayor modelo popular a 4 bits: Qwen3.6 35B A3B

La tarjeta doméstica más rápida para IA local: 32 GB y 1,8 TB/s hacen volar los modelos de 30B.

desde 4329 US$ (precio habitual)Recomendable

GPU AMD

AMD Radeon AI PRO R9700

Memoria
32 GB
Ancho de banda
645 GB/s

Mayor modelo popular a 4 bits: Qwen3.6 35B A3B

32 GB por un tercio de lo que cuesta una RTX 5090: la tarjeta nueva de 32 GB más barata.

desde 1550 US$ (precio habitual)Recomendable

GPU NVIDIA

NVIDIA RTX PRO 4000 Blackwell

Memoria
24 GB
Ancho de banda
672 GB/s

Mayor modelo popular a 4 bits: Qwen3.6 27B

24 GB en una tarjeta de una ranura y 140 W: la forma más «homelab» de tener 24 GB nuevos.

desde 1500 US$ (precio habitual)Recomendable