Saltar al contenido
Voltarum Local LLM Hardware Guide

NVIDIA · IA edge · 2024

NVIDIA Jetson Orin Nano Super Developer Kit

Buena opción económica

Una placa CUDA de 25 W que mueve modelos de 1–4B: proyectos de robótica y domótica, no un chat potente.

Memoria
8 GB
Ancho de banda
102 GB/s
Consumo
25 W
Mayor modelo popular a 4 bits
Ninguno de nuestros modelos populares

desde 399 US$ (precio habitual)

Información de los fabricantes y fuentes públicas; no lo hemos probado.· Revisado el 11 oct 2026

Qué puede ejecutar

Estimación

Modelos populares a Q4_K_M con un contexto de 32K tokens. La memoria necesaria sale de los archivos reales del modelo; la velocidad es el techo teórico.

Cambiar tamaño del modelo o contexto

Pesos del modeloCaché de contexto (KV)ProgramaLímite utilizable (color = veredicto)

ModeloVeredictoMemoriaTecho de velocidad
Qwen3 1.7BNo tiene memoria suficiente
6,4 GB / 6 GB · con 8 GB
—
Qwen3.5 9BNo tiene memoria suficiente
8,3 GB / 6 GB · con 8 GB
—
Gemma 4 12BNo tiene memoria suficiente
9,5 GB / 6 GB · con 8 GB
—
gpt-oss-20bNo tiene memoria suficiente
14 GB / 6 GB · con 8 GB
—
Qwen3.6 27BNo tiene memoria suficiente
20 GB / 6 GB · con 8 GB
—
Qwen3.6 35B A3BNo tiene memoria suficiente
24 GB / 6 GB · con 8 GB
—
Llama 3.3 70BNo tiene memoria suficiente
55 GB / 6 GB · con 8 GB
—
gpt-oss-120bNo tiene memoria suficiente
65 GB / 6 GB · con 8 GB
—
Qwen3.5 122B A10BNo tiene memoria suficiente
79 GB / 6 GB · con 8 GB
—
Qwen3.5 397B A17BNo tiene memoria suficiente
247 GB / 6 GB · con 8 GB
—

Máximo teórico al generar texto: ancho de banda de la memoria dividido entre los bytes que se leen por token. En la práctica se suele alcanzar entre la mitad y tres cuartas partes.

Dónde comprar

Los precios son referencias editoriales (precio de lanzamiento y un precio habitual en la fecha indicada), no precios en directo. En 2026 la escasez de memoria ha subido muchos precios por encima del de lanzamiento.

Solo mostramos precios actualizados en las últimas 24 horas y pueden cambiar; vale el precio de la tienda al pagar. Podemos recibir una comisión por estos enlaces, sin coste para ti. Afiliación

Resumen

Opinión

Ideal para: Asistentes de voz, visión junto a modelos pequeños y aprender CUDA con poco consumo.

Opinión¿Lo compraríamos hoy?

Para proyectos y trastear; como servidor de chat compensa más una GPU usada o un Mac mini.

Ventajas e inconvenientes

Opinión

Ventajas

  • CUDA y Ollama en una placa de 25 W
  • Buena para proyectos de visión con un LLM pequeño

Inconvenientes

  • 8 GB compartidos con el sistema
  • 102 GB/s: lenta con modelos de más de 4B
  • En 2026 subió a 399 $

Especificaciones

Datos
Fabricante
NVIDIA
Chip
Orin Nano
Arquitectura
Ampere GPU + Arm Cortex-A78AE
Tipo
Placa edge / acelerador
Formato
Kit de desarrollo / placa
Lanzamiento
2024
Disponibilidad
A la venta
Opciones de memoria
8 GB
Tipo de memoria
LPDDR5 unified
Bus de memoria
128-bit
Ancho de banda
102 GB/s
Utilizable para modelos (por defecto)
6 GB / 8 GB
Rendimiento IA INT8
67 TOPS
Consumo de la tarjeta / máximo
25 W
Plataforma de cálculo
CUDA (JetPack)
Modelos
Cualquier modelo que quepa
Varias unidades para un modelo
No

Fuente: Especificaciones del fabricante

Software compatible

Opinión

Qué tal funcionan hoy las herramientas habituales de IA local (valoración editorial).

  • llama.cppBuena
  • OllamaBuena
  • LM StudioNo compatible
  • vLLMCon esfuerzo
  • MLXNo compatible

Velocidades medidas

Datos

Resultados medidos, con su fuente. Nunca inventamos velocidades.

Aún no hay resultados medidos. La tabla de arriba muestra el techo teórico.

Alternativas

GPU NVIDIA

NVIDIA GeForce RTX 3060 12 GB

Memoria
12 GB
Ancho de banda
360 GB/s

Mayor modelo popular a 4 bits: Gemma 4 12B

La forma más barata de tener CUDA con 12 GB. Lenta, pero suficiente para modelos de 7–12B.

desde 329 US$ (precio de lanzamiento)Buena opción económica

GPU Intel

Intel Arc B580

Memoria
12 GB
Ancho de banda
456 GB/s

Mayor modelo popular a 4 bits: Gemma 4 12B

12 GB con buen ancho de banda por poco dinero; el problema es el software.

desde 249 US$ (precio de lanzamiento)Buena opción económica

GPU NVIDIA

NVIDIA GeForce RTX 5070

Memoria
12 GB
Ancho de banda
672 GB/s

Mayor modelo popular a 4 bits: Gemma 4 12B

Una tarjeta para jugar con solo 12 GB. Para IA compensa más la RTX 5060 Ti de 16 GB.

desde 1010 US$ (precio habitual)No recomendable para IA

Guías relacionadas