Saltar al contenido
Voltarum Local LLM Hardware Guide

Modelos abiertos y el hardware que necesitan

Memoria que necesitan los modelos abiertos más populares a 4, 8 y 16 bits, y las GPU, Mac y mini PC que pueden ejecutarlos.

Solo los pesos; suma la caché de contexto y unos 1,5 GB del programa.
ModeloParámetros4 bits8 bits16 bitsContexto máximoPublicado
Qwen3 1.7BAlibaba (Qwen)2B1,1 GB1,8 GB3,5 GB40Kabril de 2025
Llama 3.2 3BMeta3,2B2 GB3,4 GB6,4 GB128Kseptiembre de 2024
Llama 3.1 8BMeta8B4,9 GB8,5 GB16 GB128Kjulio de 2024
Gemma 4 E4BGoogle8BActivos: 4B5 GB8,2 GB16 GB128Kmarzo de 2026
Qwen3 8BAlibaba (Qwen)8,2B5 GB8,7 GB16 GB40Kabril de 2025
Qwen3.5 9BAlibaba (Qwen)9,7B5,7 GB9,5 GB19 GB256Kfebrero de 2026
Gemma 4 12BGoogle12B7,1 GB13 GB24 GB256Kmayo de 2026
gpt-oss-20bOpenAI21BActivos: 3,6B12 GB12 GB14 GB128Kagosto de 2025
Mistral Small 3.2 24BMistral AI24B14 GB25 GB48 GB128Kjunio de 2025
Qwen3.6 27BAlibaba (Qwen)28B17 GB29 GB56 GB256Kabril de 2026
Gemma 4 26B A4BGoogle26BActivos: 4B17 GB27 GB52 GB256Kmarzo de 2026
Gemma 4 31BGoogle31B18 GB33 GB63 GB256Kmarzo de 2026
Qwen3-Coder 30B A3BAlibaba (Qwen)31BActivos: 3,3B19 GB32 GB61 GB256Kjulio de 2025
Qwen3 32BAlibaba (Qwen)33B20 GB35 GB66 GB40Kabril de 2025
Qwen3.6 35B A3BAlibaba (Qwen)36BActivos: 3B22 GB37 GB72 GB256Kabril de 2026
Llama 3.3 70BMeta71B43 GB75 GB141 GB128Kdiciembre de 2024
gpt-oss-120bOpenAI117BActivos: 5,1B63 GB63 GB65 GB128Kagosto de 2025
Qwen3.5 122B A10BAlibaba (Qwen)125BActivos: 10B77 GB130 GB250 GB256Kfebrero de 2026
Qwen3 235B A22B (2507)Alibaba (Qwen)235BActivos: 22B142 GB250 GB470 GB256Kjulio de 2025
Qwen3.5 397B A17BAlibaba (Qwen)403BActivos: 17B244 GB422 GB807 GB256Kfebrero de 2026
DeepSeek R1 (0528)DeepSeek671BActivos: 37B405 GB713 GB1342 GB160Kmayo de 2025