Resumen rápido: Ejecutar Llama 4 en local es más accesible de lo que parece si eliges bien la variante y la herramienta. Con Ollama y un equipo con GPU decente o Apple Silicon, puedes tener un modelo conversacional y multimodal funcionando en tu máquina en menos de veinte minutos una vez descargado el modelo, sin enviar ningún dato a servidores externos.
Llevar Llama 4 en local a mi portátil fue uno de esos proyectos que empiezo un sábado por la tarde pensando que acabaré antes de cenar, y que me termina enganchando toda la semana. Venía de usar modelos vía API en la nube, cómodo pero con la incomodidad constante de saber que mis prompts viajaban a otros servidores. Quería privacidad real y no pagar por cada prompt. Lo que encontré me sorprendió bastante.
En esta guía cuento exactamente lo que hice, qué funcionó, qué no, y cómo puedes replicarlo en tu propia máquina sin perder la tarde en documentación dispersa.
Qué es Llama 4 y en qué se diferencia de Llama 3
Llama 4 es la cuarta generación de la familia de modelos de lenguaje de código abierto de Meta, con dos diferencias clave respecto a Llama 3: arquitectura MoE y capacidades multimodales nativas. Llama 3 usaba un transformador denso clásico donde todos los parámetros participaban en cada inferencia; Llama 4 adopta MoE (Mixture of Experts), que activa solo una fracción según la entrada recibida.
En la práctica, la arquitectura MoE permite modelos con una capacidad nominal muy alta pero con un consumo de cómputo por inferencia bastante más razonable.
La otra diferencia es la multimodalidad. Llama 4 procesa texto e imágenes en la misma sesión; Llama 3, en sus variantes principales, era puramente textual. Eso abre casos de uso que antes exigían combinar dos modelos distintos.
Los pesos están disponibles bajo la Meta Llama 4 Community License, que exige aceptar los términos de uso antes de acceder a la descarga. No es software de dominio público: hay condiciones que conviene leer antes de usar Llama 4 en producción.
Versiones de Llama 4 en local: Scout, Maverick y cuál elegir
Meta publicó tres variantes de Llama 4, pero solo dos son accesibles para inferencia en equipos propios: Scout y Maverick.
Scout es la opción más eficiente para uso local. Scout está optimizada para contextos muy largos y su consumo de recursos, especialmente con cuantización, la pone al alcance de muchos equipos de gama media. Con una GPU de 8 GB de VRAM o un Mac con Apple Silicon, Scout cuantizado es el punto de partida recomendado.
Maverick es el modelo más capaz de los dos disponibles. Maverick razona mejor, responde con más detalle y maneja tareas complejas con mayor consistencia. El precio es un requerimiento de hardware bastante superior y que excede el rango del consumidor habitual: Maverick es una opción orientada a equipos con múltiples GPU o entornos de servidor, no a portátiles ni sobremesas convencionales.
Behemoth es la variante más grande de la familia, pero no está disponible para inferencia pública. De momento, no tiene aplicación en ningún flujo de trabajo local.
Lo sensato es empezar por Scout. Una vez que el pipeline funciona y Scout responde bien, ya tiene sentido evaluar si la tarea merece el salto a Maverick.
Hardware necesario para ejecutar Llama 4 en local con fluidez
El hardware fue el primer aprendizaje real de la semana: empecé intentando correr Maverick y terminé con Scout, pero ese cambio de expectativas fue parte del aprendizaje. En la práctica, intentar Maverick sin GPU suficiente no produce un error inmediato: el servidor arranca, acepta la solicitud y empieza a generar texto a un ritmo tan lento que la experiencia resulta inútil para cualquier flujo de trabajo real. El cambio a Scout fue inmediato y la diferencia, evidente: las respuestas llegaban con fluidez suficiente para trabajar sin interrupciones que cortaran la concentración. Para Scout cuantizado a Q4_K_M, el mínimo recomendado es una GPU con 8 GB de VRAM. Con 12 o 16 GB la experiencia mejora considerablemente. La respuesta honesta sobre el límite inferior es que depende de cuánta paciencia se tenga con la latencia.
Los equipos con Apple Silicon tienen una ventaja real: la memoria unificada. El chip accede a esa memoria tanto para cómputo de CPU como de GPU a través de Metal, lo que permite cargar modelos más grandes sin la penalización habitual de la transferencia entre memorias. En la práctica, un Mac con 16 GB de memoria unificada rinde mejor de lo que cabría esperar comparado con un PC con GPU discreta de 8 GB.
Si solo se dispone de CPU y RAM convencional, la ejecución es posible pero lenta. Con 16 GB de RAM y Scout en Q4, se puede trabajar sin prisa. Para Maverick, esa configuración empieza a quedarse corta.
Consejo: Antes de descargar cualquier modelo, comprueba cuánta VRAM libre tiene tu GPU con nvidia-smi en sistemas NVIDIA, o con el Monitor de Actividad en Mac. Muchos fallos al cargar el modelo provienen de haber sobreestimado la memoria disponible. Cierra el navegador y otras aplicaciones pesadas antes de iniciar el servidor de inferencia, ya que pueden ocupar varios gigabytes que el modelo necesita.
Cómo descargar los pesos de Llama 4 de forma oficial y segura
Los pesos de Llama 4 tienen dos fuentes oficiales: el repositorio oficial de Meta en GitHub y la colección de Meta en Hugging Face. Fuera de estas dos fuentes no hay forma de verificar que los pesos no han sido modificados.
El repositorio oficial de Meta Llama en GitHub incluye la CLI y las instrucciones para solicitar acceso a los pesos. Desde ahí se puede seguir el proceso de aceptación de licencia y descarga.
La vía de la colección de Meta en Hugging Face pasa por aceptar la licencia directamente en la página del modelo y luego usar la CLI de Hugging Face:
pip install huggingface_hub
huggingface-cli login
huggingface-cli download meta-llama/Llama-4-Scout-17B-16E-InstructAceptar los términos de la Meta Llama 4 Community License es un paso previo obligatorio: sin esa aceptación, la descarga falla con un error de permisos.
Cómo instalar Ollama y ejecutar Llama 4 en local
Ollama es la herramienta más recomendada para empezar: gestiona la descarga de los pesos, aplica la cuantización adecuada y levanta un servidor de inferencia local, todo con un solo comando.
La instalación en Linux es directa:
curl -fsSL https://ollama.com/install.sh | shEn Mac y Windows hay instaladores gráficos en la web oficial. Una vez instalado, basta con:
ollama run llama4:scoutOllama descarga el modelo cuantizado, lo carga y abre una sesión de chat en el terminal. La página del modelo en Ollama, con todas las variantes disponibles, está en ollama.com/library/llama4.
Ollama no es la única opción. Aquí tienes una comparativa de las tres herramientas más usadas:
| Herramienta | Plataformas | Interfaz | API HTTP | Cuantización |
|---|---|---|---|---|
| Ollama | Mac / Win / Linux | CLI | Sí | Automática |
| LM Studio | Mac / Win / Linux | GUI | Sí | Manual |
| GPT4ALL | Mac / Win / Linux | GUI | Sí | Automática |
LM Studio es la mejor opción para quienes prefieren una interfaz gráfica con búsqueda integrada de modelos desde Hugging Face. GPT4ALL es ideal si solo se quiere una aplicación de escritorio para chatear sin ningún tipo de configuración técnica.
Cómo exponer Llama 4 como API local e integrarlo en tus proyectos
Al lanzar cualquier modelo, Ollama levanta automáticamente un servidor REST en http://localhost:11434, sin ninguna configuración adicional. El endpoint compatible con la API de OpenAI está disponible en http://localhost:11434/v1/chat/completions.
Eso significa que cualquier aplicación que ya use esa API puede apuntar a la URL local con un cambio mínimo de configuración. En Python:
from openai import OpenAI
client = OpenAI(
base_url="http://localhost:11434/v1",
api_key="ollama" # requerido pero ignorado
)
response = client.chat.completions.create(
model="llama4:scout",
messages=[{"role": "user", "content": "¿Qué es MoE?"}]
)
print(response.choices[0].message.content)El resultado es que puedes integrar el modelo local en scripts escritos para modelos de OpenAI sin reescribir prácticamente nada. Ninguna petición sale de la red local: la privacidad es total.
Alternativas a Llama 4: otros modelos abiertos que merece la pena probar en local
Uno de los hallazgos más concretos de la semana fue que Llama 4 no siempre es la mejor opción para cada tarea. Los principales modelos abiertos alternativos que merece la pena evaluar son Mistral, Gemma 2, Phi-4, Qwen2.5 y DeepSeek, todos disponibles en Ollama. Según el hardware y el caso de uso, alguno encaja mejor.
- Mistral 7B y Mistral Small: referencias sólidas para tareas de texto generales, eficientes y bien documentados. Para equipos con recursos limitados, Mistral 7B cuantizado es de las primeras opciones a evaluar.
- Gemma 2 de Google: disponible en 2B, 9B y 27B parámetros. La variante de 9B tiene una relación entre capacidad y requisitos de hardware muy razonable para uso diario.
- Phi-4 de Microsoft: sorprende por lo que consigue con pocos parámetros. Si el hardware es la principal limitación, Phi-4 merece una prueba antes de renunciar a modelos más exigentes.
- Qwen2.5 de Alibaba: destaca en generación de código y en idiomas distintos del inglés, lo que lo hace especialmente interesante para proyectos en español.
- DeepSeek-V3 y DeepSeek-Coder: opciones muy competentes para generación de código; DeepSeek-Coder está específicamente ajustado para programación.
Todos estos modelos están disponibles en Ollama con un simple ollama run nombre-modelo.
Cuantización: ejecutar modelos con menos recursos sin perder demasiada calidad
La cuantización convierte los pesos del modelo a formatos de menor precisión numérica, reduciendo el tamaño en disco y la memoria necesaria en tiempo de ejecución. Para usar Llama 4 en local en equipos con recursos limitados, la cuantización es prácticamente obligatoria.
El formato más extendido es GGUF, el que usan Ollama y LM Studio. Los niveles más comunes son:
- Q4_K_M (4 bits): el punto de entrada recomendado. Q4_K_M ocupa mucho menos espacio en VRAM y funciona en hardware modesto, con una calidad que sorprende para la mayoría de tareas conversacionales.
- Q5_K_M (5 bits): un equilibrio intermedio entre Q4_K_M y Q8_0. Algo más exigente que Q4_K_M pero con respuestas más consistentes en razonamiento complejo.
- Q8_0 (8 bits): prácticamente indistinguible del modelo original en muchas tareas. Q8_0 requiere bastante más VRAM; es una buena opción si el equipo lo soporta.
Cuando Ollama descarga Llama 4 en local, aplica cuantización de forma automática según los recursos detectados, sin necesidad de elegir el formato manualmente. LM Studio, en cambio, permite seleccionar el archivo GGUF de Hugging Face que se prefiera, con control total sobre este parámetro.
Lo razonable es empezar con Q4_K_M, comprobar si la calidad sirve para lo que necesitas y subir a Q5 o Q8 solo si las respuestas se quedan cortas.
Lo esencial
- Ejecutar Llama 4 en local es viable con hardware de gama media usando cuantización Q4_K_M y la variante Scout.
- La arquitectura MoE de Llama 4 activa solo una fracción de parámetros por inferencia, lo que lo hace más eficiente que un transformador denso de tamaño comparable.
- Ollama es la forma más rápida de empezar: un solo comando descarga, cuantiza y levanta el servidor; LM Studio y GPT4ALL son alternativas con interfaz gráfica.
- El servidor de Ollama expone una API REST compatible con el formato de OpenAI en
http://localhost:11434/v1, lo que facilita la integración en proyectos existentes. - Antes de descargar, hay que aceptar los términos de la Meta Llama 4 Community License en Hugging Face o en el repositorio oficial de Meta en GitHub.
- Si el hardware es limitado, Mistral 7B, Gemma 2 9B o Phi-4 son alternativas reales que merecen evaluarse junto a Llama 4.
| característica | Scout | Maverick |
|---|---|---|
| VRAM mínima | 8 GB | hardware multi-GPU o servidor |
| Razonamiento | bueno | mejor y más detallado |
| Tareas complejas | uso general | mayor consistencia |
| Punto de partida | recomendado | tras validar Scout |
Preguntas frecuentes
- ¿Qué es Llama 4 y en qué se diferencia de Llama 3?
- La diferencia estructural más importante es la arquitectura: Llama 3 usaba un transformador denso donde todos los parámetros intervenían en cada inferencia, mientras que Llama 4 adopta MoE, activando solo una fracción según la entrada. A eso se suma la multimodalidad nativa: Llama 4 puede procesar texto e imágenes en la misma sesión, algo que Llama 3 no ofrecía en sus variantes principales. Ambos requieren aceptar los términos de la licencia de Meta antes de acceder a los pesos.
- ¿Cuáles son los requisitos mínimos de hardware para ejecutar Llama 4 en local?
- Para Scout cuantizado a Q4_K_M, 16 GB de RAM en CPU es viable aunque la velocidad de respuesta será lenta. Una GPU con 8 o más GB de VRAM acelera considerablemente la experiencia. Maverick requiere bastante más VRAM que Scout y escapa del rango del hardware de consumo habitual; es una opción orientada a equipos con múltiples GPU o entornos de servidor. Los equipos con Apple Silicon y memoria unificada se comportan especialmente bien gracias al backend Metal, que permite que la GPU acceda a toda la RAM disponible sin penalizaciones de transferencia entre memorias.
- ¿Cómo descargar y configurar Llama 4 en mi ordenador paso a paso?
- La vía más rápida es Ollama: tras instalarlo,
ollama run llama4:scoutdescarga y lanza el modelo en una sola operación. Para acceder a los pesos originales sin cuantización previa, el proceso pasa por aceptar la licencia en la página del modelo en Hugging Face y usarhuggingface-cli download meta-llama/Llama-4-Scout-17B-16E-Instruct. En ambos casos, aceptar los términos de la Meta Llama 4 Community License es un paso previo obligatorio: sin esa aceptación, la descarga no funciona. - ¿Qué herramientas como Ollama o LM Studio facilitan correr modelos abiertos en local?
- Ollama es la opción más adecuada para quienes trabajan en terminal o quieren integrar el modelo en scripts y servidores: es ligera, gestiona la cuantización de forma automática y levanta una API HTTP de inmediato. LM Studio resulta más cómoda para quienes prefieren una interfaz gráfica con buscador de modelos integrado desde Hugging Face. GPT4ALL está pensada para quienes solo quieren un chat de escritorio sin configuración técnica. Los tres exponen una API HTTP local con la que se pueden conectar aplicaciones externas.
- ¿Es legal usar Llama 4 y otros modelos abiertos en proyectos comerciales?
- La Meta Llama 4 Community License permite el uso comercial para la gran mayoría de empresas y proyectos. Sin embargo, incluye restricciones para organizaciones de muy gran escala, con condiciones definidas en los propios términos del repositorio oficial. Antes de desplegar en producción, conviene leer los términos completos disponibles en el repositorio de Meta en GitHub y en las páginas de los modelos en Hugging Face. Modelos como Gemma 2 o Mistral tienen sus propias licencias con condiciones que también varían según el uso previsto.
