Cómo montar un agente de programación local con Ollama

Montar un agente de programación local con Ollama es atractivo por una razón clara: tu código puede quedarse en tu máquina. Para repositorios privados, pruebas internas o aprendizaje, es una opción muy interesante.

Pero conviene ser realista. Un modelo local no siempre iguala a los mejores modelos cloud en razonamiento, contexto o fiabilidad. La ventaja es privacidad, control y coste variable bajo; el coste oculto es hardware, velocidad y mantenimiento.

Qué necesitas

• Un equipo con suficiente RAM y, si es posible, GPU.
• Ollama instalado.
• Un modelo orientado a código.
• Un editor o CLI que pueda hablar con Ollama.
• Repositorios con tests para verificar cambios.

Modelos locales para código

Busca modelos con buen rendimiento en programación y licencia adecuada para tu uso. Algunos nombres cambian rápido, pero las familias habituales incluyen modelos tipo Code Llama, Qwen Coder, DeepSeek Coder, StarCoder o variantes especializadas disponibles en Ollama.

No todos los modelos son iguales: algunos completan código, otros razonan mejor sobre errores y otros funcionan mejor como asistentes conversacionales.

Comandos básicos

ollama pull qwen2.5-coder
ollama run qwen2.5-coder

El modelo exacto puede cambiar. Comprueba la biblioteca de Ollama y elige una versión que encaje con tu hardware.

Flujo recomendado

1. Pide primero una explicación del problema.
2. Solicita un plan de cambios.
3. Aplica cambios pequeños.
4. Ejecuta tests.
5. Revisa el diff manualmente.

Los agentes locales funcionan mejor con tareas pequeñas y repositorios bien estructurados.

Limitaciones reales

• Menor contexto que muchos modelos cloud.
• Velocidad dependiente del hardware.
• Más errores en refactors grandes.
• Peor manejo de instrucciones largas si el modelo es pequeño.
• Necesidad de probar todo.

Cuándo compensa

Compensa para aprendizaje, repos privados, tareas repetitivas, generación de tests sencillos, explicación de código y prototipos. Para migraciones complejas o decisiones de arquitectura, quizá te convenga combinarlo con un modelo cloud más fuerte.