El fin de GitHub Copilot: Mi experiencia con modelos locales de LLM
Anurag Singh, un periodista experimentado y autor, ha cubierto la tecnología durante los últimos 5 años, con un enfoque en Windows, Android y Apple. En su reciente artículo, nos cuenta su experiencia al dejar de usar GitHub Copilot, el famoso asistente de código basado en inteligencia artificial, y optar por modelos locales de LLM (Large Language Models) para trabajar de forma más autónoma y sin conexión. ¿Qué cambió en su día a día y qué ventajas obtuvo al hacerlo?
Un breve resumen de Copilot y su evolución
GitHub Copilot, que llegó a la escena en 2024, era todo un éxito. Era capaz de completar código con gran precisión, incluso llegando a ser conocido como “autocomplete en esteroides”. Sin embargo, con el paso del tiempo, la comunidad de desarrolladores comenzó a buscar formas más autónomas de trabajar, donde el asistente entendiera el repositorio entero y pudiera realizar tareas por ellos. Aunque Copilot ha evolucionado para manejar algunas de estas tareas, Anurag no se siente obligado a usarlo y prefiere modelos locales de LLM para su trabajo.
Mi experiencia con Qwen 2.5 Coder y Continue
Anurag decidió reemplazar Copilot con dos modelos locales: Qwen 2.5 Coder 1.5B y Qwen 2.5 Coder 7B. Estos modelos se ejecutan a través de LM Studio, un software que gestiona las tareas de los modelos pero no los integra directamente en VS Code. Para hacerlo, Anurag utilizó una extensión llamada Continue, que actúa como un puente entre VS Code y los modelos locales. Continue proporciona las características de un asistente de código, incluyendo autocompletado, chat y edición de código.
📌 Puntos Clave
- Utiliza Qwen 2.5 Coder 1.5B para autocompletar código debido a su menor tamaño y mayor velocidad.
- Utiliza Qwen 2.5 Coder 7B para chat y edición de código por su mayor capacidad.
- Continue es la extensión que gestiona la integración entre VS Code y los modelos locales.
Ventajas de trabajar con modelos locales
La principal ventaja de trabajar con modelos locales es la independencia de la conexión a internet. Anurag puede seguir trabajando, obtener sugerencias de autocompletado y pedir ayuda al modelo sin importar la calidad de la conexión. Esto es especialmente útil para viajeros frecuentes, que pueden aprovechar las características de autocompletado, chat y edición de código incluso en vuelos largos o en lugares con una conexión inestable.
Comparación con Copilot
Aunque los modelos locales no pueden competir con la potencia y autonomía de Copilot en la nube, Anurag ha encontrado que son suficientes para sus necesidades. Continue proporciona casi todas las características que Copilot ofrece, incluyendo autocompletado, chat y edición de código. Además, la configuración local permite trabajar sin conexión, lo que puede ser crucial para desarrolladores que viajan frecuentemente.
Conclusión
Anurag ha experimentado un cambio significativo en su flujo de trabajo al dejar Copilot y optar por modelos locales de LLM. Aunque la autonomía y la independencia de la conexión son las principales ventajas, también hay desventajas como el rendimiento inferior en comparación con Copilot en la nube. Sin embargo, para quienes viajan frecuentemente o necesitan trabajar sin conexión, esta configuración puede ser una solución efectiva.
💡 La Opinión de ExploxTV
La independencia de la conexión y la autonomía son las principales ventajas de trabajar con modelos locales de LLM. Para desarrolladores que viajan frecuentemente, esta configuración puede ser una solución efectiva, aunque el rendimiento no puede competir con Copilot en la nube. La flexibilidad y la opción de configurar modelos de diferentes tamaños y capacidades hacen que esta configuración sea una opción interesante para aquellos que buscan alternativas a Copilot.