GitHub se prepara para añadir una función de dirección automática a GitHub Copilot que determine si una tarea de programación se ejecutará en un modelo local o se enviará a un modelo en la nube, con la previsión de que la función llegue para finales de octubre de 2026. El plan deja una pregunta fundamental sin respuesta: ¿cuánto historial de conversación y contexto del repositorio podría transferirse a la nube al elegir la ruta en la nube?
Microsoft reveló el plan en una publicación coescrita por Patrick Nikoletich, director de producto en GitHub, y Stuart Schaefer, ingeniero de asociaciones para la plataforma Windows. El anuncio coincidió con la disponibilidad general de los nuevos controles de sandboxing en GitHub Copilot, pero el nivel de protección varía según las herramientas utilizadas.
Dirección basada en la tarea y su contexto
GitHub está ampliando el proyecto HydraFusion, que selecciona los modelos adecuados para las tareas de programación, para determinar también dónde se ejecuta la inferencia. Según la empresa, Copilot tendrá en cuenta el contexto de la tarea y el estado de la caché al cambiar entre la inferencia local y en la nube, incluso durante sesiones de varias rondas.
Los desarrolladores de Copilot CLI, la aplicación Copilot y Visual Studio Code podrán utilizar el modo Auto o seleccionar manualmente un modelo local. Las opciones incluyen el modelo MAI Code 1.1 Flash mediante Windows ML, además de puntos de conexión locales compatibles con OpenAI.
¿Qué sigue sin estar claro?
Microsoft reconoce que «la inferencia local no hace que la sesión esté desconectada de Internet». La empresa no ha especificado cuánto contexto del repositorio o historial de conversación envía el modo Auto a los modelos en la nube, ni si los desarrolladores podrán inspeccionar las decisiones de dirección o impedir por completo el uso de la nube.
Esta ambigüedad es importante para los equipos que aplican políticas estrictas para el tratamiento del código y los datos. Elegir un modelo local mantiene el proceso de inferencia en el dispositivo, pero no impide que el agente acceda a servicios externos o ejecute solicitudes de red mediante sus herramientas. Para obtener una sesión completamente local, los desarrolladores también tendrán que restringir los permisos de esas herramientas.
Un modelo local grande y elevados requisitos de hardware
La ruta local depende de MAI Code 1.1 Flash, un modelo de mezcla de expertos que cuenta con 137.000 millones de parámetros en total, de los cuales se activan 6.800 millones. Microsoft utilizó una cuantización de precisión mixta de aproximadamente 3,3 bits por peso para reducir el modelo a 53 gigabytes, un 80% menos que la versión en la nube en formato bfloat16. También utilizó speculative decoding para acelerar la inferencia local.
El primer lanzamiento está dirigido a dispositivos Windows equipados con procesadores NVIDIA RTX Spark, como Surface Laptop Ultra, que ofrecen hasta 128 gigabytes de memoria unificada. El consumo máximo de memoria se midió en 75,5 gigabytes con un contexto de 256.000 tokens. Esta cifra no incluye únicamente el modelo; el sistema, las aplicaciones, el entorno de ejecución y la memoria de la caché KV necesitan espacio adicional, mientras que la memoria temporal crece al leer archivos y recibir resultados de las herramientas.
Rendimiento y aislamiento de seguridad
El modelo cuantizado obtuvo un 70,8% en SWE-Bench Verified, frente al 72,6% de la versión de precisión completa. En Terminal-Bench 2.1 obtuvo un 66,29%, frente al 62,9% del modelo original, dentro de un conjunto de 89 tareas; es decir, la diferencia en esta pequeña prueba equivale a aproximadamente tres tareas.
Copilot utiliza la biblioteca de código abierto Execution Containers (MXC) para aplicar políticas de aislamiento: la capa BaseContainer de ProcessContainer en Windows, Seatbelt en macOS y bubblewrap en Linux. Los comandos de shell, algunos servidores MCP locales y los servidores de lenguaje, cuando cuentan con soporte, están sujetos a restricciones impuestas por el sistema operativo, tanto si se utiliza un modelo local como uno en la nube.
En cambio, las herramientas de archivos integradas se ejecutan dentro del proceso del agente y dependen de comprobaciones del entorno de ejecución, mientras que los servidores MCP remotos quedan fuera del aislamiento local. Incluso la demostración que Microsoft describió como un flujo de trabajo sin conexión no aclaró si los datos de GitHub utilizados en ella se obtuvieron a través de la red o estaban almacenados localmente.
¿Por qué importa esta noticia?
El cambio no se limita a ejecutar un modelo más pequeño en el dispositivo del desarrollador; traslada una decisión sensible relacionada con el lugar donde se procesa el código a un mecanismo de dirección automática. En la práctica, los desarrolladores obtendrán más flexibilidad entre la velocidad de los modelos en la nube y la privacidad de la ejecución local, pero los equipos no podrán evaluar completamente los riesgos hasta que GitHub aclare qué datos envía el modo Auto, si sus decisiones pueden auditarse y si existe una opción para imponer la ejecución local. Por tanto, el anuncio todavía no demuestra que Copilot ofrezca realmente una sesión local sin conexión, ni que los requisitos actuales de memoria sean adecuados para la mayoría de los dispositivos de desarrollo.