Vanitha Kumar, directora de tecnología de Thoughtworks, señaló que el rápido avance en el desarrollo de agentes de programación inteligentes se dirige hacia la capacidad de estos sistemas para corregirse a sí mismos antes de que los desarrolladores revisen su trabajo. Esta metodología se basa en lo que se conoce como «ingeniería de arneses y documentación» (Harness Engineering), donde los sistemas están provistos de pruebas automatizadas y barreras de protección que les ayudan a detectar y solucionar errores de manera temprana.
Superar la supervisión manual de los agentes
En el pasado, las herramientas de inteligencia artificial requerían supervisión humana continua para revisar el código fuente y detectar alucinaciones. Hoy en día, la ingeniería de control permite a los agentes ejecutar tareas más largas con mayor precisión y menor intervención, liberando a los desarrolladores de la carga de la monitorización constante durante la ejecución de las tareas de programación.
El surgimiento de reactores y arquitecturas de inteligencia artificial
A medida que las organizaciones pasan de gestionar un solo agente a tratar con cientos de agentes de forma simultánea, surge una necesidad urgente de los llamados «reactores o fábricas de inteligencia artificial» (AI Factories). Estas infraestructuras se asemejan a lo que la plataforma Kubernetes ofreció anteriormente en el aislamiento y la gestión de la complejidad de los microservicios, ya que proporcionan un entorno unificado para seleccionar modelos, gestionar cargas de trabajo y optimizar costes.
Dimensiones de seguridad y el futuro de las prácticas técnicas
Con el aumento de la autonomía de los agentes, crece la necesidad de otorgarles permisos más amplios para acceder a datos y herramientas, lo que plantea preocupaciones de seguridad que llevan a algunas empresas a ser cautelosas en su adopción. Thoughtworks indica en su informe (Technology Radar, Volume 35) que las prácticas de ingeniería tradicionales, como las pruebas de penetración y la comprensión de las rutas de producción, están recuperando un impulso significativo para proteger los sistemas respaldados por inteligencia artificial.
¿Por qué importa esta evolución?
Esta transformación representa un salto cualitativo desde la dependencia total de la revisión humana lenta hacia sistemas de software capaces de auditarse a sí mismos dentro de controles estrictos. Esto ayuda a las organizaciones a aumentar la eficiencia del desarrollo de software al tiempo que se reducen los riesgos de seguridad asociados con la automatización a gran escala.