Las grandes instituciones financieras han comenzado a imponer restricciones estrictas a las herramientas de agentes de programación impulsadas por inteligencia artificial que funcionan en los dispositivos de los empleados, en un paso que refleja las crecientes preocupaciones relacionadas con la ciberseguridad y las cadenas de suministro de software. En este contexto, informes de prensa indicaron que el banco Goldman Sachs ha restringido el uso de herramientas como Claude Code de Anthropic y los asistentes de programación de GitHub para desarrolladores, limitando las restricciones a banqueros y operadores, con la excepción de algunos desarrolladores de computación financiera conocidos como "Strats".
Estos movimientos se producen en medio de crecientes advertencias de ejecutivos del sector tecnológico, entre ellos Amjad Musad, CEO de Replit, quien señaló que la ejecución de agentes de programación inteligentes directamente en los endpoints de los empleados representa un riesgo de seguridad estructural para las empresas y los gobiernos. Musad explicó que las campañas para restringir estas herramientas se están expandiendo dentro del sector financiero para mitigar los riesgos asociados con los ataques a la cadena de suministro y la exposición de credenciales sensibles.
Riesgos de exposición de software y protección de credenciales
La dependencia de agentes de IA en los dispositivos de los usuarios plantea problemas que ya se extienden más allá del sector bancario, incluyendo el riesgo de que las claves de acceso y las credenciales de software a largo plazo sean leídas o reutilizadas por elementos maliciosos. Estos desafíos han llevado a algunos proveedores a imponer el uso de tokens de corta duración y a obligar a los proveedores a abandonar las claves antiguas.
Las alertas de seguridad emitidas por empresas tecnológicas como Replit señalan incidentes previos en los que se utilizaron extensiones de herramientas de programación distribuidas a través de tiendas digitales para comprometer sistemas, lo que confirma que la mera confianza de la institución en el desarrollador no evita los peligros si el agente recibe instrucciones maliciosas o descarga dependencias de software contaminadas.
¿Qué cambia en la práctica para las instituciones?
Las restricciones impuestas por las grandes instituciones no significan el cese total del uso de la inteligencia artificial en la programación, sino que exigen un cambio radical en los entornos de ejecución. Las directrices técnicas modernas recomiendan trasladar el trabajo de los agentes de IA de los dispositivos locales de los empleados a entornos en la nube dedicados y controlados por la organización, separando la gestión de credenciales, los registros de auditoría y las aprobaciones.
Los expertos enfatizan que las empresas necesitan imponer un control estricto sobre el alcance de los permisos y aquello a lo que los agentes pueden acceder, y no solo elegir quién tiene permitido usar esas herramientas, en medio de las expectativas de que más instituciones adopten modelos de aislamiento en la nube similares para proteger su infraestructura sensible.