Cuando las organizaciones pasan de experimentar con un número limitado de agentes de inteligencia artificial a ejecutar decenas o cientos de agentes durante todo el día, la calidad del modelo deja de ser el único factor decisivo. En la segunda parte de la conversación Leaders of Code, publicada por Stack Overflow, Andy Gutmann, de Google, analizó con Peter O’Connor, director de ingeniería de plataformas de Stack Overflow, la economía de esta transición: la cantidad de contexto necesaria, el coste de los tokens, la medición del retorno de la inversión y lo que deberían construir los equipos de ingeniería de plataformas para poder gestionar los agentes en la práctica.
La tesis principal de la conversación es que el problema se ha convertido en un problema de sistema integrado, no de un modelo aislado. El rendimiento final depende del modelo, del mecanismo mediante el cual se ejecuta, del contexto que se le proporciona, del grado de personalización y de las herramientas que invoca. Según Gutmann, el objetivo no es utilizar el modelo más avanzado en cada tarea, sino elegir el modelo menos complejo que logre el resultado requerido al menor coste. Los modelos ligeros, como Gemini 3.5 Flash, pueden ser suficientes para algunos usos, mientras que otros casos requieren un modelo Gemini Pro.
El contexto adecuado importa más que el número de tokens
Gutmann critica lo que denomina «maximización de tokens»; aumentar el tamaño de las entradas o alargar los ciclos de razonamiento no significa necesariamente obtener un mejor resultado. La tendencia práctica, según explica, consiste en reducir el contexto a la información que realmente impulsa el resultado y mejorar la precisión de las rutas de ejecución para que el agente necesite menos ciclos de razonamiento. Esto vincula directamente el coste con la calidad de la búsqueda y la recuperación de datos, y no solo con el precio del modelo.
Sin embargo, determinar el «mínimo contexto utilizable» no es una tarea sencilla. Gutmann afirma que los datos y el modelo deben evaluarse conjuntamente para saber qué parte del contexto mejora realmente el resultado. Por ello, se mostró escéptico ante las entidades que aseguran haber resuelto por completo el problema del contexto, y afirmó que ni siquiera Google lo ha resuelto totalmente. La empresa depende de evaluaciones, del seguimiento de las trayectorias de los agentes, de la mejora de las búsquedas y del enriquecimiento de los datos para determinar qué merece incorporarse en cada tarea.
Este punto es importante para los equipos de inteligencia artificial porque advierte contra convertir el conocimiento seleccionado o los esquemas de datos en un fin independiente. Que los seres humanos consideren útil una información no demuestra que vaya a producir un mejor resultado para el agente. La medición debe partir de los resultados y las trayectorias reales, manteniendo al ser humano dentro del circuito cuando sean necesarias la autoridad para decidir o la evaluación humana.
La escala cambia la ecuación de costes y beneficios
En el entorno laboral tradicional, el volumen de uso puede estimarse aproximadamente a partir del número de empleados y sus horas de trabajo. Los agentes, en cambio, trabajan a mayor velocidad y durante todo el día, y un solo empleado puede tener decenas de agentes, o una organización puede contar con millones de agentes, según el escenario planteado por Gutmann. Por ello, el uso y los costes pueden crecer de forma no lineal, lo que exige una gobernanza clara del consumo y conocer el retorno generado por cada uso.
Gutmann no considera que el retorno de la inversión deba medirse por el número de tokens procesados. El criterio es si la organización obtiene un resultado diferente o mejor en comparación con lo que lograba antes. Citó usos como la atención al cliente, la mejora de las operaciones del sitio y de la fiabilidad, y la gestión autónoma de redes en Deutsche Telekom, incluido el mantenimiento proactivo. Estos siguen siendo ejemplos mencionados en la conversación, no resultados cuantitativos ni un estudio comparativo publicado como parte del material.
Uno de los aspectos prácticos que plantea la conversación es la reducción del coste de la experimentación. Gutmann mencionó que durante un fin de semana construyó un prototipo de una idea que antes podría haber requerido entre tres y cuatro meses de trabajo de un ingeniero. Explicó que el modelo no era código listo para producción, pero ayudó a detectar pronto los riesgos de diseño y a reducir la probabilidad de invertir durante varios meses en una dirección equivocada. El valor no consiste en sustituir el desarrollo para producción, sino en acelerar la comprobación de hipótesis antes de comprometer más recursos.
El agente, una nueva personalidad para la plataforma
Gutmann propone que los equipos de plataformas traten al agente como una personalidad a la que deben prestar servicio, junto con los desarrolladores, los científicos de datos, los ingenieros de datos y los usuarios de las áreas de negocio. Esto significa que las herramientas actuales no necesariamente se trasladarán tal cual a la era de los agentes, aunque algunos de sus ejes seguirán siendo esenciales: seguridad y gobernanza, costes, disponibilidad y escalabilidad, además de la supervisión operativa específica de los agentes.
En la práctica, la organización necesita saber qué hace el agente en el entorno de producción, qué herramientas y datos invoca, cuánto cuesta y si avanza hacia el resultado deseado. También necesita capacidades y controles que impidan un uso descontrolado. La conversación señala que la infraestructura debe trasladar una parte mayor de la responsabilidad de prevenir errores a la plataforma, en lugar de dejar cada decisión operativa en manos del usuario o del agente.
Gutmann considera que incorporar científicos de datos e ingenieros de datos a los equipos de plataformas puede ser útil, aunque su número no sea elevado. La ingeniería de datos sigue siendo necesaria para garantizar que datos correctos, gobernados y accionables lleguen al lugar adecuado, mientras que aplicaciones como la detección del fraude y la predicción siguen beneficiándose del aprendizaje automático tradicional. Esto confirma que «la inteligencia artificial primero» no elimina la necesidad de contar con datos de calidad ni con criterio especializado.
¿Qué deberían aprender los nuevos profesionales?
Al final de la conversación, Gutmann subrayó la importancia permanente de los fundamentos de las ciencias de la computación, incluidas las matemáticas, la arquitectura de sistemas y la comprensión de cómo se construyen las tecnologías, y señaló también el regreso de la importancia del hardware después de años de centrarse en el software. Añadió, sin embargo, que la competencia para programar con agentes y lograr resultados mediante ellos se convertirá en una habilidad demandada, junto con la comprensión de los problemas empresariales.
Lectura editorial de certi.news: el cambio real que describe el material no es el lanzamiento de una nueva plataforma o modelo, sino el traslado del punto de estrangulamiento de «¿es capaz el modelo?» a «¿cómo diseñamos, controlamos y medimos el sistema?». No obstante, la entrevista no ofrece cifras independientes sobre el ahorro de costes ni métricas de rendimiento comparables, y sus ejemplos proceden de la experiencia y las percepciones de los participantes. Por ello, debe tratarse como un análisis práctico y una orientación de diseño, no como una prueba cuantitativa de que toda organización reducirá sus costes simplemente aumentando el uso de agentes.