En los sistemas que gestionan transferencias de dinero, atención sanitaria o infraestructura, no basta con que el agente de IA tenga éxito la mayoría de las veces. La idea central del primer nivel de un modelo de madurez de seis niveles para operar sistemas de modelos lingüísticos en producción consiste en contener el modelo dentro de un único nodo, de modo que lo que lo rodea siga siendo código ordinario que pueda probarse, revisarse y auditarse.
El artículo presenta este enfoque como la «capa de determinismo»: el sistema conserva la capacidad del modelo para juzgar entradas complejas, pero le impide tener autoridad directa sobre el estado del negocio o ejecutar acciones sensibles.
El agente propone, no ejecuta
El agente funciona como una función pura que transforma el contexto en una decisión propuesta. Produce el identificador de la decisión, la capacidad requerida, el cambio propuesto, el nivel de confianza, la ruta de enrutamiento, las razones y las pruebas, pero no modifica el estado del negocio. El resultado pasa a un componente separado, al que el artículo denomina substrate, que se encarga de aplicarlo únicamente después de obtener la aprobación requerida.
Esta separación proporciona al sistema tres características prácticas: la posibilidad de probar el agente sin simular el mundo exterior, la reducción del impacto de las salidas erróneas a una propuesta que puede rechazarse y la prevención de cadenas de efectos secundarios ocultos entre agentes. Así, la pregunta auditable pasa a ser: ¿qué propuso el modelo, quién lo aprobó y qué se aplicó realmente?
Un diagrama estático en lugar de un bucle libre
En vez de dejar que un modelo ReAct decida el siguiente paso cada vez, el artículo propone un diagrama estático para cada capacidad. Según el ejemplo, la solicitud pasa por nodos de entrada de la decisión, comprobación de las entradas y carga del contexto; después llega a un único nodo de inferencia lingüística, seguido de barreras de salida y validación, arbitraje opcional, agregación de la confianza, enrutamiento, preparación de la propuesta y escritura de la memoria y del registro de decisiones.
Esta estructura hace que la ruta de ejecución sea conocida de antemano, limita el tiempo y el coste de ejecución y permite probar cada nodo por separado. El nodo no determinista es llm_decision, que recibe una entrada estructurada y produce una salida estructurada, mientras que un código especializado se encarga de validar los valores permitidos, la conformidad con el esquema y las reglas del negocio.
Las salidas estructuradas no significan que la decisión sea correcta
El artículo advierte contra depender de texto libre y tratar después de extraer la decisión. La alternativa consiste en utilizar un esquema JSON, llamadas a herramientas o generación restringida mediante gramáticas, y después validar el resultado y reintentar cuando no cumpla, con un número limitado de intentos y un fallo cerrado, en lugar de pasar una conjetura a las etapas siguientes.
Pero este procedimiento controla la forma de la salida, no la corrección del juicio. Un objeto JSON puede ser correcto desde el punto de vista sintáctico y, aun así, contener una decisión equivocada. Por eso, la validación de las reglas del negocio, la evaluación y las señales de confianza independientes deben mantenerse en capas posteriores.
Confianza, escalado y registro inmutable
La confianza se compone a partir de la señal del modelo, los resultados de la validación y la revisión de un segundo modelo al tomar muestras de decisiones sensibles. Después, el sistema dirige la decisión a la ejecución automática, recomienda una revisión humana, la impone o rechaza la decisión. El artículo subraya que el nivel de confianza no debe ser un campo que el agente determine por sí mismo, sino un resultado calculado a partir de señales independientes, con umbrales inicialmente conservadores que solo deben reducirse cuando los datos demuestren que hacerlo es seguro.
También debe registrarse cada decisión en un registro adicional e inmutable que incluya la versión del modelo y del prompt, un resumen de las entradas de la decisión, la decisión, la confianza y la ruta de enrutamiento. Las correcciones no modifican los registros anteriores; se añaden como nuevos registros que señalan la decisión a la que sustituyen. El artículo recomienda almacenar un hash de las entradas sensibles en lugar de los datos sin procesar y no omitir la escritura ni siquiera bajo presión, porque el registro es la referencia principal y no simples datos de monitorización.
¿Cuándo se permite el bucle iterativo?
La metodología no rechaza por completo los bucles ReAct, pero los limita a los casos en que el número y el orden de los pasos dependen de lo que el modelo descubra durante la búsqueda. Incluso cuando se utilizan, deben imponerse un límite explícito de iteraciones, una lista de herramientas permitidas para cada capacidad y el registro de cada paso, y la salida debe volver a pasar por las mismas barreras, validaciones, comprobaciones de confianza y enrutamiento. Si el límite termina antes de alcanzar un resultado, la ruta debe dirigirse a una revisión humana en lugar de entrar en un bucle infinito.
Lectura editorial: el cambio real aquí no consiste en elegir un modelo mejor, sino en trasladar el centro de confianza de la «autonomía del agente» a la ingeniería de los límites que lo rodean. Este diseño no resuelve automáticamente el problema de la corrección del juicio ni la calibración de la confianza, pero hace que los fallos puedan aislarse, reproducirse y revisarse. Por ello, sirve como base fundacional para sistemas de alto impacto, no como sustituto de la evaluación continua ni de la validación especializada de cada capacidad.