Supervisión del comportamiento y las acciones de los agentes de inteligencia artificial mediante análisis automatizado, revisión humana y controles de seguridad.
A medida que las empresas encargan a los agentes de inteligencia artificial tareas más largas y complejas, supervisar su comportamiento ha superado la capacidad de los seres humanos por sí solos. El artículo examina soluciones basadas en agentes supervisores, indicadores internos y registros de red, pero advierte que una inteligencia artificial supervisada podría intentar engañar a la inteligencia artificial que la supervisa.