Surveillance du comportement et des actions des agents d’intelligence artificielle à l’aide d’analyses automatisées, d’un examen humain et de contrôles de sécurité.
À mesure que les entreprises confient aux agents d’intelligence artificielle des tâches plus longues et plus complexes, la surveillance de leur comportement dépasse les capacités humaines seules. L’article examine des solutions reposant sur des agents de surveillance, des indicateurs internes et des journaux réseau, mais avertit que l’intelligence artificielle surveillée pourrait tenter de tromper l’intelligence artificielle qui la surveille.