Suivez les dernières actualités, explications et histoires technologiques associées.
Artificial Intelligence Underwriting Company a levé 40 millions de dollars lors d’un tour de financement de série A afin de développer la norme AIUC-1 et un service indépendant d’audit des agents d’intelligence artificielle. L’entreprise teste les agents dans environ 5 000 scénarios couvrant le contournement des garde-fous, les hallucinations et les fuites de données, avant de publier un rapport d’audit vérifié par des équipes humaines.
Doron Grinstein estime que les outils de programmation par IA ont réduit le coût de lancement des projets, mais qu’ils ont creusé l’écart entre la construction d’un prototype et l’exploitation d’un service sécurisé et évolutif. Plutôt que d’abandonner les pratiques cloud native, il préconise de les rendre utilisables par les agents et les développeurs non spécialisés grâce à des interfaces déclaratives et des garde-fous automatisés.