Safeworld a annoncé sa sortie du mode furtif après avoir levé un tour de financement d’amorçage de plus de 12 millions de dollars, mené par Shine Capital et a16z Speedrun, avec la participation de Box Group, Carnegie Mellon University Endowment, Innovation Endeavors et SV Angel. L’entreprise développe des outils pour évaluer la sécurité des systèmes de contrôle robotique qui reposent sur des modèles d’intelligence artificielle générative.
Safeworld est dirigée par Dr. Ding Zhao, directeur du laboratoire Safe AI à Carnegie Mellon University, ainsi que par Kyle Wong et Simo Rachidi. L’entreprise part d’un problème fondamental lié au transfert des modèles génératifs vers les robots : leur comportement est probabiliste et moins prévisible que celui des algorithmes traditionnels, ce qui rend leur test avant une utilisation à proximité d’humains plus complexe.
Simuler des situations difficiles à tester en pratique
L’évaluation de Safeworld consiste à créer des environnements numériques réalistes, puis à y faire fonctionner une version simulée du robot à l’aide de ses véritables logiciels de contrôle. Des milliers de scénarios sont ensuite exécutés, dans lesquels des modèles humains interagissent avec le robot, notamment des situations de trébuchement et de chute, ou l’apparition d’une personne portant des boîtes près d’un angle mort dans une usine.
Ces environnements peuvent être mis en œuvre à l’aide de modèles de simulation tels que Genesis ou MuJoCo. L’objectif est de mesurer des éléments concrets, comme la vitesse appropriée, la distance d’arrêt et la capacité du système à détecter une personne dans une position inhabituelle, plutôt que de se contenter de présenter un robot fonctionnant dans des conditions expérimentales idéales.
Qu’est-ce qui change concrètement ?
Les robots se distinguent des véhicules autonomes par le fait qu’ils opèrent dans des environnements non structurés, et que les normes de sécurité peuvent varier d’une installation à l’autre. Les personnes présentes autour d’eux ne se comportent pas non plus de manière uniforme : elles peuvent être debout, agenouillées, courir ou tomber, avec des vêtements, des tailles, des morphologies et des couleurs de peau différents.
C’est pourquoi les fondateurs de Safeworld estiment que tester un robot dans des cas limites ne peut pas être réduit à une simple démonstration mathématique. Vishal Dugar, directeur technique de Gritt Robotics, affirme que la vérification de la sécurité des systèmes doit être réalisée de manière empirique, en particulier lorsque des bras robotisés travaillent aux côtés d’employés sur des sites d’installation de panneaux solaires. Gritt Robotics s’est associée à Safeworld pour développer une simulation de sécurité.
Pourquoi cette évolution est-elle importante ?
Le problème ciblé par l’entreprise se situe à l’intersection de deux aspects : l’évaluation des risques probabilistes d’un système d’intelligence artificielle et l’instauration d’un niveau de confiance suffisant pour permettre le déploiement du robot. Les investisseurs et les fondateurs estiment que l’établissement de pratiques de sécurité avant la généralisation des robots dans les foyers et les usines pourrait contribuer à éviter que des défauts ne soient découverts après la survenue d’accidents réels.
Safeworld mise également sur le fait que les entreprises de robotique pourraient avoir besoin d’un organisme externe pour vérifier les tests de sécurité, voire pour partager des informations sur les situations dangereuses entre entreprises concurrentes. L’entreprise n’a toutefois pas encore tranché entre la commercialisation de sa plateforme comme service logiciel externe et l’adoption d’un modèle fondé sur les services, et elle en est encore à une phase précoce du développement du produit.
La simulation reste un outil de test et non une garantie absolue de sécurité. L’efficacité des résultats dépendra du réalisme des modèles humains, des environnements et des scénarios testés, ainsi que de la capacité des tests à représenter les conditions réelles d’exploitation lors du déploiement des robots à grande échelle.