Safeworld anunció su salida del modo sigiloso después de recaudar una ronda de financiación inicial de más de 12 millones de dólares, liderada por Shine Capital y a16z Speedrun, con la participación de Box Group, Carnegie Mellon University Endowment, Innovation Endeavors y SV Angel. La empresa trabaja en la creación de herramientas para evaluar la seguridad de sistemas de control robótico que dependen de modelos de inteligencia artificial generativa.
Safeworld está dirigida por Dr. Ding Zhao, director del laboratorio Safe AI de Carnegie Mellon University, junto con Kyle Wong y Simo Rachidi. La empresa parte de un problema fundamental en la transferencia de modelos generativos a los robots: su comportamiento es probabilístico y menos predecible que el de los algoritmos tradicionales, lo que hace más compleja su evaluación antes de que operen cerca de seres humanos.
Simulación de situaciones difíciles de probar en la práctica
La evaluación de Safeworld consiste en crear entornos digitales realistas y ejecutar después una versión simulada del robot utilizando su software de control real. A continuación, se llevan a cabo miles de escenarios en los que modelos humanos interactúan con el robot, incluidos casos de tropiezos y caídas, o la aparición de una persona que lleva cajas cerca de una esquina ciega en una fábrica.
Estos entornos pueden ejecutarse utilizando modelos de simulación como Genesis o MuJoCo. El objetivo es medir elementos prácticos, como la velocidad adecuada, la distancia de frenado y la capacidad del sistema para detectar a una persona en una postura inusual, en lugar de limitarse a mostrar un robot funcionando en condiciones experimentales ideales.
¿Qué cambia en la práctica?
Los robots se diferencian de los vehículos autónomos en que operan dentro de entornos no estructurados, y los estándares de seguridad pueden variar de una instalación a otra. Además, las personas que se encuentran a su alrededor no se comportan de manera uniforme: pueden estar de pie, arrodilladas, corriendo o cayéndose, y tener distintas prendas de vestir, tamaños, formas y tonos de piel.
Por este motivo, los fundadores de Safeworld consideran que probar un robot en casos límite no puede reducirse a una simple demostración matemática. Vishal Dugar, director técnico de Gritt Robotics, afirma que la verificación de la seguridad de los sistemas debe realizarse de forma experimental, especialmente cuando los brazos robóticos trabajan junto a los empleados en instalaciones de montaje de paneles solares. Gritt Robotics se ha asociado con Safeworld para desarrollar simulaciones de seguridad.
¿Por qué es importante este avance?
El problema que aborda la empresa se encuentra en la intersección de dos aspectos: la evaluación de los riesgos probabilísticos de un sistema de inteligencia artificial y la creación de la confianza suficiente para permitir el despliegue del robot. Inversores y fundadores consideran que establecer prácticas de seguridad antes de que los robots se extiendan por los hogares y las fábricas podría ayudar a evitar que los defectos se descubran después de que ocurran accidentes reales.
Safeworld también apuesta por que las empresas de robótica puedan necesitar una entidad externa que verifique las pruebas de seguridad y, posiblemente, que intercambie información sobre situaciones de riesgo entre empresas competidoras. Sin embargo, la empresa aún no ha decidido si ofrecerá su plataforma como un servicio de software externo o si adoptará un modelo basado en servicios, y todavía se encuentra en una etapa temprana del desarrollo del producto.
La simulación sigue siendo una herramienta de prueba y no una garantía absoluta de seguridad. La eficacia de los resultados dependerá de hasta qué punto sean realistas los modelos humanos, los entornos y los escenarios evaluados, así como de la capacidad de las pruebas para representar las condiciones reales de funcionamiento cuando los robots se desplieguen a gran escala.