Safeworld는 Shine Capital과 a16z Speedrun이 주도하고 Box Group, Carnegie Mellon University Endowment, Innovation Endeavors, SV Angel이 참여한 1,200만 달러 이상의 시드 펀딩 라운드를 유치한 뒤 잠복 상태에서 벗어났다고 발표했다. 이 회사는 생성형 AI 모델에 의존하는 로봇 제어 시스템의 안전성을 평가하기 위한 도구를 구축하고 있다.
Safeworld는 Carnegie Mellon University의 Safe AI 연구소 소장인 Dr. Ding Zhao와 Kyle Wong, Simo Rachidi가 이끌고 있다. 이 회사는 생성형 모델을 로봇에 이전할 때 발생하는 핵심 문제에서 출발한다. 생성형 모델의 행동은 확률적이며 기존 알고리즘보다 예측 가능성이 낮기 때문에, 인간 주변에서 작동하기 전에 이를 테스트하는 일이 더욱 복잡해진다.
실제로 테스트하기 어려운 상황을 시뮬레이션
Safeworld의 평가는 현실적인 디지털 환경을 구축한 다음, 로봇의 실제 제어 소프트웨어를 사용해 로봇의 시뮬레이션 버전을 작동시키는 방식으로 이뤄진다. 그 후 인간 모델이 로봇과 상호작용하는 수천 개의 시나리오를 실행한다. 여기에는 걸려 넘어지거나 추락하는 상황, 또는 공장에서 사각지대 근처에 상자를 든 사람이 나타나는 상황 등이 포함된다.
이러한 환경은 Genesis 또는 MuJoCo와 같은 시뮬레이션 모델을 사용해 구현할 수 있다. 목표는 이상적인 실험 조건에서 작동하는 로봇을 보여주는 데 그치지 않고, 적절한 속도와 정지 거리, 비정상적인 자세에 있는 사람을 시스템이 감지할 수 있는 능력 등 실제적인 요소를 측정하는 것이다.
실제로 무엇이 달라지는가?
로봇은 비조직적인 환경에서 작동한다는 점에서 자율주행 차량과 다르며, 안전 기준도 시설마다 다를 수 있다. 또한 주변에 있는 사람들은 일관된 방식으로 행동하지 않는다. 사람은 서 있거나 무릎을 꿇고 있거나 달리거나 넘어질 수 있으며, 옷과 크기, 형태, 피부색도 서로 다르다.
이 때문에 Safeworld의 창업자들은 극단적인 상황에서 로봇을 테스트하는 일을 단순한 수학적 증명으로 축소할 수 없다고 본다. Gritt Robotics의 최고기술책임자인 Vishal Dugar는 특히 로봇 팔이 태양광 패널 설치 현장에서 작업자와 나란히 작동할 때 시스템의 안전성 검증은 실험적으로 이뤄져야 한다고 말한다. Gritt Robotics는 안전성 시뮬레이션을 개발하기 위해 Safeworld와 파트너십을 맺었다.
이 발전이 중요한 이유
이 회사가 겨냥하는 문제는 두 가지 측면의 교차점에 있다. 하나는 AI 시스템의 확률적 위험 평가이고, 다른 하나는 로봇의 배치를 허용할 만큼 충분한 신뢰를 구축하는 것이다. 투자자와 창업자들은 로봇이 가정과 공장에 널리 보급되기 전에 안전 관행을 마련하면 실제 사고가 발생한 뒤 결함을 발견하는 일을 피하는 데 도움이 될 수 있다고 본다.
Safeworld는 또한 로봇 기업들이 안전성 테스트를 검증할 외부 기관을 필요로 할 수 있으며, 경쟁사 간에 위험 상황에 관한 정보를 공유할 필요가 있을 수도 있다고 본다. 그러나 이 회사는 아직 자사 플랫폼을 외부 소프트웨어 서비스로 제공할지, 서비스 중심 모델을 채택할지 결정하지 않았으며, 제품 개발 초기 단계에 머물러 있다.
시뮬레이션은 테스트 도구일 뿐 안전을 절대적으로 보장하지는 않는다. 결과의 효율성은 인간 모델과 환경, 테스트되는 시나리오가 얼마나 현실적인지, 그리고 로봇을 대규모로 배치했을 때의 실제 작동 조건을 테스트가 얼마나 잘 재현할 수 있는지에 달려 있다.