Safeworldは、Shine Capitalとa16z Speedrunが主導し、Box Group、Carnegie Mellon University Endowment、Innovation Endeavors、SV Angelが参加した1,200万ドルを超えるシードラウンドの資金調達を受け、ステルス状態を脱したと発表した。同社は、生成AIモデルに依存するロボット制御システムの安全性を評価するツールの構築に取り組んでいる。
Safeworldを率いるのは、Carnegie Mellon UniversityのSafe AI Lab所長であるDr. Ding Zhaoと、Kyle Wong、Simo Rachidiである。同社は、生成モデルをロボットに移植する際の根本的な問題を起点としている。生成モデルの挙動は確率的で、従来のアルゴリズムより予測しにくいため、人間の近くで動作する前の試験がより複雑になる。
実際には試験しにくい状況をシミュレーション
Safeworldの評価では、まず現実的なデジタル環境を構築し、次にロボットの実際の制御ソフトウェアを使って、そのロボットのシミュレーション版を稼働させる。その後、人間のモデルがロボットと相互作用する数千のシナリオを実行する。そこには、つまずきや転倒、工場の死角の近くに箱を抱えた人物が現れる状況などが含まれる。
これらの環境は、GenesisやMuJoCoなどのシミュレーションモデルを使って実行できる。目的は、理想的な実験条件で動作するロボットを示すだけではなく、適切な速度、停止距離、通常とは異なる姿勢の人物をシステムが検知する能力など、実務的な要素を測定することにある。
実際には何が変わるのか？
ロボットは自動運転車両と異なり、整備されていない環境で動作し、安全基準も施設ごとに異なる可能性がある。また、周囲にいる人々の行動も一様ではない。立っている場合もあれば、ひざまずいている場合、走っている場合、転倒している場合もあり、衣服、体格、形状、肌の色も異なる。
このため、Safeworldの創業者たちは、限界事例におけるロボットの試験を単純な数学的証明に還元することはできないと考えている。Gritt Roboticsの最高技術責任者であるVishal Dugarは、特に太陽光パネルの設置現場でロボットアームが作業員のそばで稼働する場合、システムの安全性検証は実験的に行う必要があると述べている。Gritt Roboticsは、安全性シミュレーションの開発に向けてSafeworldと提携した。
なぜこの進展が重要なのか？
同社が取り組む問題は、生成AIシステムの確率的なリスク評価と、ロボットの導入を可能にする十分な信頼の構築という、2つの側面の交差点にある。投資家と創業者は、ロボットが家庭や工場に普及する前に安全性の実践手法を整備することで、実際の事故が起きた後に欠陥を発見する事態を避けられる可能性があると考えている。
Safeworldはまた、ロボット企業が安全性試験を検証する第三者機関を必要とする可能性や、競合企業間で危険事例に関する情報を共有する可能性にも賭けている。ただし同社は、プラットフォームを外部向けのソフトウェアサービスとして提供するのか、サービス中心のモデルを採用するのかをまだ決定しておらず、製品開発の初期段階にある。
シミュレーションはあくまで試験ツールであり、安全性を絶対的に保証するものではない。結果の有効性は、人間のモデル、環境、試験対象となるシナリオがどれだけ現実的か、そしてロボットが大規模に導入された際の実際の稼働条件を試験がどれだけ再現できるかに左右される。