Safeworld, Shine Capital ve a16z Speedrun liderliğinde, Box Group, Carnegie Mellon University Endowment, Innovation Endeavors ve SV Angel’ın katılımıyla 12 milyon doları aşan bir tohum yatırım turu toplamasının ardından gizlilikten çıktığını duyurdu. Şirket, üretken yapay zekâ modellerine dayanan robotik kontrol sistemlerinin güvenliğini değerlendirmeye yönelik araçlar geliştiriyor.
Safeworld’ü, Carnegie Mellon University’de Safe AI Laboratuvarı yöneticisi Dr. Ding Zhao ile birlikte Kyle Wong ve Simo Rachidi yönetiyor. Şirket, üretken modellerin robotlara aktarılmasındaki temel bir sorundan yola çıkıyor: Bu modellerin davranışları olasılıksal ve geleneksel algoritmalara kıyasla daha az öngörülebilir. Bu da insanlara yakın çalışmadan önce test edilmelerini daha karmaşık hâle getiriyor.
Pratikte test edilmesi zor durumların simülasyonu
Safeworld’ün değerlendirmesi, gerçekçi dijital ortamlar oluşturmayı ve ardından robotun gerçek kontrol yazılımını kullanarak robotun simüle edilmiş bir kopyasını çalıştırmayı içeriyor. Sonrasında, insan modellerinin robotla etkileşime girdiği binlerce senaryo yürütülüyor. Bu senaryolar arasında tökezleme ve düşme durumları ya da bir fabrikada kör bir köşenin yakınında kutular taşıyan bir kişinin ortaya çıkması da bulunuyor.
Bu ortamlar Genesis veya MuJoCo gibi simülasyon modelleri kullanılarak oluşturulabiliyor. Amaç, yalnızca ideal deney koşullarında çalışan bir robot sergilemek yerine uygun hız, durma mesafesi ve sistemin alışılmadık bir pozisyondaki kişiyi tespit etme kapasitesi gibi pratik unsurları ölçmek.
Pratikte ne değişiyor?
Robotlar, düzensiz ortamlarda çalışmaları bakımından otonom araçlardan farklıdır ve güvenlik standartları bir tesisten diğerine değişebilir. Ayrıca çevrelerindeki insanlar tek tip davranmaz; ayakta duruyor, çömeliyor, koşuyor veya düşüyor olabilirler. Giysileri, boyutları, şekilleri ve ten renkleri de farklılık gösterebilir.
Bu nedenle Safeworld’ün kurucuları, robotun sınır durumlarda test edilmesinin basit bir matematiksel kanıta indirgenemeyeceğini düşünüyor. Gritt Robotics’in teknik direktörü Vishal Dugar, sistemlerin güvenliğinin özellikle robotik kollar güneş paneli kurulum sahalarında işçilerin yanında çalıştığında deneysel olarak doğrulanması gerektiğini söylüyor. Gritt Robotics, güvenlik simülasyonları geliştirmek üzere Safeworld ile ortaklık kurdu.
Bu gelişme neden önemli?
Şirketin hedef aldığı sorun iki alanın kesişiminde yer alıyor: yapay zekâ sisteminin olasılıksal risklerini değerlendirmek ve robotun kullanılmasına olanak tanıyacak yeterli güveni oluşturmak. Yatırımcılar ve kurucular, robotlar evlerde ve fabrikalarda yaygınlaşmadan önce güvenlik uygulamaları oluşturmanın, kusurların gerçek kazalar meydana geldikten sonra keşfedilmesini önlemeye yardımcı olabileceğini düşünüyor.
Safeworld ayrıca robot şirketlerinin güvenlik testlerini doğrulamak ve muhtemelen rakip şirketler arasındaki tehlike durumlarına ilişkin bilgileri paylaşmak için üçüncü taraf bir kuruluşa ihtiyaç duyabileceğine güveniyor. Ancak şirket, platformunu harici bir yazılım hizmeti olarak mı sunacağına yoksa hizmet temelli bir model mi benimseyeceğine henüz karar vermedi ve ürün geliştirme sürecinin hâlâ erken aşamasında.
Simülasyon, mutlak bir güvenlik garantisi değil, bir test aracı olmaya devam ediyor. Sonuçların etkililiği, insan modellerinin, ortamların ve test edilen senaryoların ne ölçüde gerçekçi olduğuna ve testlerin robotlar geniş ölçekte kullanıma sunulduğunda gerçek çalışma koşullarını temsil etme kapasitesine bağlı olacak.