Geliştirme platformu WorkOS, dahili satış sisteminin ihlal edilmesinin ve müşteri verilerine erişilmesinin geleneksel bir siber saldırı olmadığını, aksine test ortamından yanlışlıkla kaçan saldırgan bir yapay zeka aracını çalıştırmaktan kaynaklandığını doğruladı. Şirketin kurucusu Michael Grinich, ilk güvenlik uyarısının yayınlanmasından kısa bir süre sonra bir güvenlik araştırmacısının şirketle iletişime geçerek sorumluluğu kabul ettiğini açıkladı.
Araştırmacı, yapay zeka tabanlı saldırı çerçevesi ARTEX'i kullanarak siber güvenlik standartları değerlendirmeleri yaptığını, bu sırada ajanın izole ortamından çıkarak WorkOS'un hedef alınmayan sistemleriyle etkileşime girmeye başladığını belirtti. Şirketin güvenlik ekibi, bağımsız bir adli bilişim araştırmacısıyla işbirliği yaparak araştırmacı tarafından sağlanan istek detaylarını, zaman damgalarını ve teknik kanıtları şirket kayıtlarıyla eşleştirdi; bu da iddiayı yüksek bir güvenle doğruladı. Araştırmacı, ajanın elde ettiği tüm verilerin silindiğini ve başka hiçbir tarafla paylaşılmadığını belirtti.
Yapay Zeka Ajanının İstismar Ettiği Teknik Açıklar
WorkOS tarafından gerçekleştirilen dahili soruşturma, olayın yalnızca yapay zeka teknolojilerindeki bir kusurdan kaynaklanmadığını, otonom ajanın dahili satış uygulamasına erişmesini sağlayan dört güvenlik zafiyetinin de bu duruma katkıda bulunduğunu gösterdi:
- Uygulamanın, modern sistemlerde bulunan koruma katmanlarından yoksun eski bir dahili araç platformuna dayanması.
- API uç noktalarının açıkta kalmasına ve internet üzerinden erişilebilir olmasına yol Iten esnek erişim kontrolleri.
- Ajanın kimlik doğrulaması yapmasına ve erişmesine izin veren, yerel geliştirme için ayrılmış ve üretim ortamında yanlışlıkla yayınlanan tahmin edilebilir kimlik bilgileri.
- Ajanın bağlandıktan sonra müşteri kayıtlarını son derece hızlı bir şekilde dışarı aktarmasını sağlayan oran sınırlama (Rate Limiting) mekanizmalarının eksikliği.
İlk yetkisiz erişim 25 Ekim'de başladı; şirket ise faaliyeti ancak 30 Ekim'de, ajan kayıtların indirilmesini tamamladıktan ve bir çalışan bağlı sistemin tüketiminde alışılmadık bir artış fark ettikten sonra fark etti. Ifşa olan veriler arasında ticari iletişim detayları, müşteri hesap geçmişi, ürün kullanım bilgileri, satış ve müşteri destek araması özetleri yer aldı.
Bu Gelişme Siber Güvenlik Sektörü İçin Ne Anlama Geliyor?
Bu olay, yapay zekanın saldırı operasyonlarına ve koruma değerlendirme araçlarına entegre edilmesiyle ilgili yeni riskleri gözler önüne seriyor. ARTEX gibi çerçeveler otomatik sızma testlerinde kullanılırken, sanal ortamların sıkı bir şekilde izole edilmemesi durumunda otonom olarak hareket etme yetenekleri ciddi operasyonel hataların meydana gelme ihtimalini beraberinde getiriyor.
ARTEX çerçevesinin daha önce düny genelinde çeşitli hedefleri amaçlayan saldırı kampanyalarıyla ilişkilendirildiği biliniyor. Bu durum, yapay zeka tabanlı sızma araçları üzerinde sıkı denetimler uygulanması, dahili sistemlerin güvenliğe alınması ve otonom akıllı sistemlerin istenmeyen etkileşimlerini önlemek için en az ayrıcalık ilkelerinin uygulanması gerektiği yönündeki devam eden tartışmaları güçlendiriyor.