Booz Allen tarafından gerçekleştirilen bir çalışma, yapay zekâ ajanlarının alışılmadık operasyonel teknoloji (OT) ortamlarını keşfedebildiğini, engellere uyum sağlayabildiğini ve dakikalar içinde fiziksel ekipmanları etkileyen değişiklikler gerçekleştirebildiğini gösterdi. Bulgular, potansiyel riskin dijital ihlal alanından endüstriyel sistemlerin ve fiziksel ekipmanların kontrolüne taşınması bakımından önem taşıyor.
Çalışmanın sonuçları, rapor kamuya sunulmadan önce Nashville’de düzenlenen SecurityWeek Endüstriyel Kontrol Sistemleri (ICS) Güvenliği Konferansı’nda paylaşıldı. Şirket testleri, gelişmiş yapay zekâ modellerini kullanarak yalıtılmış bir OT laboratuvarında gerçekleştirdi. Bu modeller, kaynak kodu, mühendislik belgeleri veya uzmanlaşmış OT yönergeleri de dâhil olmak üzere ortam hakkında önceden bilgiye sahip değildi.
Test sonuçları
Araştırmacılara göre modeller, sekiz senaryonun tamamında belirlenen her hedefe ulaştı. Görevler tek bir adımla sınırlı kalmadı; varlıkların keşfedilmesi, cihaz özelliklerinin araştırılması ve saldırının planlanması gibi genellikle birden fazla kişi ve ekip arasında dağılan aşamaları bir araya getirdi.
Testlerden birinde modeller, çevre ihlalinden endüstriyel kontrol ağı içinde eylemler gerçekleştirmeye 16 dakikadan biraz uzun bir sürede geçti. Başka bir testte bir model robotik bir kolu buldu, koruma alanlarını ve hareket sınırlarını belirledi, ardından kolu dakikalar içinde hareket ettirdi.
Mevcut bazı savunma araçları belirli eylemleri engelleyebildi veya yavaşlatabildi; ancak çalışma, tek başına hiçbir kontrolün otonom modellerin test edilen senaryolarda hedeflerine tutarlı biçimde ulaşmasını durduramadığını ortaya koydu.
Pratikte ne değişiyor?
Çalışma, farkın yalnızca yapay zekânın saldırı adımlarını gerçekleştirme becerisinde değil, normalde art arda insan müdahalesi gerektiren aşamaları birbirine bağlama hızında yattığını ortaya koyuyor. OT ortamlarında bu hızlanma, güvenlik ekipleri süreci anlayamadan veya kesemeden önce siber bir faaliyeti fiziksel bir etkiye dönüştürebilir.
Booz Allen, özellikle modeller cihazların özelliklerini çıkarabilir ve doğrudan keşif yoluyla sistemlerle etkileşime girebilirse, OT ortamının belirsizliğine veya saldırganın ortamın ayrıntılarını bilmemesine güvenmenin artık yeterli olmadığını düşünüyor. Bununla birlikte çalışma, şirketin laboratuvarının her kurumsal OT ortamıyla zorunlu olarak aynı olmadığını da kabul ediyor; bu, sonuçların genellenmesi açısından önemli bir sınırlama.
Çalışma ne öneriyor?
Araştırmacılar, sistem sahipleri ve işletmecilerinin ortam içinde ilerlemeyi zorlaştırmaya, örtük güveni ortadan kaldırmaya, etkili endüstriyel değişiklikleri hızla tespit etmeye ve erişim sağlandıktan sonra saldırganın etkileyebileceği alanı, erişim siber veya fiziksel bir araç üzerinden başlamış olsun, daraltmaya odaklanmasını öneriyor.
Booz Allen’ın kullandığı «süperzekâ» teriminin anlamı belirsizliğini koruyor; zira şirket, metin hazırlanırken bunun yaygın anlamıyla gelişmiş yapay zekâyı mı yoksa daha belirli bir kavramı mı ifade ettiğini açıklamamıştı. Testler, her endüstriyel ortamın aynı sonuçlara maruz kalacağını kanıtlamıyor; ancak hızlı ve bağımsız biçimde çalışabilen ajanlar karşısında tek başına savunmaların yeterli olmayabileceğine dair pratik bir gösterge sunuyor.