Yapay zeka sektörü, gelişmiş modellerin yönetişimi ve dağıtım öncesi değerlendirme mekanizmaları üzerine geniş bir tartışmaya sahne oluyor. Ancak bu büyük tartışmalar, genellikle bir yapay zeka temsilcisinin e-posta gönderme, şifreleme anahtarlarını değiştirme, yazılım dallarını birleştirme veya para transferi yapma gibi hassas işlemleri gerçekleştirip gerçekleştiremeyeceğine karar veren gerçek program kodunu göz ardı ediyor. Bu kararlar büyük laboratuvarlar veya düzenleyici metinler tarafından değil, doğru veya yanlış değerini döndüren basit yazılım fonksiyonları tarafından veriliyor.
Temsilci eylemlerini doğrulamak için kullanılan açık kaynaklı bir protokol olan "PIC" üzerinde yapılan stres testleri, sorunların mutlaka şifreleme başarısızlığından değil, protokolün görünüşte geçerli ancak farklı yorumlara açık birden fazla formatı kabul etmesinden kaynaklandığını gösterdi. Örneğin, yapısal şema karma değerlerini büyük veya küçük harflerle kabul edebilirken, yorumlayıcı bunları sistemler arasında beyan edilen standartları ihlal etmeden farklı sonuçlara yol açacak şekilde işleyebilir.
Veri doğrulamasında JSON şemalarının sınırları
JSON şemaları, veri yapısını doğrulamada temel ancak sınırlı bir rol oynar; gerekli alanların varlığını, değer türlerinin doğruluğunu ve genel kurallara uygunluğunu kontrol ederler. Bununla birlikte, şema, belirli bir kanıt referansının kaynak dizisi içinde tekrarlama veya karışıklık olmaksızın tek bir öğeyi işaret etmesini sağlamak gibi karmaşık ilişkisel kuralları zorunlu kılamaz.
Farklı programlama dilleri arasında arama işlemlerinin veya tanımlayıcı eşleştirmelerinin uygulanmasındaki farklılıklar, daha önce HTTP ve JWT gibi protokollerde ortaya çıkan ve iki bileşenin aynı girdiyi iki farklı şekilde okuduğu, "ayrıştırıcı uyumsuzluğu" olarak bilinen eski bir güvenlik açığı türüne yol açar. Modern temsilci protokollerinde bu nüanslar, aynı politika ve spesifikasyonları kullanan bir hizmette eylemlerin kabul edilmesine, diğerinde ise reddedilmesine neden olur.
Normalleştirme işlemlerinin protokol güvenliğine etkisi
Geliştiriciler genellikle fazladan boşlukları kaldırmak, harfleri küçük harfe dönüştürmek veya Base64 dolgularını düzeltmek gibi kurtarılabilir verilerin reddedilmesini önlemek için girdileri normalleştirme eğilimindedir. Ancak bu uygulamalar, kimlik doğrulama sınırlarında gerçek bir risk oluşturur. Örneğin, yorumlayıcı bir aracın adını normalleştirir veya izin verilenler listesiyle eşleştirmeden önce boşlukları kaldırırsa, sistem imzacı tarafın onaylamadığı bir eylemi gerçekleştirebilir veya geliştiricilerin bilgisi dışında yürütme izinlerini manipüle edebilir.
Buna ek olarak, temsilcinin kendi kaynağının güvenilirliğini onaylamak için gönderdiği alanlara güvenmek, dijital formatta "şaşkın vekil" (confused deputy) sorununa kapı aralar. Güven, talep yükündeki iddialardan bağımsız olarak, dijital imzaların doğrulanması ve operatörün doğrudan güvendiği şifreli anahtarlarla eşleştirilmesi yoluyla, yalnızca yasa uygulama ve doğrulama sınırları içinde tesis edilmelidir.
Üç katmanlı yapı ve yürütme eşleştirme vektörleri
Bu açıkları önlemek, üç ardışık katmanı net bir şekilde ayıran bir yapı gerektirir:
- Şema Doğrulama: Bozuk yapıları ve ağ ile uyumsuz temsilleri reddetmek için.
- Anlamsal Doğrulama: Referansları çözmek, ilişkileri doğrulamak ve gerçek güveni türetmek için.
- Politika Değerlendirmesi: Eylemin gerçekleştirilmesine izin verilmesi veya engellenmesi konusunda nihai kararı vermek için.
Belgeleme notlarıyla yetinmek yeterli değildir; belirsiz durumlarla başa çıkmak için kesin girdiler, beklenen sonuçlar ve kararlı hata kodları içeren net yürütme uyumluluk test araçları gereklidir. Bu vektörler, tüm uygulamalar arasında davranış birliğini garanti eder ve güvenliğin farklı yazılım köprülerindeki değişken varsayılan yapılandırmalara dayanmasını engeller.