Birleşik Krallık Bağımsız Polis Davranışları Komisyonu (IOPC), devam eden ceza soruşturmalarıyla ilgili kararların alınmasına ve gerekçelendirilmesine yardımcı olmak amacıyla yapay zeka aracı «Microsoft Copilot»a güvenmesi sonucu ağır kusur işlediği iddiaları üzerine, Derbyshire Şerif Departmanı'nda (Derbyshire Constabulary) üst düzey bir müfettiş hakkında resmi bir soruşturma başlattı.
Suçlamaların detayları ve operasyonel kontrollerin aşılması
Soruşturma, bir memurun yapay zeka kullanım modelini ortaya çıkaran bir iç incelemenin ardından, Derbyshire polis yönetiminin 23 Haziran'da başlattığı gönüllü sevk üzerine Ağustos ayında başladı. Veriler, müfettişe atfedilen ihlallerin dil incelemesi veya yazım hatalarının düzeltilmesi gibi olağan görevlerin ötesine geçtiğini gösteriyor; zira memur aracı prosedürel kararların formüle edilmesinde, risk değerlendirmesi ve yönetiminde ve ceza soruşturmaları sırasında kritik kararların gerekçelendirilmesinde kullandı.
Suçlama listesi ayrıca, operasyonel hassas verilerin ve dava taraflarıyla ilgili kişisel bilgilerin aracın bulut sistemine girilmesini de içeriyor. Derbyshire Şerif Departmanı, Mayıs 2025'te personeline «Copilot» kullanımına resmi olarak izin vermişti, ancak bu izin, rolünü taslak oluşturma ve genel raporları özetleme gibi belirli idari görevlerle sınırlayan ve herhangi bir operasyonel, gizli veya kişisel bilginin girilmesini kesin olarak yasaklayan katı şartlara bağlıydı.
Soruşturmanın zaman çizelgesi ve mesleki standartlar
IOPC İletişim Direktörü Emily Barry, ileri sürülen iddiaların son derece ciddi olduğunu ve bağımsız, kapsamlı bir inceleme gerektirdiğini belirtti. Müfettişler şu anda, Birleşik Krallık polis teşkilatında kabul edilen mesleki standartların ihlal edilip edilmediğini doğrulamak için memurun Mayıs 2025 ile Haziran 2026 arasındaki dönemde aracı kullanım kayıtlarını tam olarak denetlemeye odaklanmış durumda. Memura ağır kusur bildirimi yapıldığı, ancak henüz nihai bir karar verilmediği belirtildi.
Hukuk uygulamasında yapay zeka yönetişimi zorlukları
Bu olay, veri gizliliği sorunlarına ve güvenlik kurumları ile hassas kuruluşlar içindeki yapay zeka yönetişimi risklerine ışık tutuyor. Bazı ABD polis departmanlarının vücut kameralarından alınan kayıtlarla olay raporları oluşturmak için Axon şirketinin «Draft One» platformuna güvenmesi gibi, idari ve kağıt işi yükünü hafifletmek için üretken araçların entegrasyonu hızlanırken, halüsinasyon ve veri sızıntısı riskleri varlığını sürdürüyor.
Hassas verilerin bulut modellerine girilmesi, 2023 yılında Samsung çalışanlarının yazılım kodlarını ve gizli toplantıları «ChatGPT» üzerinden sızdırması gibi önceki olayları hatırlatıyor. Birleşik Krallık'taki mevcut vaka, ofis işlerine yardımcı olan otomasyon ile yapay zeka araçlarının yargı ve güvenlik sistemi içindeki insani takdir ve hayati karar verme görevlerine yetkilendirilmesi arasındaki kritik farkı vurguluyor.