Veri analizi ve uygulamaları şirketi Palantir'in CEO'su Alexander Karp, dijital verileri kontrol eden şirketlerin bu verileri sadece toplamakla kalmayıp, insanların düşüncelerini kontrol etme veya onlara derinlemesine etki etme kapasitesine sahip olduğu konusunda uyardı ve kullanıcıların günlük olarak güvendikleri teknolojilerin entelektüel etkisini genellikle küçümsediklerine işaret etti.
Amerikalı gazeteci Walter Isaacson ile yapılan bir röportajda Karp, genel odağın genellikle hükümet gözetimi endişelerine kaydığını, buna karşılık büyük ticari şirketlerin veriler aracılığıyla bireysel bilinci şekillendirmede oynadığı tehlikeli rolün ihmal edildiğini açıkladı. Bu etkinin farkındalığının eksikliğinin, dijital gizlilik ihlallerinin gerçek boyutlarının kavranmasını engellediğini vurguladı.
Yapay Zeka Riskleri ve Gözetim Araçları
Karp, yapay zeka teknolojilerine değinerek, bunların olumlu veya olumsuz amaçlar için yönlendirilebilecek iki ucu keskin bir bıçak olduğunu açıkladı ve bunların "gözetim faaliyetlerinde" kullanılmasını en kötü uygulamalardan biri olarak nitelendirdi. Bu teknolojilerin kullanımının zararlı bir şekilde istismar edilmemesini sağlamak için, kullanımın bazı yönlerine sıkı düzenleyici kısıtlamalar getirilmesi gerektiğini vurguladı.
Ayrıca, Büyük Dil Modelleri (LLM) şirketlerine, modellerini açık bir yasal izin almadan veri kullanarak eğittikleri gerekçesiyle sert eleştirilerde bulundu; bu sırada şirket politikalarını savunarak, bunların gizlilik haklarını ihlal etmediğini ve denetim faaliyetleri için yetkilendirilmiş yasal çerçeveler dahilinde çalıştığını belirtti.
Pratikte Ne Değişiyor?
Bu açıklamalar, yazılım ve veri analizi sektörü içinde teknik verimlilik ile kişisel verilerin istismarı arasındaki sınırlara ilişkin artan endişelere ışık tutuyor. Karp, büyük teknoloji şirketleri ile savunma ve güvenlik sektörü arasındaki koordinasyonu savunsa da, yapay zekanın genişletebileceği ekonomik uçurumların yanı sıra hükümete olan güven krizlerinin, düzenleyici ve etik bir dikkatle ele alınması gereken yapısal zorluklar yarattığını kabul ediyor.