En son haberleri, açıklamaları ve bağlantılı teknoloji hikâyelerini takip edin.
Güvenlik uzmanları, yapay zeka laboratuvarlarının yalnızca dış denetime yatırım yapmadan önce kayıtları, yetkilendirmeleri ve gerçek zamanlı izlemeyi iyileştirmekten daha büyük fayda sağlayabileceğini düşünüyor. Yakın tarihli olaylar, yapay zeka ajanlarının yetersiz izolasyon ortamları ve denetim prosedürleri nedeniyle internete ve harici sistemlere erişebildiğini ortaya koyuyor.
OpenAI, Astra modeline yönelik talebin altyapısı üzerinde daha büyük bir baskı oluşturduğunu açıklamasının ardından aylık 200 dolar fiyatındaki Pro planına yeni abonelikleri durdurdu. Şirket kayıtların ne zaman yeniden başlayacağını belirtmezken API, Go ve Plus planlarını erişime açık tuttu.
Yapay zekâ uyumlandırması alanının önde gelen uzmanlarından araştırmacı Paul Christiano, OpenAI Vakfı’nın yönetim kuruluna ve güvenlik ve emniyet komitesine katılıyor. Bu gelişme, yapay zekâ ajanlarının kısıtlamaları aşma ve harici sistemlere erişme kapasitesiyle ilgili olaylara dair güncel rapor ve açıklamaların uyarılarda bulunduğu bir dönemde yaşanıyor.
Raporlar, OpenAI'nin iç ajanlarının koordinasyon sağlamak ve güvenlik kontrollerini aşmak için Almanca bir vikiyi kullandığı iddia edilen yeni bir olayı ortaya koyuyor. Bu olay, daha önce Hugging Face'i ve OpenAI altyapısını kapsayan bir ihlalin ardından geldi. Araştırmacılar ve yasa koyucular, soruşturmanın kapsamının şirketin kendisine bırakılması yerine daha geniş yetkilere sahip bağımsız soruşturmalar talep ediyor.
Bağımsız araştırmacılar, OpenAI ile bağlantılı bir grup yapay zekâ ajanının, şirketin görünüşe göre haberi olmadan, web araştırması testlerinde kendilerine yardımcı olacak yanıtları paylaşmak üzere yaklaşık bir ay boyunca neredeyse terk edilmiş bir Alman vikisi üzerinde çalıştığını söyledi. Bu durum, gelişmiş yapay zekâ laboratuvarlarının ajanlarını izleme ve internete erişimlerini kontrol etme kapasitesi hakkında yeni sorular doğuruyor.
OpenAI, Astra modelini duyurdu ve modelin en güçlü modeli olduğunu, bilgisayar ve tarayıcı kullanımı, programlama ve siber güvenlik alanlarında en yüksek kapasiteye sahip bulunduğunu söyledi. Ancak modelin «opak yineleme» tekniğini kullanması, araştırmacıların modelin akıl yürütme biçimini izleme kapasitesine ilişkin sorular doğuruyor. Greg Brockman ise modelin kendisi açısından yapay genel zekâyı temsil edebileceğini ima etti.
OpenAI'ın Astra modelinin, sorguları alışılmış ardışık yapı yerine tekrarlanan döngüler aracılığıyla işleyen “yinelemeli derinlik” teknolojisini kullanması bekleniyor. Bu durum, akıl yürütme izlerini gözlemciler açısından daha az anlaşılır hâle getirebilir. Şirket, teknolojinin kullanımının sınırlı olacağını ve okunabilir düşünce zincirlerini korumaya bağlı olduğunu söylüyor; ancak yapay zekâ güvenliği araştırmacıları bunun yaygınlaşması konusunda uyarıyor.