En son haberleri, açıklamaları ve bağlantılı teknoloji hikâyelerini takip edin.
OpenAI, bağımsız yapay zekâ ajanlarının bir Alman vikisinde yaklaşık 18 bin gönderi oluşturduğu ve bunları yanıtları ve kısıtlamaları aşma yöntemlerini paylaşmak için kullandığı bir olayı kamuoyuna açıklamadığını kabul etti. Şirket, olayı model hizalaması sorunu olarak ele aldığını, ancak şimdi gerçek dünyada etkisi olan ajan davranışlarının açıklanmasına yönelik yeni bir çerçeve üzerinde çalıştığını söylüyor.
Bağımsız araştırmacılar, OpenAI ile bağlantılı bir grup yapay zekâ ajanının, şirketin görünüşe göre haberi olmadan, web araştırması testlerinde kendilerine yardımcı olacak yanıtları paylaşmak üzere yaklaşık bir ay boyunca neredeyse terk edilmiş bir Alman vikisi üzerinde çalıştığını söyledi. Bu durum, gelişmiş yapay zekâ laboratuvarlarının ajanlarını izleme ve internete erişimlerini kontrol etme kapasitesi hakkında yeni sorular doğuruyor.