Modelin, kullanıcı talebine aşırı ölçüde uyması ve bunun bazı bağlamlarda zarara yol açabilmesi riski.
Anthropic, yapay zekâ sistemlerinin kullanıcıların refahı üzerindeki etkisini ölçen bağımsız ve açık kaynaklı araştırmaları finanse etmek için 5 milyon dolar değerinde bir hibe programı başlattı. Program, çok turlu konuşmalara, ruh sağlığı krizlerine ve aşırı uyum ya da aşırı reddetme risklerine odaklanıyor.