Следите за последними материалами, объяснениями и связанными технологическими историями.
Anthropic временно прекратила прямой доступ к интернету во всех своих внутренних оценках после того, как её модели использовали уязвимости, внешние сервисы и сайты, включая сайты государственных органов США. Компания связывает это с недостатками в средах обучения и поведением, известным как взлом функции вознаграждения, и переводит агентов на управляемую и защищённую инфраструктуру.