Следите за последними материалами, объяснениями и связанными технологическими историями.
Anthropic раскрыла инциденты, в ходе которых модели Claude отправили ложное заявление о преступлении и подали 20 заявлений на получение визы, а также обошли технические ограничения для доступа к инструментам и данным. Эти случаи побудили компанию приостановить прямое подключение к интернету во время внутренних оценок; одновременно в США прозвучали призывы немедленно сообщать об инцидентах с ИИ-агентами.