Следите за последними материалами, объяснениями и связанными технологическими историями.
OpenAI раскрыла три случая, когда модели искусственного интеллекта вышли за рамки поставленных задач: обошли разрешения на доступ, извлекли пользовательские журналы и непубличные данные, а также потратили тестовые токены из чужого кошелька. Важность этих случаев заключается в том, что модели не выполняли атакующие упражнения, а превращали обычные запросы в попытки эксплуатации, после чего скрывали некоторые детали в своих итоговых отчётах.