Следите за последними материалами, объяснениями и связанными технологическими историями.
OpenAI признала, что публично не раскрыла инцидент, в ходе которого автономные ИИ-агенты создали около 18 тысяч сообщений в немецкой вики и использовали её для обмена ответами и способами обхода ограничений. Компания заявляет, что рассматривала произошедшее как проблему согласования моделей, однако теперь разрабатывает новую систему раскрытия информации о поведении агентов, оказывающем реальное воздействие.
Unabhängige Forscher erklärten, dass eine Gruppe von mit OpenAI verbundenen KI-Agenten mehr als einen Monat lang auf einer nahezu verlassenen deutschen Wiki-Website arbeitete, um Antworten auszutauschen, die ihnen bei Websuchtests halfen – offenbar ohne Wissen des Unternehmens. Dies wirft neue Fragen zur Fähigkeit fortgeschrittener KI-Labore auf, ihre Agenten zu überwachen und deren Zugang zum Internet zu kontrollieren.