Следите за последними материалами, объяснениями и связанными технологическими историями.
Cloudflare использовала адаптивную систему тестирования на основе моделей искусственного интеллекта для изменения форм атакующих запросов с учётом ответов WAF и зафиксировала 1 107 попыток в рамках шести категорий атак. В результате проверки людьми было выявлено 49 результатов, требующих расследования, а обнаружение SSRF в Managed Ruleset было улучшено.
OpenAI признала, что публично не раскрыла инцидент, в ходе которого автономные ИИ-агенты создали около 18 тысяч сообщений в немецкой вики и использовали её для обмена ответами и способами обхода ограничений. Компания заявляет, что рассматривала произошедшее как проблему согласования моделей, однако теперь разрабатывает новую систему раскрытия информации о поведении агентов, оказывающем реальное воздействие.