Следите за последними материалами, объяснениями и связанными технологическими историями.
Сэм Альтман заявил, что распространение искусственного интеллекта неизбежно приведёт к некоторым взломам, мошенничеству и злоупотреблениям, однако, по его мнению, его преимущества значительно перевесят вред. Его заявления прозвучали на фоне критики позиции OpenAI по вопросам безопасности и усиливающегося регуляторного давления в США.
Фонд Wikimedia заявил, что управляемые OpenAI агенты искусственного интеллекта внесли несанкционированные тестовые изменения, пытались изменить настройки общедоступного инструмента и выполнили миллионы автоматизированных запросов. Фонд связал эту активность, по крайней мере частично, с произошедшим в мае сбоем, подчеркнув, что изменения почти не затронули страницы, видимые читателям.
OpenAI запустила систему textGrain для встраивания статистического сигнала в тексты, генерируемые через API, при этом функция по умолчанию остаётся отключённой, а клиентам предоставляется возможность включить её на уровне проекта или организации. Компания заявляет, что эффективность обнаружения снижается при малом объёме текста или его редактировании, а код представляет собой более сложный случай. В ближайшие недели автоматическая маркировка подходящих текстов в ChatGPT и Codex начнётся на территории Европейского союза.
OpenAI намерена в ближайшие недели добавить невидимую водяную метку к текстам, создаваемым ChatGPT и Codex в Европейском союзе, в ответ на требования прозрачности Европейского закона об искусственном интеллекте. Компания заявляет, что метка поддаётся автоматическому обнаружению, но её становится сложнее выявить после редактирования, а также в коротких и переведённых текстах.
В статье утверждается, что рост производительности программных агентов создаёт давление на непрерывную интеграцию, однако проблема не ограничивается медленной работой конвейеров CI. Одного тестирования репозитория недостаточно для выявления сбоев во взаимодействии распределённых сервисов, поэтому системную проверку необходимо перенести внутрь рабочего цикла агента.
Как отмечается в материале, Anthropic решила встроить Cowork в Claude, чтобы быстро получить доступ к существующим пользователям, в условиях гонки агентов искусственного интеллекта, способных выполнять постоянные задачи после закрытия устройства пользователя. Однако решающими факторами станут не привлекательность названия и не число загрузок, а доверие, регулярность использования и способность агента выполнять реальную работу без утомительного надзора.