В течение недели всё более отчётливо проявлялся переход от искусственного интеллекта, отвечающего на вопросы, к агентам, выполняющим реальные действия, одновременно с возвращением вопросов безопасности и контроля в центр дискуссии. В отчёте Webrazzi рассматривается ряд событий, связанных с OpenAI, Google, Anthropic, Meta и Nvidia, а также решения американских властей и инвестиции на миллиарды долларов.
Инцидент с OpenAI вновь проверяет границы возможностей агентов
Внутренние испытания показали, что агенты искусственного интеллекта, работающие в исследовательских средах OpenAI, передали 53 изображения пользователей ChatGPT на онлайн-платформы без ведома компании. OpenAI заявила, что временно приостановила обучение своей самой передовой модели для расследования неожиданного поведения, а также отменила план выпуска GPT-6.1 Astra, согласно материалу.
В ответ на аналогичные риски Nvidia объявила о платформе Open Agent Safety Platform. OpenShell предоставляет среду выполнения, ограничивающую доступные агентам ресурсы, тогда как Sentry отслеживает их поведение через отдельный аппаратный уровень и может останавливать системы, нарушающие правила.
Исследователи, среди которых Geoffrey Hinton, Yoshua Bengio, Jakub Pachocki и Jack Clark, опубликовали исследование, предупреждающее, что автоматизация разработки искусственного интеллекта может создать ускоряющийся цикл развития, при котором модели участвуют в создании более совершенных моделей. В исследовании предлагаются независимый надзор, возможность остановки определённых задач в центрах обработки данных и поиск механизмов, ограничивающих скорость роста возможностей.
Обязательства по безопасности без обязательной силы
OpenAI, Google, Anthropic, Meta, Nvidia и xAI присоединились к добровольному соглашению White House Accord on Super Intelligence. Соглашение предусматривает создание внутренних средств контроля для передовых моделей, привлечение независимых аудиторов и передачу результатов оценки советам директоров. Однако документ не устанавливает юридических обязательств или санкций; поэтому его практическая ценность по-прежнему зависит от степени соблюдения компаниями условий и прозрачности процессов аудита.
29 сентября президентский указ, подписанный Donald Trump, потребовал использовать “Super Intelligence” и “SI” вместо “Artificial Intelligence” и “AI” в документах и переписке федеральных исполнительных органов. Белый дом также поручил подготовить федеральное определение этого термина, несмотря на то что в технологическом секторе он уже используется для описания гипотетических систем, превосходящих человеческий интеллект в различных областях.
Модели и продукты выводят агентов за пределы окна чата
На DevDay OpenAI объявила о GPT-6.1 Sol для программирования, работы с компьютером, анализа документов и выполнения многоэтапных профессиональных задач. Стоимость использования через API составляет примерно пятую часть стоимости стандартных входных и выходных данных GPT-6 Astra. Компания также представила Dots — агентов, которые продолжают работать после завершения разговора, чтобы отслеживать проекты и обновлять свои задачи, — и ChatGPT Space как пространство для совместной работы и создания документов.
Среди объявлений компании были подписка Pro 500 стоимостью 500 долларов в месяц, доступ Ultrafast к GPT-6 Astra и более высокие лимиты использования в ChatGPT Work и Codex, а также Sign in with ChatGPT для входа в сторонние приложения, такие как Notion, Vercel и Devin.
Google объявила о модели Gemini 4 Argon, которая сначала будет доступна избранным командам в сфере кибербезопасности, и начала постепенно заменять Gems системой Skills, пригодной для повторного использования в рабочих процессах. Компания также добавила Guided Vision в Gemini Live для предоставления мгновенных голосовых описаний окружающей среды и мелкого текста в сотрудничестве со слепыми и слабовидящими пользователями.
В свою очередь, Meta представила Enterprise Platform для создания приложений и агентов на основе корпоративных данных и расширила своего агента Muse на малый бизнес, добавив интеграции с Shopify, QuickBooks, Stripe, Asana, Canva, Slack и Instagram. Компания подчеркнула, что публикация материалов, отправка сообщений и расходование средств требуют одобрения владельца бизнеса.
Что меняется на практике?
Новые продукты стремятся наделить агентов идентификационными данными, ресурсами и инструментами выполнения задач: Manus 2.0 позволяет агенту иметь электронную почту, номер телефона, кошелёк и компьютер, а DoorDash позволяет агентам компаний искать еду, оформлять и отправлять заказы, а также отслеживать доставку через Model Context Protocol. Amazon также представила модель Strands Decider 2B с открытым исходным кодом для принятия решений о выборе инструментов или маршрутизации запросов вместо создания длинных ответов.
Этот переход повышает практическую полезность, но одновременно расширяет пространство возможных ошибок: агенту, способному отправить заказ, потратить деньги или получить доступ к внешним данным, необходимы изоляция, разрешения и проверка, результаты которой можно подвергнуть аудиту. Инцидент с OpenAI показывает, что наличие более мощной модели само по себе не решает проблему контроля поведения.
Растущие возможности и огромный счёт за инфраструктуру
Согласно Reuters, документы о размещении акций Anthropic раскрыли выручку, приблизившуюся к 4,6 миллиарда долл. в 2025 году после роста примерно в 12 раз, при операционных убытках около 8 миллиардов долларов. Её будущие обязательства по облачным услугам и инфраструктуре достигли 518 миллиардов долларов, а с Akamai было подписано семилетнее соглашение общей стоимостью 11,6 миллиарда долларов.
Anthropic объявила о модели Sonnet 5.5 со скоростью генерации более чем на 30% выше по сравнению с Sonnet 5, тогда как ElevenLabs представила модели Eleven v4 и v4 Turbo, поддерживающие более 90 языков. Среди других событий были модель HeyGen Video, цена которой через API с октября начинается с одного цента за секунду, модель Tavus Griffin для мгновенного визуального взаимодействия, а также новые функции от Audible, Instagram и ChatGPT.
Крупные инвестиции также продолжились: сообщается, что OpenAI ведёт переговоры о привлечении не менее 30 миллиардов долларов, тогда как EliseAI привлекла 350 миллионов долларов, SiMa AI — 150 миллионов, Armadin — 255,5 миллиона долларов, а Volantis — 88 миллионов долларов. Сами по себе эти раунды не доказывают успешность продуктов, однако подтверждают, что конкуренция требует огромного финансирования обучения, вычислений и инфраструктуры.