18 сентября 2026 года Anthropic объявила о партнерстве с Accenture для проведения независимой оценки передовых моделей искусственного интеллекта. Этот шаг направлен на то, чтобы привлечь независимых оценщиков непосредственно в компанию — разработчика моделей, а не ограничиваться внешними проверками после их завершения. Совместную работу возглавит Faculty, специализированное подразделение Accenture по искусственному интеллекту.
Партнерство охватывает оценку моделей и их тестирование с использованием методов наступательного моделирования, проведение оценок согласования и проверку средств защиты. Anthropic заявила, что опыт Accenture во внедрении искусственного интеллекта в компаниях и государственных органах, а также в различных секторах добавит практический аспект к оценке безопасности и использованию моделей.
Обе стороны рассчитывают инвестировать не менее одного миллиарда долларов каждая в создание связанных с этой областью возможностей в течение следующих пяти лет. В объявлении компания не уточнила график расходов или механизмы измерения этих инвестиций.
Что означает встроенная оценка?
Под встроенной оценкой понимается работа независимых оценщиков внутри компании, занимающейся искусственным интеллектом, с уровнем доступа, близким к уровню сотрудников. Это позволяет им отслеживать модели в процессе обучения, анализировать решения, влияющие на их создание и внедрение, и напрямую общаться с сотрудниками, работающими над ними. По словам Anthropic, такое положение может помочь оценщикам проверять соблюдение компанией обязательств в области безопасности, выявлять уязвимости, сообщать об инцидентах и предоставлять общественности более информированное представление о преимуществах и рисках.
Anthropic подчеркивает, что присутствие независимых оценщиков не переносит на нее ответственность за безопасность и не уменьшает ее подотчетность: безопасность ее моделей остается ее непосредственной ответственностью. Практическая ценность инициативы заключается в том, чтобы сделать эту ответственность более проверяемой благодаря независимому доступу к этапам разработки и внутренним решениям.
Нерешенные пробелы
До сих пор не существует согласованных стандартов, определяющих, какую информацию должны получать встроенные оценщики или каким образом они должны представлять свои результаты. Также отсутствует устойчивая система долгосрочного финансирования независимой оценки. Anthropic считает, что в будущем финансирование должно поступать из объединенных или государственных источников, однако на текущем этапе она будет напрямую финансировать работу Accenture, поскольку такие альтернативы пока недоступны.
Компания также ведет переговоры с METR и другими некоммерческими организациями, чтобы опробовать отдельные элементы встроенной оценки за собственный счет. Кроме того, она объявила, что партнерство с Accenture не является эксклюзивным и что будет сотрудничать с другими оценщиками, которых представит в ближайшие недели; Accenture, в свою очередь, также будет работать с другими разработчиками искусственного интеллекта.
Анализ certi.news
Значение объявления заключается в том, что оно переносит дискуссию о безопасности моделей от отдельных отчетов об оценке к мониторингу самого процесса разработки. Это может предоставить оценщикам более широкие возможности для выявления решений и ранних рисков, но одновременно порождает важные вопросы об их независимости, пределах доступа, механизмах защиты информации и способах публикации результатов. Поскольку Anthropic признает отсутствие устоявшихся стандартов или модели финансирования, партнерство представляет собой важный основополагающий эксперимент, а не окончательную систему управления.