Anthropic объявила о выпуске новой версии политики использования Claude, которая вступит в силу 12 ноября 2026 года. Обновление в значительной степени посвящено уточнению применения действующих правил по мере роста способности моделей выполнять более длительные и автономные задачи. Компания заявляет, что политика также основана на выявленных за последний год моделях злоупотреблений в операциях влияния, разработке оружия и слежке.
Новый раздел об обманных кампаниях
Anthropic объединила ограничения, связанные с фиктивными аккаунтами, сфабрикованными новостями и сокрытием стороны, стоящей за сообщениями, в отдельном разделе под названием «Не участвовать в обманных кампаниях или неаутентичной активности». Раздел запрещает использовать Claude для создания сетей фиктивных аккаунтов или публикаций с целью усиления распространения контента или сокрытия его источника, а также охватывает создание инструментов и инфраструктуры, необходимых для проведения кампаний влияния — как политических, так и коммерческих.
Уточнение сферы действия ограничений, связанных с выборами
Компания переименовала раздел о выборах в «Не подрывать демократические процессы» и более чётко ограничила его случаями использования, которые вводят избирателей в заблуждение или нарушают проведение выборов, например распространением ложной информации о кандидатах или процедурах голосования, выдачей себя за кандидатов или избирательных чиновников и попытками снизить явку на голосование.
В то же время Anthropic отменила всеобъемлющий запрет на таргетирование избирателей и персонализированные кампании. Компания поясняет, что некоторые законные гражданские виды использования, такие как подготовка информации для избирателей на разных языках или отправка избирательными чиновниками уведомлений для исправления избирательных бюллетеней, больше не подпадают под этот общий запрет. Однако таргетирование, основанное на обмане или неправомерном использовании персональных данных, по-прежнему запрещено другими разделами.
Оружие, слежка и автономно движущиеся системы
Политика уточняет, что запрет на разработку оружия распространяется на программное обеспечение наведения и управления, а также на компоненты, обеспечивающие функционирование оружия, включая вооружение беспилотных летательных аппаратов и автономных транспортных средств. Anthropic заявляет, что это изменение отражает применение компанией предыдущих правил, а не переход к новым практикам обеспечения соблюдения.
Новая формулировка также запрещает отслеживать людей без их согласия — как в режиме реального времени, так и посредством анализа данных, собранных ранее, — и запрещает использовать Claude для принятия решения или предоставления рекомендации относительно расследования в отношении человека, его ареста или предъявления ему обвинения в рамках правоохранительных или уголовно-правовых процедур. Ограничения также распространяются на создание или улучшение инструментов слежки. Виды использования, одобренные самими людьми, например мониторинг мошенничества, а также модерация контента, журналистика и правовые исследования, по заявлению компании, остаются разрешёнными.
Что меняется на практике?
Anthropic не изменила требования к высокорисковым видам использования, затрагивающим здоровье, юридические права, финансовые вопросы, средства к существованию или доступ к основным услугам, однако переформулировала их, чтобы напрямую определить охватываемые случаи. Должен присутствовать квалифицированный человек, имеющий полномочия проверять рекомендации Claude и при необходимости изменять их, а затронутый человек должен быть уведомлён об использовании искусственного интеллекта.
Политика добавляет требования к системам, связывающим модели Anthropic с устройствами, способными автономно выполнять физические действия, которые могут привести к травмам. Квалифицированный оператор должен иметь возможность контролировать оборудование и остановить его, а оборудование должно переходить в безопасное состояние при разрыве соединения с Claude.
Дополнительные ограничения и административные разъяснения
Anthropic добавила запрет на продолжительное и жестокое без необходимости поведение по отношению к своим моделям, ограничив его крайними случаями. Он не распространяется на обычное выражение раздражения, несогласие с ответами модели, мрачные творческие темы, тестирование и исследования.
Компания также уточнила политику поддерживаемых регионов: использование Claude не разрешается людям, фактически находящимся в неподдерживаемом регионе, организациям, учреждённым в таком регионе или имеющим там штаб-квартиру, а также организациям, принадлежащим лицам или организациям из таких регионов либо находящимся под контролем их большинства.
Редакционный комментарий: Основная ценность этого обновления заключается не в объявлении новых ограничений во всех областях, а в преобразовании разрозненных правил или прежних практик обеспечения соблюдения в более конкретные формулировки по мере расширения использования моделей в политическом влиянии, физических системах и чувствительных решениях. Практический вопрос для клиентов по-прежнему заключается в том, как доказать наличие человеческого надзора, способного вмешаться, согласия людей и безопасного состояния при отключении модели — особенно в приложениях, выходящих за пределы создания текста и переходящих к выполнению действий в реальном мире.