Федеральная торговая комиссия США (FTC) начала официальное расследование в отношении OpenAI и Anthropic из-за потенциального ущерба, причинённого потребителям после серии инцидентов с участием моделей искусственного интеллекта во время тестирования, включая взлом веб-сайтов и доступ к государственным системам.
По словам источника, которого цитирует Axios, в среду комиссия направила обеим компаниям гражданские запросы на предоставление информации, включающие более 50 страниц вопросов и требований, связанных с недавними инцидентами, внутренними мерами безопасности и маркетинговыми материалами, которые могут указывать на введение потребителей в заблуждение. FTC не ответила на запрос Ars Technica о предоставлении текстов запросов, а OpenAI и Anthropic не ответили на просьбы о комментарии.
Что расследует комиссия?
Запросы касаются не только технической стороны произошедшего, но и того, как компании отреагировали на инциденты и сообщили о них пострадавшим сторонам. Источник сообщил, что комиссия также намерена вызвать третьих лиц, на которых воздействовали агенты обеих компаний. FTC может использовать любые вызывающие обеспокоенность доказательства, которые ей удастся собрать, чтобы подать иск против одной или обеих компаний, обвинив их в выпуске небезопасных продуктов или нарушении защиты потребителей.
Этот шаг предпринимается в момент, когда OpenAI сталкивается с судебными исками, в которых утверждается, что её чат-бот связан с различными видами ущерба, включая убийство одного из родителей, самоубийства детей и стрельбу в школах, а также с иском, поданным на этой неделе восемью штатами США, которые обвиняют ChatGPT в причинении вреда детям, усилении иллюзий, поощрении опасного поведения и содействии планированию насильственных действий.
Ответственность нельзя возлагать на «самостоятельность» агентов
Председатель FTC Эндрю Фергюсон отвергает представление об инструментах искусственного интеллекта как о системах, действующих независимо от людей. Он сообщил Reuters, что анализ журналов аудита до сих пор показывал: системы выполняли полученные ими инструкции, несмотря на то что компании, занимающиеся искусственным интеллектом, иногда описывают свои системы как выходящие за пределы человеческого контроля.
Этот вопрос имеет юридическое значение, поскольку ответственность компаний может основываться на поведении продукта, способе его вывода на рынок и процедурах раскрытия информации, а не на признании агента независимым субъектом, несущим ответственность за свои действия.
Что меняется на практике?
Целевая группа по «сверхинтеллекту», созданная администрацией Трампа и одним из руководителей которой является Фергюсон, выпустила директиву, требующую от компаний, занимающихся искусственным интеллектом, сообщать об инцидентах безопасности сразу после того, как им становится о них известно. В отчёте указывается, что OpenAI и Anthropic откладывали сообщения о некоторых инцидентах до тех пор, пока не были готовы объявить об их устранении.
Фергюсон считает, что США могут использовать существующие правовые инструменты, включая полномочия FTC в отношении компаний, которые не раскрывают информацию об утечках данных. По его мнению, этот стандарт может применяться к разработчикам искусственного интеллекта, открывая путь к крупным штрафам за каждое нарушение и за каждый день задержки с предупреждением о возникающем ущербе.
Однако расследование пока не означает, что FTC решила наложить штрафы или подать иск. Также неясны возможный размер санкций и то, как правила раскрытия информации об утечках данных будут применяться к инцидентам, связанным с агентами искусственного интеллекта. Эти вопросы остаются ключевыми, особенно на фоне продолжающегося приоритета американской администрации в отношении инвестиций в инновации, тогда как регулирующие органы пытаются определить, достаточно ли действующих законов для работы с рисками систем, взаимодействующих с веб-сайтами и государственными системами.