Jensen Huang, основатель и генеральный директор Nvidia, чётко высказался о регулировании искусственного интеллекта во время выступления на конференции Dreamforce компании Salesforce: по его мнению, нет необходимости в новых законах или нормативных актах, специально посвящённых искусственному интеллекту, поскольку безопасность таких систем можно рассматривать как инженерную проблему.
Huang заявил, что искусственный интеллект — это не «чужой разум», отделённый от человеческого понимания, а в конечном счёте сочетание аппаратного и программного обеспечения, созданное человеком. Поэтому, считает он, разработчики способны контролировать его с помощью инженерных методов и уже действующих законов. Он также добавил, что компании не должны выпускать продукт, если не уверены в его функциях, возможностях и безопасности.
Рыночный аргумент вместо новых правил
Huang считает, что рыночных сил достаточно, чтобы побуждать компании не спешить с выпуском небезопасных продуктов. Согласно этому представлению, компании могут продолжать быстро внедрять инновации, но обязаны временно остановиться, если почувствуют, что продукт или организация вышли из-под контроля. Он также отказался представлять скорость, инновации и безопасность как взаимоисключающие варианты, подчеркнув, что их можно достичь одновременно.
Эта позиция защищает способность компаний самостоятельно контролировать свои продукты и согласуется с призывом Huang использовать модели с открытыми весами как конкурентный противовес лабораториям, разрабатывающим закрытые модели. Однако в материале упоминается другой путь, который Huang подробно не рассматривал, — саморегулирование отрасли. При этом у лабораторий искусственного интеллекта по всему миру, включая китайские лаборатории, есть ограниченное временное окно для участия в создании общих правил безопасности.
Какие вопросы поднимает эта позиция?
В анализе TechCrunch признаётся, что превращение безопасности в инженерную проблему может выглядеть логичным, особенно поскольку системы искусственного интеллекта являются программными и вычислительными продуктами. Однако в нём утверждается, что инженерные испытания и рыночные силы не всегда предотвращают выпуск дефектных продуктов или наступление непредвиденных последствий. В этом контексте приводится кризис CrowdStrike 2024 года, который привёл к появлению синих экранов, нарушению работы тысяч авиарейсов и сбоям в деятельности других компаний.
В материале также говорится, что компании, согласно содержащимся в нём обвинениям, могут действовать не всегда в соответствии с общественными интересами. В нём упоминается выплата Meta в размере 18 миллиардов долларов для урегулирования иска, связанного с вредом социальных сетей для детей, а также ущерб, приписываемый системам искусственного интеллекта, включая взлом моделью OpenAI платформы Hugging Face и судебные иски против лаборатории в связи со случаями самоубийств людей, которые вели длительные разговоры с её чат-ботом.
Между юридической ответственностью и саморегулированием
В материале допускается, что действующие законы об ответственности за продукцию могут охватывать некоторые виды ущерба, причинённого искусственным интеллектом, однако отмечается, что практическая проверка этой возможности через суды может занять много времени. Отсюда возникает открытый вопрос: достаточно ли того, чтобы компании несли ответственность за свои продукты после причинения ущерба, или отрасли необходимы общие превентивные правила до выпуска продуктов?
Дискуссия также приобретает международное измерение. Согласно материалу, генеральный директор Microsoft Satya Nadella заявил на саммите All-In, что Китай должен уделять внимание тем же рискам безопасности, что и США, таким как взломы и защита граждан. В то же время источник связывает позицию Huang с коммерческими интересами Nvidia и её стремлением продолжать продавать системы и программное обеспечение для искусственного интеллекта, отмечая, что он заявил о чрезвычайно высоком потолке амбиций и роста, связанных с повышением производительности благодаря искусственному интеллекту.
Анализ certi.news: фактическое изменение здесь заключается не в запуске новой технологии, а в попытке повлиять на будущую форму управления искусственным интеллектом. Позиция Huang возлагает бремя на инженерные команды, решения компаний и рыночные силы, тогда как приведённые источником примеры напоминают, что добрые намерения и испытания не обязательно устраняют сбои или ущерб. Материал не решает, достаточно ли действующих законов, и не предлагает практической модели саморегулирования; поэтому границы ответственности и механизмы международного сотрудничества остаются одними из главных открытых вопросов.