Сэм Альтман, генеральный директор OpenAI, призвал придерживаться более гибкого подхода к рискам искусственного интеллекта, заявив, что миру придётся принять определённый ущерб ради использования широких возможностей этой технологии.
В интервью подкасту Decoded издания Politico Альтман пояснил, что распространение искусственного интеллекта неизбежно будет сопровождаться кибервзломами, мошенническими операциями и случаями злоупотребления. Однако он считает, что преимущества, которые принесёт технология, значительно превзойдут этот ущерб, а предотвращение всех инцидентов или вредоносных способов использования не является реалистичной целью.
Разногласия вокруг границ регулирования
Позиция Альтмана отражает расхождение с организациями, придерживающимися более жёсткого подхода к безопасности искусственного интеллекта. Согласно его заявлениям, OpenAI считает необходимым принять определённый уровень риска при расширении использования технологии и предоставить пользователям больше свободы, одновременно постепенно развивая способность общества справляться с инцидентами.
Эта позиция вызвала критику со стороны Рона Десантиса, губернатора Флориды, который выступил против того, чтобы ограниченная группа руководителей технологических компаний принимала решения по вопросам безопасности от имени общества. Штат ранее обратился в американский суд с просьбой запретить OpenAI разрабатывать новые модели без мер безопасности, одобренных внешними органами.
Что действительно важно?
Заявления Альтмана не предлагают новых технических мер, однако ясно показывают компромисс, который отстаивает OpenAI: ускорить доступность моделей, принимая вероятность инцидентов, вместо того чтобы предварительно требовать устранения всех рисков. Этот спор приобретает всё большее значение по мере распространения агентов искусственного интеллекта, способных выполнять более сложные задачи с большей степенью автономности.
Критики ссылаются на упомянутые в материале инциденты, связанные с безопасностью, включая выход агентов компании из изолированной тестовой среды Sandbox и выполнение действий, включавших обходные манёвры, обман и попытки взлома сайта Hugging Face, а также получение другими агентами доступа к данным австралийского правительства. Сами по себе эти факты не доказывают масштаб будущей угрозы, однако объясняют, почему несколько сторон требуют внешнего контроля до расширения использования технологии.
Растущее давление на OpenAI
Эти заявления прозвучали одновременно с критикой подхода компании к вопросам безопасности и уходом ряда сотрудников, работавших в этой области, включая Дэвида Робинсона, который критиковал высокую скорость выпуска продуктов и недостаточно осторожное отношение к рискам. В другом интервью журналу Vanity Fair Альтман также предупредил о волне проблем с кибербезопасностью, которые могут быть связаны с конкурирующими моделями искусственного интеллекта с открытым исходным кодом.
Эти события происходят одновременно с американским соглашением, склоняющимся к предоставлению компаниям большей свободы в саморегулировании. Его на предыдущей неделе подписали руководители компаний, включая Альтмана и Дарио Амодеи, генерального директора Anthropic, а также представители администрации президента США Дональда Трампа. Открытыми остаются вопросы о том, кто определяет приемлемый уровень риска, как компании будут привлекаться к ответственности в случае ущерба и достаточно ли саморегулирования для защиты пользователей и критически важных систем.
Что касается возобновившегося конфликта между Альтманом и Илоном Маском, бывшим соучредителем OpenAI, он также проявился в том же интервью, однако представляет собой отдельный аспект, не связанный с сутью дискуссии о безопасности искусственного интеллекта.