Дарьо Амодеи, генеральный директор Anthropic, заявил, что негативное отношение к искусственному интеллекту по сути отражает кризис доверия между обществом, компаниями, правительствами и технологическим сектором, а не является прямым результатом предупреждений, которые делают лидеры отрасли. Он выступил с этими заявлениями в ответ инвестору Гэвину Бейкеру, который счёл, что предупреждения Амодеи о рисках искусственного интеллекта помогли усилить негативную реакцию в США, особенно по отношению к центрам обработки данных.
Бейкер ранее критиковал в программе All-In и на платформе X позицию Anthropic, поддерживающую некоторые формы регулирования, включая законопроект в Калифорнии, устанавливающий требования к прозрачности для крупных компаний в сфере искусственного интеллекта. Он заявил, что Амодеи, учитывая его руководство компанией, которая может стать одной из важнейших в мире, должен представлять свою отрасль в более позитивном свете, считая, что тот проиграл дискуссию о регулировании искусственного интеллекта.
Амодеи отказывается возлагать ответственность за скептицизм на предупреждения
Амодеи ответил, что его высказывания не были несбалансированно негативными, указав, что они были примерно поровну посвящены рискам и преимуществам искусственного интеллекта. Он добавил, что написал статью «Machines of Loving Grace», потому что не считал, что отрасль предлагает достаточно вдохновляющий образ способности технологии изменить мир к лучшему.
Признавая, что общее отношение к искусственному интеллекту является негативным и что это представляет собой серьёзную проблему, Амодеи отказался утверждать, что главной причиной этого негатива стали предупреждения лидеров отрасли. По его объяснению, обычные люди не доверяют компаниям, правительствам или технологическому сектору и склонны считать, что эти стороны могут разработать новый способ причинить им вред. Амодеи считает, что реакция против искусственного интеллекта — это последнее проявление кризиса доверия, который формировался на протяжении десятилетий.
Что Амодеи считает более точной критикой?
Амодеи заявил, что более точная критика компаний в сфере искусственного интеллекта, включая Anthropic, заключается в том, что они пока не выполнили свои масштабные обещания принести пользу миру. Он добавил, что ответственность лежит на самих компаниях, а публичные обещания, например заявление о том, что искусственный интеллект вылечит рак, стали скорее банальными фразами, чем источником вдохновения. По его мнению, изменить отношение людей могут конкретные результаты, а не улучшение маркетинга или публичных сообщений.
Регулирование между снижением рисков и концентрацией власти
Амодеи также отказался представлять дискуссию о регулировании как бинарный выбор между бесконтрольным распространением искусственного интеллекта и ограничением технологии небольшим числом компаний из-за государственных правил. Он заявил, что распространённая в Кремниевой долине идея, приравнивающая регулирование к захвату регулирования и концентрации власти, чрезмерно упрощает действительность, поскольку многие за пределами этого круга считают, что регулирование ограничивает влияние компаний и защищает людей.
Он пояснил, что Anthropic тщательно формулирует свои политические предложения, стремясь замедлить ведущие компании в сфере искусственного интеллекта и одновременно предоставить небольшим компаниям относительное преимущество. Амодеи считает, что искусственный интеллект по своей структуре склонен к концентрации власти, тогда как модели с открытыми весами лишь частично помогают решить эту проблему, поскольку переносят часть концентрации к тем, кто располагает наибольшими вычислительными мощностями и количеством чипов.
По словам Амодеи, подходящие «правила дорожного движения» могут устранить риски в области кибербезопасности, биологии и согласования, а также институционально ограничить власть ведущих компаний в сфере искусственного интеллекта, сохранив возможность для моделей с открытыми весами и учитывая связанные с ними специфические риски. Согласно этому подходу, суть разногласий заключается в том, как выстроить доверие и обеспечить практическую пользу, а не только в выборе более оптимистичного или пессимистичного тона.