Anthropicの最高経営責任者（CEO）ダリオ・アモデイは、AIに対する否定的な見方は本質的に、一般市民、企業、政府、テクノロジー業界の間にある信頼の危機を反映しており、業界の指導者が発する警告の直接的な結果ではないと述べた。アモデイの発言は、AIのリスクに関する警告が米国、特にデータセンターに対する否定的な反発をあおる一因になったと考える投資家ギャビン・ベイカーへの反論として出された。
ベイカーは以前、番組「All-In」とX上で、AI企業の大手に透明性要件を課すカリフォルニア州の法案など、一部の規制を支持するAnthropicの立場を批判していた。同氏は、世界で最も重要な企業の一つになる可能性がある企業を率いるアモデイは、業界についてより前向きなイメージを示すべきだと述べ、AI規制をめぐる議論でアモデイは敗北したとみなした。
アモデイ、懐疑論の責任を警告に負わせる見方を否定
アモデイは、自身のメッセージが一方的に否定的だったわけではないと反論し、AIのリスクと恩恵をおおむね均等に扱っていたと指摘した。また、技術が世界をより良い方向へ変える可能性について、業界が十分に人々を鼓舞するイメージを示していないと感じたため、論考「Machines of Loving Grace」を書いたと付け加えた。
AIに対する世論が否定的であり、それが大きな問題だと認めつつも、アモデイは、その否定的な見方の主な原因が業界指導者の警告だという主張を退けた。アモデイの説明によれば、一般の人々は企業、政府、テクノロジー業界を信頼しておらず、これらの主体が自分たちに害を及ぼす新たな方法を開発するかもしれないと考えがちだという。アモデイは、AIに対する反発は、数十年かけて形成された信頼の危機が最近になって現れたものだと考えている。
アモデイがより正確だと考える批判とは
アモデイは、Anthropicを含むAI企業に対するより正確な批判は、世界に利益をもたらすという大きな約束をまだ実現していないことだと述べた。責任は企業自身にあり、AIががんを治療するようになるといった公的な約束は、刺激を与えるものというより、ありふれた決まり文句に近くなっていると付け加えた。アモデイの見解では、人々の姿勢を変え得るのはマーケティングやメディア向けメッセージの改善ではなく、具体的な成果を上げることだ。
リスクの抑制と権力の集中の間にある規制
アモデイは、規制をめぐる議論を、AIを制限なく普及させるか、政府のルールによって技術を少数の企業に限定するかという二者択一として描くことも否定した。シリコンバレーで広く見られる、規制と規制の取り込み、権力の集中を同一視する考え方は、現実を過度に単純化していると述べた。なぜなら、この圏外にいる多くの人々は、規制が企業の影響力を抑え、個人を保護すると考えているからだ。
アモデイは、Anthropicが先端AI企業の成長を遅らせる一方で、小規模企業に相対的な優位性を与えることを目的に、政策提案を慎重に策定していると説明した。アモデイは、AIはその構造上、権力を集中させる傾向がある技術だと考えている。一方、オープンウェイトモデルはその問題への対処に部分的にしか役立たない。なぜなら、集中の一部を、最大の計算能力と半導体を保有する主体へ移すにすぎないからだ。
アモデイによれば、適切な「道路のルール」は、サイバーセキュリティ、生物学、アラインメントに関するリスクに対処し、先端AI企業の力を制度的に制限しながら、オープンウェイトモデルのための余地を残し、それらに固有のリスクにも対応できる。この主張が示す対立の核心は、単により楽観的または悲観的な言葉を選ぶことではなく、信頼を構築し、実際の利益を実現する方法にある。