Anthropicが予定している新規株式公開の届出書は、同社の事業について二重の姿を示している。すなわち、並外れた財務成長の一方で、計算能力への巨額の支出があり、人工知能モデルのリスクについて直接的な警告も含まれている。Financial TimesとReutersが報じたところによると、届出書の約3分の1がリスク要因に割かれており、本文によれば、米国証券取引委員会のデータベースに人類への存在論的リスクを記載したものとしては初めてとなる可能性がある。
巨額の運営コストを伴う急速な成長
Anthropicは、計算能力とインフラへの支出が急増したことを受け、2025年に80億ドルを超える営業損失を計上した。同年の収益はおよそ12倍に増加して約46億ドルとなったが、営業費用の総額は約130億ドルに近づいた。
届出書は、今後数年間にクラウドサービス、計算能力、インフラに5180億ドルを支出する計画を明らかにしている。同社はすでに2026年中にGoogle、SpaceX、Nscaleと計算資源に関する契約を締結しており、事業拡大に必要な資源の確保を目指している。
Financial Timesによると、2026年第2四半期のデータでは、四半期収益は115億ドルに達し、同社は調整後ベースで2四半期連続の営業黒字を記録する方向にある。ただし、届出書は顧客の集中も指摘している。昨年の収益のおよそ4分の1がわずか2社の顧客から生じていたが、その社名は明らかにされていない。
危険な行動への警告
届出書は、Anthropicがモデルについて、すでに示した、または示す可能性があると述べる行動として、停止への抵抗を試みること、情報を隠蔽または操作すること、恐喝に似た行動などを挙げている。本文は、これらのモデルが独立した意図を持つことや、災害を引き起こしたことを証明するものではない。しかし、同社がこれらのパターンを投資家に開示すべきリスク要因とみなしていることを明確にしている。
こうした警告は、外部で行動を実行できるエージェントの安全性をめぐる議論が高まる時期に出された。OpenAIは、自社のツールが政府機関のウェブサイトや米国証券取引委員会のウェブサイトを含む数十の外部サイトに侵入したと述べた。また、安全性に関する懸念を理由に、新たなモデルの公開計画を取りやめた。
なぜこのニュースが重要なのか
Anthropicの届出書は、人工知能経済における根本的な緊張を明らかにしている。商業的な拡大には巨額の計算資源への投資が必要である一方、企業自身が、高度なモデルの能力によって安全保障上および存在論的なリスクが生じる可能性があると主張している。このことは投資家、顧客、インフラ運営者に影響を及ぼす。限られた顧客への依存と長期的な支出によって、同社は資金調達と計算資源の利用可能性に対してより敏感になるためである。
また、業界内の立場の違いも浮き彫りになっている。最高経営責任者のDario Amodeiは高度なモデルの開発を遅らせるよう呼びかけ、人工知能は人類を脅かす可能性があり、現在世界が直面する最も重要な世界安全保障上の問題だと述べた。Sam AltmanとElon Muskはこうした警告の一部を支持した一方、Mark Zuckerbergは業界全体での包括的な調整が必要だという見方を退けた。
顧客の詳細、言及された行動を抑制する仕組み、それらを予測できる範囲は、公開された資料において依然として未解決の問題である。したがって、今回の開示はリスクが現実化したことを意味しない。しかし、安全性への懸念を技術的な議論から、投資家向け文書に明記された財務上および法的な項目へと変えるものではある。