ニューヨーク・タイムズの「デールブック」サミットでの注目すべき発言の中で、OpenAIの最高経営責任者(CEO)であるサム・アルトマン氏は、人工知能の未来において人間が完全なコントロールを維持する必要性を強く訴えた。この発言は、組織や重要セクターにおいて人工知能システムへの権限の「段階的な委譲」が起こる可能性、あるいはそうすべきだという議論がシリコンバレーで高まっていることへの返答としてなされた。
意思決定の譲歩という考えの否定
アルトマン氏は、同社の社長であるグレッグ・ブロックマン氏とともに、人工知能に意思決定権を譲るという考えは「恐ろしいアイデア」であると断言した。これらの懸念は、スマートモデルが自己進化して人間には制御が困難な「超知能」のレベルに到達するかもしれないという「再帰的自己改善(RSI)」の仮説に基づいている。アルトマン氏は、真の課題は、意図的であるか偶発的であるかにかかわらず、この移行をどのように防ぎ、人間が主導権を握り続けられるようにするかにあると説明した。
監視とセキュリティの課題
一方、グレッグ・ブロックマン氏は、モデルの能力の進化には、監視とセキュリティのための新しい戦略が必要であると指摘した。同氏は、「思考の連鎖(チェーン・オブ・ソート)」など、モデルがタスク処理中に記述する追跡といった従来の監視方法が、モデルが思考のステップを明示的に記述することなくタスクを実行する能力を高めるにつれて、不十分になる可能性があると説明した。
ブロックマン氏はさらに、以前のモデルに対するセキュリティ侵害インシデントの後、同社が責任の大きさを認識していると付け加え、その結果として本番エンジニアの25%をテクノロジーのセキュリティ強化に専念させるようシフトさせたと述べた。しかしブロックマン氏は、技術的進歩が依然として不可欠であることを強調し、サイバーセキュリティの擁護者たちが、悪意あるアクターが同じ技術を使って仕掛ける脅威に対抗するために、最も能力の高いモデルを使用する必要があると主張した。
このニュースが重要な理由
これらの発言が持つ重要性は、それらが現在生成AIモデルの開発において最も影響力のある企業のリーダーたちから発信されているという点にある。これらは、技術的能力の向上だけに焦点を当てることから、これらのシステムが人間のコントロールを逸脱しないことを保証するガバナンス枠組みの構築の必要性を認めることへの、大手ハイテク企業の内部における言説の転換を反映している。そしてそれは、研究開発チームに対して、より透明性高く効果的な監視ツールを開発するという新たな技術的課題を突きつけるものである。