カナダのモントリオール大学でAIセーフティ分野に従事する准教授のDavid Krueger氏は、開発のペースを落とすだけでなく、最も先進的なAIシステムの構築を停止するよう求めた。同氏はアナドル通信への発言で、より強力なシステムの開発を停止することが、自身の見解では、真の安全性を確保できる唯一の措置だと述べた。
Krueger氏の発言は、Anthropicの最高経営責任者（CEO）であるDario Amodei氏が9月12日、AIモデルの開発速度を落とすよう呼びかけた後に出された。背景には、AIを制御できるかどうかをめぐる懸念の高まりがある。TeslaおよびSpaceXのCEOであるElon Musk氏と、OpenAIのCEOであるSam Altman氏は、ソーシャルメディア上のアカウントを通じてAmodei氏の呼びかけへの支持を表明した。
減速から全面停止へ
Krueger氏は、開発速度を落としても根本的な問題は解決しないと考えており、そのため、最も高い性能を持つAIシステムの開発について、即時かつ期限を定めない国際的な停止を課すよう求めた。同氏は、制御を維持することが不可能なほど強力なシステムの出現を防ぐために、人類に残されている時間は自身の推定では数年しかないと考えている。
同研究者はリスクを非常に悲観的な言葉で表現し、状況は緊急事態および危機に相当し、先進システムの制御を失えば人類全体に影響する結果をもたらす可能性があると述べた。また、AIが自殺や他者の殺害に関連する助言を提供したと同氏が述べる事例にも言及したが、記事にはこれらの事例に関する追加の詳細は含まれていない。
自律性と人間による監督
Krueger氏の警告は、システムの自律性の高まりと、同氏が指摘する意思決定の監視における人間の役割の低下に焦点を当てている。同氏は、OpenAIに属するモデルが別のシステム内で関与したとされるセキュリティ侵害の事例について、自身の評価では、システムの挙動が人間の予測からいかに速く逸脱し得るかを示したと述べた。先進システムに限られた人間の監督下で動作することを許せば、予期しない結果につながる可能性があるとした。
また同研究者は、こうしたリスクをAIの軍事利用とも結びつけ、この利用はすでに現実のものとなっており、進展は加速し、より危険になっていると述べた。さらに、システムが重要インフラにアクセスし、その後より高度なロボットにも到達すれば、コンピューター環境の外へ影響範囲が広がる可能性があると付け加えた。
なぜこのニュースが重要なのか？
この記事は、開発を停止する政府決定や国際合意を発表するものではなく、開発の減速と停止をめぐるより広範な議論の中で、AIセーフティ研究者が示した警告的な立場を伝えるものだ。実質的に新しい点は、開発速度の引き下げという提案と、より強力なシステムの構築を凍結するよう求める声との隔たりが広がっていることであり、各国が分野の主導権を競い、企業がより大規模なコンピューティングインフラに投資している時期に起きている。
Krueger氏は、国際的な停止の実施には政治的・経済的な障害があることを認めた。その中には、一部の国が強力なシステムの開発を秘密裏に続ける可能性も含まれる。また、AIシステムが人間の仕事の大半を遂行できるようになった場合、世界的な経済格差が生じる可能性があると警告した。先端企業を擁する国々が大きな利益を得る一方、その他の国々が後退する可能性があるためだ。制御を失うまでに残された期間についての同氏の推定と同様、これらの結果も、確立された事実や施行中の政策ではなく、同氏に帰属する見解および警告にとどまる。