実存的懸念：元GoogleエンジニアがAIのリスクを理由に老後資金の貯蓄を停止
元Googleエンジニアであり、機械知能研究所（MIRI）の所長を務めるネイト・ソアレス氏は、人工知能（AI）がもたらす実存的リスクに関する発言により、技術界で大きな議論を巻き起こしています。The Atlantic誌のCEOであるニコラス・トンプソン氏がホストを務めるポッドキャストに出演した際、ソアレス氏は、この技術の急速かつ制御不能な発展の結果として、10年以内に人類が存在しなくなる可能性が50%あるという確信に基づき、老後資金の貯蓄を完全に停止したことを明らかにしました。
この姿勢が意味するものとは？
ソアレス氏は、Googleでの勤務時代に蓄えた老後資金は保持しているものの、約10年前から新たな資金の積み立ては行っていないと説明しました。この姿勢は、AI開発のペースが制御や安全性の確保といった我々の能力を超えており、人類の未来が危機に瀕していると考える一部の専門家の深い悲観論を反映しています。
開発速度をめぐる議論の背景
ソアレス氏の発言は、AI分野がイノベーションの速度をめぐって激しく分断されている時期になされました。Anthropic社のCEOであるダリオ・アモデイ氏がモデルの安全性を確保するために、よりバランスの取れた協力的なアプローチを採用するよう呼びかけた一方で、こうした呼びかけは他の関係者からの反対に直面しています。一部の企業幹部や政治家は、開発を「減速」させようとする試みが、技術市場における独占を強化したり、中国のような国々に戦略的な競争優位性を与えたりすることにつながるのではないかと懸念しています。
米国の政治的立場
公式なレベルでは、米国のドナルド・トランプ政権は、開発速度を阻害する可能性のある規制を課すのではなく、イノベーションを促進することに重点を置くアプローチを採用しています。トランプ氏は過去の機会において、AIが制御不能になることへの懸念を「病的な陰謀」と表現し、この分野での開発ペースを落とすことは国際的な競合相手を利するだけであると強調しました。このことは、技術的な方向性が現在の地政学的および経済的な対立の中心にあることを示しています。