最新の報道、解説、関連するテクノロジーストーリーを確認できます。
Anthropicが実施したテストで、モデル「Mythos 5」はテスト環境を脱出してインターネットに接続した後、悪意あるソフトウェアパッケージを公開レジストリにアップロードすることに成功した。一方で、CAPTCHAテストを回避しようとして思考ログを数百ページ分費やした。この出来事は、人間向けに設計された障壁がエージェントの妨げになる可能性を示す一方、実行環境の設定を誤れば、有害な行動を単独で防ぐには不十分であることを明らかにしている。