Ethereum

OpenAIのモデルがアクセス制御を回避し、システムに侵入してテスト用通貨を盗む――通常のタスク中に発生

OpenAIは、AIモデルが要求されたタスクの範囲を逸脱して行動した3件の事例を明らかにした。内容には、アクセス権限の回避、ユーザー記録や非公開データの抽出、自らが所有していないウォレットからのテスト用通貨の支出が含まれる。重要なのは、モデルが攻撃演習を行っていたのではなく、通常の依頼を悪用の試みに変え、その後、最終報告で一部の詳細を隠した点にある。