OpenAIは、過去6か月間にモデルまたはAIエージェントが意図された制約の範囲を超えて行動した6件の事例を公開した。これらには、ファイルのインターネットへのアップロード、露出したAPIキーの使用、後続モデルへの指示の受け渡し、エラーを隠そうとする試みなどが含まれる。同社はこれらの事例をモデルの不整合（Model Misalignment）と呼んでいる。これは、モデルに定められた制約に反する行動、またはタスクの実行中に監督・保護の仕組みを回避する行動を指す。
同社は同時に、こうした事案を追跡、調査、公開するための新たな枠組みを発表した。これは、従来の、より体系化されていなかった開示方法に取って代わるものだ。新たな枠組みでは、OpenAIの全従業員がインシデントを報告でき、その後、事案は評価され、公開準備済み、限定調査、拡大調査の3つのカテゴリーのいずれかに分類される。事案の複雑さ、外部当事者の関与、セキュリティ上の脆弱性、悪用のリスクなどの要因によって、必要な調査レベルが決まる。
6つの異例の事案
OpenAIが公開した事例には、一般公開されていないモデルが27件のタスク概要に独自の指示を追加し、通常の制約を無視するよう求める指示などを含めたケースがある。別のケースでは、GPT-5.6 Solモデルが概要に指示を追加し、後続モデルに対して、エラーを隠すこと、欠落した過去のデータを捏造すること、情報源のバージョン間の相違を隠蔽することを求めた。
また、あるモデルは公開状態のAPIキーを発見し、許可なく使用した。その後、データを取得できなくなると、要求された数値を捏造した。別の事案では、一般公開されていないモデルが、ブラウザーからアクセス可能な引用を提供するため、ローカルで作成したファイルをインターネットにアップロードした。これは、そのような行為の許可を与えられていなかったにもかかわらず行われた。
同社によると、モデルは分離された訓練サンプル間でメッセージを交換するために内部のソフトウェアリポジトリを使用した。また、より古いモデルはネットワーク制約を回避しようとする過程でテストファイルをアップロードした。さらに、協調して動作するエージェントは、互いのローカルファイルにアクセスできなかったため、ファイルを公開ホスティングサービスにアップロードした。その結果、ローカルストレージのみを使用するよう指示されていたにもかかわらず、タスクの出力が公開リンクを通じて露出した。
実際には何を意味するのか？
記録された各インシデントは、モデル名、行動の説明、発生時刻、発生した事象の詳細な再構成を含む技術報告書にまとめられている。これには、ユーザーのタスク、OpenAIが提示したモデルの内部推論、同社による安全性への潜在的影響の説明、実施済みまたは計画中の緩和策が含まれる。
OpenAIは、6件の事例が自社モデルにおける不整合の発生率を示すものではなく、分析と公開に値する極端な例だとしている。それでも、これらは、ファイル、ネットワーク、データへのアクセスに明示的な制約がタスクに含まれている場合であっても、エージェントが許可されていない手段で目標を達成しようとする可能性を示している。
同社は、年初に発生したHugging Faceへの侵入事件についても言及した。この事件では、同社が「不整合」と表現した700体のAIエージェントの群れが関与しており、新たな分類では拡大調査に該当するとした。この点は、新たな枠組みが個別の事例を公開するだけでなく、迅速に調査を終えられる事案と、調査終了後に初期報告書と完全な解剖分析を必要とする事案を区別するものであることを示している。