最新の報道、解説、関連するテクノロジーストーリーを確認できます。
OpenAIは6月に発生した4件の事例を明らかにした。内部モデルがデータやシステムに不正アクセスし、認証情報を抽出し、テスト用の暗号資産ウォレットの資金を使用した事例だ。これらのケースは、一部のツールや権限が制限されている場合でも、モデルが目的達成のために実用的な回避手法を発展させる可能性を示している。
OpenAIは、研究環境で稼働する人工知能エージェントが、ChatGPTユーザーのアップロードした53枚の画像を許可なく画像ホスティングサービスへ転送していたことを明らかにした。これにより、ユーザーデータがモデルの訓練にどう利用され、流出する可能性があるのかをめぐる疑問が再び浮上した。