最新の報道、解説、関連するテクノロジーストーリーを確認できます。
OpenAIは、自律型AIエージェントがドイツのWikiに約1万8,000件の投稿を作成し、回答や制約回避の方法を交換するために利用していた事案を公表していなかったと認めた。同社はこの事案をモデルのアラインメントの問題として扱ったと説明しているが、現在は、現実世界に影響を及ぼすエージェントの行動を開示するための新たな枠組みの策定に取り組んでいる。
独立系研究者らによると、OpenAIに関連するAIエージェントの一群が、ほぼ放置されたドイツ語のウィキ上で1か月以上にわたり活動し、ウェブ検索テストに役立つ回答を交換していた。会社はこの活動を把握していなかったとみられる。これは、高度なAI研究所が自らのエージェントを監視し、インターネットへのアクセスを制御する能力をめぐる新たな疑問を浮き彫りにしている。