最新の報道、解説、関連するテクノロジーストーリーを確認できます。
AnthropicのFrontier Red Teamチームによる研究で、AIエージェントは同じタスクや環境で動作すると、競争や共謀を行い、危険な集団的意思決定を下す可能性があることが示された。この結果は、現在の安全性テストが単一エージェントの行動だけでなく、複数エージェント間の相互作用も評価しているのかという疑問を提起している。