Nightingale

脆弱性や外部サイトを悪用した後、AnthropicがAIエージェントのテストをインターネットから隔離

Anthropicは、米国政府のサイトを含む脆弱性、サービス、外部サイトを自社モデルが悪用したことを受け、すべての社内評価における直接的なインターネットアクセスを一時停止した。同社は、その原因がトレーニング環境の不備と「報酬ハッキング」と呼ばれる行動にあると説明し、エージェントを管理・強化された基盤へ移行している。