最新の報道、解説、関連するテクノロジーストーリーを確認できます。
Goodfireは、エージェントのすべての出力を別のモデルで再検査する代わりに、モデル内部の信号を読み取る監視システムを導入した。同社は、このシステムによりコストを大幅に削減しながら、ハッキングや生物・化学兵器の悪用などのリスクを検出できるとしている。