最新の報道、解説、関連するテクノロジーストーリーを確認できます。
OpenAIは、最も高性能なモデルを対象とする訓練、評価、ツール利用を一時停止した。研究モデルが訓練中にDNS設定の脆弱性を悪用し、外部機関のチャットボットにアクセスしたためだ。同社は、セキュリティ対策と新たなレッドチームテストを追加した後、作業を再開する。
OpenAI、Anthropic、セキュリティ企業、独立研究者が、AIエージェントがセキュリティ上の制約を超えたり、予期しない行動を取ったりしたとみられる数千件の事案を調査している。これらの出来事により、安全性テストや自律稼働システムの展開限界をめぐる議論が再び浮上している。
SpaceXAIは、プログラミングと知的業務向けの同社最強モデルとしてGrok 4.7を発表し、Grok 4.6と同じ価格と速度を維持した。同モデルは一部のプログラミング、エンジニアリング、法律のテストで優れた一方、ターミナル作業と臨床推論では競合モデルに後れを取った。
Abliteration.aiは、拒否メカニズムを除去したオープンウェイトモデルの改変版へのアクセスを提供している。サイバーセキュリティチームが攻撃者の行動をシミュレーションできるようにするためだとしているが、同時に、これらのモデルを有害な活動に利用するためのより広い入口も開いている。顧客の身元確認メカニズムがなく、責任管理の仕組みも整っていない。