最新の報道、解説、関連するテクノロジーストーリーを確認できます。
CISA、NSA、FBIは、中国のAI企業6社が2024年後半以降、数十億トークンと数百万件のリクエストを通じて、米国の先進モデルの出力を抽出する大規模な作戦を実施したと述べた。各機関は、APIの悪用に対する監視を強化し、これらのキャンペーンに関する指標を企業間で共有するよう勧告している。
Abliteration.aiは、拒否メカニズムを除去したオープンウェイトモデルの改変版へのアクセスを提供している。サイバーセキュリティチームが攻撃者の行動をシミュレーションできるようにするためだとしているが、同時に、これらのモデルを有害な活動に利用するためのより広い入口も開いている。顧客の身元確認メカニズムがなく、責任管理の仕組みも整っていない。