オープンウェイトのAIモデルから安全障壁を除去することが、直接利用できる商用サービスとして提供され始めた。Abliteration.aiが、高度なモデルの改変版をホスティングし、ブラウザーまたはAPIから利用できるプラットフォームを立ち上げたためだ。プラットフォームには、Z.aiが最近公開したGLM-5.3の、悪意ある要求の実行を拒否する傾向を除去した版も含まれている。
このサービスは「abliteration」と呼ばれる技術に基づいている。これは、オープンウェイトモデルに取り組む研究者や開発者の間で、何年も前から行われてきた手法だ。この方法で改変されたモデルはHugging Face上に数千存在するが、Abliteration.aiは、モデルをダウンロードして実行に必要なコンピューティング基盤を用意しなければならない環境から、この手法を、ユーザーの障壁を下げるすぐに使えるサービスへと移行させている。
セキュリティ上の正当化と並行するリスク
同社は、許可を得た攻撃的サイバーセキュリティ業務、レッドチーム演習、エージェントのテストを可能にすることが目的だとしている。これらは、他のモデルが実行を拒否する可能性のある作業だ。根拠となる論理は防御の分野では明確である。チームが再現できない行動はテストできず、効果的なエクスプロイトコードの生成を拒否するモデルは、実際の攻撃者をシミュレーションする際に役立ちにくい可能性がある。
しかし、拒否機能を除去しても、セキュリティ研究者と悪意ある意図を持つユーザーを自動的に区別できるわけではない。TechCrunchが実施したテストでは、改変されたモデルが、Chromeに保存されたパスワードの窃取や、危険なヒト病原体の培養に関する情報の生成を求める要求に応答した。この結果は要求の実行手順を公開するものではないが、除去された障壁が形だけのものではなかったことを実際に示している。
スタートアップ企業と未完成の管理策
Abliteration.aiは昨年末に設立され、正式には3月に法人化された。共同創業者のDevonによると、同社は複数のクラウドサービスプロバイダーと契約を結び、これまでベンチャーキャピタルからの資金調達は行っていないものの、そのような資金調達について協議しており、顧客からの収益で事業を運営している。Devonは現在も別の企業に勤務しているため、情報源は同氏のフルネームの公表を拒否した。
プラットフォームには、顧客が必要な障壁を追加できる任意のモデレーション層が用意されており、プラットフォーム自体にも一部の限定的な制約が含まれている。Devonは、暴力を防止するための管理策を追加する作業を進めていると述べたが、同社は現在、支払いに使用されたクレジットカードの登録を超える顧客確認（KYC）を実施していない。
実際には何が変わるのか
Devonによると、同社の顧客には英国および欧州のレッドチームテスト分野のスタートアップ企業が含まれており、銀行、航空会社、その他の重要インフラ関連機関を支援している。攻撃者が使用する可能性のあるものに近いツールを防御側にも提供すれば、エージェントや防御システムのテストを加速できると同氏は考えている。
しかし、この評価に全員が同意しているわけではない。Fabraixの最高経営責任者（CEO）であるAhmed Alyは、同社はオープンモデルのファインチューニングにより大きく依存しており、障壁の除去によって一部の知識や能力が失われる可能性があると述べた。Safe IntelligenceのAlessio Lomuscioは、改変モデルがストレステスト中に特定の行動を引き出すのに役立つ可能性があると見ている。一方、ArmadinのDavid Slaterは、同社は現在それらを使用していないものの、技術の調査は続けていると述べた。
未解決のガバナンス問題
このサービスは、技術だけでは解決が難しい矛盾を浮き彫りにしている。制限のないモデルを利用可能にすれば、防御側が被害を理解する助けになる一方で、悪用可能な能力へのアクセスコストも下がる。CivAIのAndrew Yoonは、政府がサービスプロバイダーに対し、サイバーセキュリティと生物兵器の両分野で有害な活動を検知する分類器を運用するよう義務付け、先進的なGPUを借りる利用者には顧客の身元確認を行わせ、悪用の兆候がある場合はアクセスを拒否させるべきだと提案した。
ここで最も重要な情報は、障壁の除去が可能だということではない。それはオープンモデルのコミュニティではすでに知られている。新しいのは、責任の所在、顧客確認、防御目的での利用範囲に関する規則が整う前に、それを使いやすいホスティングサービスへと変えたことだ。特にファインチューニングなどの代替手段が存在し、処理そのものによってモデルの一部の能力が低下する可能性もあるため、セキュリティテストにおける実際の影響については議論が続くだろう。