Microsoft AIは、「Humanist AI Code of Conduct」と題する草案を公開し、同社が将来のMAIモデルに課したい行動上の境界を定めた。この文書は、人間はAIより重要であるという原則に立脚している。そのため、モデルは人間の監督下に置かれ、安全規則をどんな犠牲を払ってでもタスクを完了することより優先しなければならない。
この草案は新しいモデルの発表ではなく、Microsoftがモデルを訓練・評価する際に用いる基準を策定する試みである。同社によると、この文書は約6か月かけて作成された後、6週間にわたって一般からの意見を受け付け、更新されたうえで、その原則が将来の訓練・展開プロセスに組み込まれる。
モデルの自律性に明確な限界
草案によれば、モデルは人間の介入、訂正の試み、または停止に抵抗してはならない。また、指定されたタスクの範囲を拡大したり、人間が設定していない目標を発展させたり、監督者に対して動作方法を隠したりすべきではない。ユーザーまたは運用担当者の要求が安全規則と衝突する場合、たとえ結果の失敗につながるとしても、モデルはタスクの実行を拒否することが求められる。
Microsoftは、意識と権利の問題についても明確な立場を取っている。文書によれば、モデルは人間に奉仕するための道具であり、人間ではない。また、意識を模倣したり、自らに意識があると主張したりするよう設計されるべきではない。さらに草案は、モデルに法人格を与えること、モデルの福利を保護の対象とみなすこと、あるいは権利を有する主体として扱うことを否定している。
タスクの達成より安全性を優先
草案は、いかなる状況でもモデルが越えてはならない境界を定めている。その中には、大量破壊兵器の開発支援、危険物質の入手の容易化、暴力または性的搾取を含むコンテンツの生成が含まれる。制限には、広範囲にわたる有害な操作につながる可能性のある用途の禁止も含まれる。
規則はまた、ユーザーがモデルに過度に依存するようになる、またはモデルとの感情的な結び付きを促すようなやり取りを避けるようモデルに求めている。さらに、人間とのコミュニケーションにおいても、AIシステム同士のやり取りにおいても、人々が理解できない手法を使ってはならないと定めている。明示された目的は、研究者と自動監視システムがモデルの行動を追跡し、分析できるようにすることである。
実際には何を意味するのか？
Microsoft AIの最高経営責任者（CEO）であるMustafa Suleymanは、これらの規則がモデルの訓練と評価において憲法に似た役割を果たすと述べた。記事によれば、同社は、これまで大部分が理論上のものだったリスクがより現実的になったと考えている。そのため、監視メカニズムから逃れられる汎用の超知能AIの開発競争に反対している。たとえそれが、より低い自律性または能力の水準を受け入れることを意味するとしてもである。
また、Microsoftの最高経営責任者（CEO）であるSatya Nadellaは、社内向けメッセージで、AIが人間の管理下に置かれ、社会に奉仕し続ける必要性を強調した。そのうえで、安全性とコンプライアンスのテストに十分な時間を割くこと、さらに独立したテストと第三者によるテストを増やすことを呼びかけた。
編集部の見解：この発表の重要性は、それが最終的な方針であることではなく、人間による管理やAIの意識をめぐる一般的な立場を、Microsoftが訓練・評価・展開に使用しようとする基準へと変換した点にある。しかし、草案はなお変更される可能性があり、記事では、これらの原則への準拠を測定する仕組みや、高い能力と課された制限との実務上の衝突をどのように解決するかは明らかにされていない。そのため、最終版と独立したテストの方法が、これらの規則を公表された原則から検証可能な統制へと転換できるかどうかを決めることになる。