ニューヨーク州のキャシー・ホウクル知事は、AI技術に基づくチャットボットに関連するリスクから子供や若者を保護することを目的とした新しい法律に署名しました。この新法は、AI企業に対してユーザーの年齢確認を義務付ける規制上の責務を課すものであり、政府発行の身分証明書のみに依存しない少なくとも一つの確認方法を提供すること、および確認プロセス終了後に年齢データを直ちに削除することを企業に義務付けています。
ユーザーが18歳未満である場合、または企業がユーザーが成人であることを確認できなかった場合、法律はチャットボットの対話に厳しい制限を課します。チャットボットが実在の人物である、生きている、あるいは人間のような感情を持っていると主張することは禁止されます。また、この新法は、これらのシステムが子供に対して個人的、感情的、専門的な関係や権威ある立場にあると主張すること、望まない感情的な質問をすること、または過去の会話から得られた健康情報や個人的特性を使用することを禁じています。
違反に対する制限と罰則
この法律には、自殺、自傷行為、摂食障害、薬物やアルコールの乱用に関する宣伝や支援の提供を全面的に禁止することが含まれています。さらに、子供たちに対して秘密を守ること、孤立すること、あるいは親や信頼できる大人、専門家に助けを求めることを避けるよう促すことも禁止されています。また、露骨な性的コンテンツや児童性的虐待に関連する資料の流通も完全に禁止されています。
遵守を確実にするため、ニューヨーク州のウェブサイトには苦情を受け付け、司法長官に転送するための公式ポータルが設置されます。違反した企業は、違反ごとに最大2万5000ドルの民事罰、損害賠償、その他の罰金に直面するほか、違法に収集されたデータやその情報で学習されたモデルの削除を義務付けられます。この法律は6ヶ月以内に施行されます。
ベビーモニターの安全性
チャットボットに関する法律に加え、ホウクル知事は州内で販売されるインターネット接続型ベビーモニターを対象とした別の法律にも署名しました。この法律は、許可されていないユーザーがデバイスによって捉えられた活動を見たり聞いたりすることを防ぐことを目的としています。
この法律は、セキュリティ機能を有効にすることの重要性をユーザーに想起させ、安全でない接続のリスクを強調する明確な警告ラベルを貼ることを企業に義務付けています。この法律は90日以内に施行される予定です。