纽约州州长凯西·霍楚尔（Kathy Hochul）签署了一项新立法，旨在保护儿童和青少年免受与人工智能聊天机器人技术相关的风险。新法律对人工智能公司施加了监管义务，要求其必须验证用户年龄，同时至少提供一种不完全依赖政府身份证件的验证方式，并强制公司在验证过程完成后立即删除年龄数据。
如果用户是未满18岁的未成年人，或者公司未能确认其已达到成年年龄，法律将对聊天机器人的互动施加严格限制；禁止其声称自己是真实的人、是活体，或拥有人类情感。该新立法还禁止这些系统声称与儿童存在个人、情感、职业关系或作为权威机构，禁止提出不受欢迎的情感问题，或使用从先前对话中获取的健康信息和个人特征。
违规者的限制与处罚
该立法全面禁止推广或提供有关自杀、自残、饮食失调或药物及酒精滥用的协助，并禁止鼓励儿童保守秘密、孤立自己或避免向父母、可信赖的成年人或专业人士寻求帮助。此外，严禁传播任何露骨的性内容或与儿童性虐待相关的材料。
为确保合规，纽约州网站将建立一个官方门户网站以接收投诉并将其转交给总检察长。违规公司将面临每项违规行为最高2.5万美元的民事处罚，以及赔偿金和其他罚款，并被要求删除非法收集的数据及基于该信息训练的模型。该法律将于六个月内生效。
婴儿监视器的安全性
除了聊天机器人立法外，州长凯西·霍楚尔还签署了另一项针对在州内销售的联网婴儿监视器的法律。该立法旨在防止未经授权的用户查看或收听设备捕获的任何活动。
法律要求公司贴上清晰的警告标签，提醒用户激活安全功能的重要性，并强调不安全连接的风险。该法律定于九十天内开始实施。