La gouverneure de l'État de New York, Kathy Hochul, a signé une nouvelle législation visant à protéger les enfants et les adolescents contre les risques associés aux chatbots basés sur des technologies d'intelligence artificielle. La nouvelle loi impose des obligations réglementaires aux entreprises d'intelligence artificielle, exigeant la vérification de l'âge des utilisateurs, tout en fournissant au moins une méthode de vérification qui ne repose pas entièrement sur des pièces d'identité gouvernementales, tout en obligeant les entreprises à supprimer les données d'âge immédiatement après la fin du processus de vérification.
Dans le cas où l'utilisateur est un mineur de moins de dix-huit ans, ou si l'entreprise ne parvient pas à confirmer sa majorité, la loi impose des restrictions strictes sur les interactions du chatbot ; il lui est interdit de prétendre être une personne réelle, d'être vivant ou de posséder des sentiments humains. La nouvelle législation interdit également à ces systèmes de prétendre entretenir une relation personnelle, émotionnelle ou professionnelle, ou d'agir en tant qu'autorité auprès de l'enfant, de poser des questions émotionnelles non sollicitées, ou d'utiliser des informations de santé et des caractéristiques personnelles dérivées de conversations précédentes.
Restrictions et sanctions pour les contrevenants
La législation inclut une interdiction totale de promouvoir ou d'apporter une assistance concernant le suicide, l'automutilation, les troubles alimentaires, ou la consommation de drogues et d'alcool, ainsi que l'interdiction d'encourager les enfants à garder des secrets, à s'isoler ou à éviter de demander de l'aide aux parents, aux adultes de confiance ou aux professionnels. Il est également strictement interdit de diffuser tout contenu sexuellement explicite ou tout matériel lié à l'exploitation sexuelle des enfants.
Pour garantir le respect de la loi, le site web de l'État de New York créera un portail officiel pour recevoir les plaintes et les transmettre au procureur général. Les entreprises contrevenantes s'exposent à des sanctions civiles pouvant atteindre 25 000 dollars par infraction, en plus des dommages-intérêts et d'autres amendes, ainsi qu'à l'obligation de supprimer les données collectées illégalement et les modèles entraînés sur ces informations, la loi devant entrer en vigueur dans un délai de six mois.
Sécurité des babyphones
Outre la législation sur les chatbots, la gouverneure Kathy Hochul a signé une autre loi ciblant les babyphones connectés à Internet vendus dans l'État. Cette législation vise à empêcher les utilisateurs non autorisés de voir ou d'écouter toute activité captée par les appareils.
La loi oblige les entreprises à apposer des étiquettes d'avertissement claires rappelant aux utilisateurs l'importance d'activer les fonctionnalités de sécurité et soulignant les risques liés aux connexions non sécurisées. L'entrée en vigueur de cette loi est prévue dans un délai de quatre-vingt-dix jours.