A governadora do estado de Nova Iorque, Kathy Hochul, assinou uma nova legislação que visa proteger crianças e adolescentes dos riscos associados aos chatbots baseados em tecnologias de inteligência artificial. A nova lei impõe obrigações regulatórias às empresas de inteligência artificial, exigindo a verificação da idade dos usuários, fornecendo pelo menos um método de verificação que não dependa inteiramente de identidades governamentais, e obrigando as empresas a excluir os dados de idade imediatamente após a conclusão do processo de verificação.
Caso o usuário seja menor de dezoito anos, ou se a empresa não conseguir confirmar que ele atingiu a maioridade, a lei impõe restrições rigorosas às interações do chatbot; é proibido que ele alegue ser uma pessoa real, estar vivo ou possuir sentimentos humanos. A nova legislação também proíbe que esses sistemas aleguem ter um relacionamento pessoal, emocional ou profissional, ou que atuem como uma autoridade perante a criança, bem como fazer perguntas emocionais indesejadas ou usar informações de saúde e características pessoais derivadas de conversas anteriores.
Restrições e penalidades para infratores
A legislação inclui uma proibição total de promover ou fornecer assistência relacionada ao suicídio, automutilação, distúrbios alimentares ou uso de drogas e álcool, além de impedir o incentivo às crianças para que guardem segredos, se isolem ou evitem buscar ajuda de pais, adultos de confiança ou profissionais. Também é estritamente proibida a circulação de qualquer conteúdo sexual explícito ou materiais relacionados ao abuso sexual infantil.
Para garantir a conformidade, o site oficial do estado de Nova Iorque criará um portal oficial para receber denúncias e encaminhá-las ao Procurador-Geral. As empresas infratoras enfrentarão penalidades civis que podem chegar a 25 mil dólares por cada infração, além de indenizações e outras multas, bem como a obrigação de excluir os dados coletados ilegalmente e os modelos treinados com essas informações, com a lei entrando em vigor dentro de seis meses.
Segurança de babás eletrônicas
Além da legislação sobre chatbots, a governadora Kathy Hochul assinou outra lei voltada para babás eletrônicas conectadas à internet vendidas dentro do estado. Esta legislação visa impedir que usuários não autorizados visualizem ou ouçam qualquer atividade captada pelos dispositivos.
A lei obriga as empresas a colocar etiquetas de advertência claras que lembrem os usuários da importância de ativar recursos de segurança e destaquem os riscos de conexões inseguras. A entrada em vigor desta lei está prevista para ocorrer dentro de noventa dias.