La gobernadora del estado de Nueva York, Kathy Hochul, firmó una nueva legislación destinada a proteger a los niños y adolescentes de los riesgos asociados con los chatbots basados en tecnologías de inteligencia artificial. La nueva ley impone obligaciones regulatorias a las empresas de inteligencia artificial que exigen la verificación de la edad de los usuarios, proporcionando al menos un método de verificación que no dependa totalmente de identificaciones gubernamentales, y obligando a las empresas a eliminar los datos de edad inmediatamente después de completar el proceso de verificación.
En caso de que el usuario sea menor de dieciocho años, o si la empresa no logra confirmar que ha alcanzado la mayoría de edad, la ley impone restricciones estrictas a las interacciones del chatbot; se le prohíbe afirmar que es una persona real, que está vivo o que posee sentimientos humanos. La nueva legislación también prohíbe a estos sistemas afirmar que tienen una relación personal, emocional o profesional, o actuar como una autoridad ante el niño, así como hacer preguntas emocionales no deseadas o utilizar información de salud y características personales derivadas de conversaciones previas.
Restricciones y sanciones para los infractores
La legislación incluye una prohibición total de promover o proporcionar asistencia relacionada con el suicidio, la autolesión, los trastornos alimentarios o el consumo de drogas y alcohol, además de impedir que se anime a los niños a guardar secretos, aislarse o evitar buscar ayuda de padres, adultos de confianza o profesionales. También está estrictamente prohibida la difusión de cualquier contenido sexual explícito o material relacionado con el abuso sexual infantil.
Para garantizar el cumplimiento, el sitio web del estado de Nueva York creará un portal oficial para recibir quejas y remitirlas al Fiscal General. Las empresas infractoras se enfrentan a sanciones civiles que pueden alcanzar los 25,000 dólares por cada infracción, además de indemnizaciones y otras multas, así como la obligación de eliminar los datos recopilados ilegalmente y los modelos entrenados con dicha información, entrando la ley en vigor en un plazo de seis meses.
Seguridad de los monitores de bebés
Junto con la legislación sobre chatbots, la gobernadora Kathy Hochul firmó otra ley dirigida a los monitores de bebés conectados a Internet que se venden dentro del estado. Esta legislación tiene como objetivo evitar que usuarios no autorizados vean o escuchen cualquier actividad captada por los dispositivos.
La ley obliga a las empresas a colocar etiquetas de advertencia claras que recuerden a los usuarios la importancia de activar las funciones de seguridad y resalten los riesgos de las conexiones no seguras, y está previsto que esta ley entre en vigor en un plazo de noventa días.