Губернатор штата Нью-Йорк Кэти Хокул подписала новый законодательный акт, направленный на защиту детей и подростков от рисков, связанных с чат-ботами, использующими технологии искусственного интеллекта. Новый закон налагает на ИИ-компании регуляторные обязательства, требующие проверки возраста пользователей, при этом необходимо предоставить как минимум один способ проверки, не опирающийся исключительно на государственные удостоверения личности, а также обязать компании удалять данные о возрасте сразу после завершения процесса проверки.
В случае, если пользователь является несовершеннолетним в возрасте до восемнадцати лет или если компания не смогла подтвердить достижение им совершеннолетия, закон налагает строгие ограничения на взаимодействие с чат-ботом: ему запрещается утверждать, что он является реальным человеком, живым существом или обладает человеческими чувствами. Законодательство также запрещает этим системам претендовать на наличие личных, эмоциональных, профессиональных отношений или выступать в качестве авторитета для ребенка, задавать нежелательные эмоциональные вопросы или использовать медицинскую информацию и личные характеристики, полученные из предыдущих бесед.
Ограничения и санкции для нарушителей
Законодательство включает полный запрет на продвижение или оказание помощи в вопросах самоубийства, членовредительства, расстройств пищевого поведения, употребления наркотиков и алкоголя, а также запрещает поощрять детей хранить секреты, изолироваться или избегать обращения за помощью к родителям, доверенным взрослым или специалистам. Также категорически запрещено распространение любого откровенного сексуального контента или материалов, связанных с сексуальным насилием над детьми.
Для обеспечения соблюдения закона на официальном сайте штата Нью-Йорк будет создан портал для приема жалоб и их передачи генеральному прокурору. Компании-нарушители столкнутся с гражданскими штрафами, которые могут достигать 25 тысяч долларов за каждое нарушение, помимо компенсаций и других штрафов, а также обязательства удалить данные, собранные незаконным путем, и модели, обученные на этой информации. Закон вступает в силу в течение шести месяцев.
Безопасность радионянь
Помимо законодательства о чат-ботах, губернатор Кэти Хокул подписала еще один закон, касающийся подключенных к интернету устройств для наблюдения за детьми, продаваемых на территории штата. Этот закон направлен на предотвращение доступа неавторизованных пользователей к просмотру или прослушиванию любой активности, фиксируемой устройствами.
Закон обязывает компании размещать четкие предупреждающие этикетки, напоминающие пользователям о важности активации функций безопасности и подчеркивающие риски небезопасных соединений. Применение этого закона начнется в течение девяноста дней.