캐시 호컬 뉴욕 주지사는 인공지능 기술 기반 챗봇과 관련된 위험으로부터 아동과 청소년을 보호하기 위한 새로운 법안에 서명했습니다. 이 새로운 법은 인공지능 기업들에게 사용자 연령을 확인할 의무를 부과하며, 정부 발급 신분증에 전적으로 의존하지 않는 최소한의 확인 방법을 제공하도록 규정하고 있습니다. 또한 기업들은 확인 절차가 완료되는 즉시 연령 데이터를 삭제해야 합니다.
사용자가 18세 미만의 미성년자이거나 기업이 성인임을 확인하지 못한 경우, 법은 챗봇의 상호작용에 엄격한 제한을 둡니다. 챗봇은 자신이 실제 사람이라거나 살아있다거나 인간의 감정을 가지고 있다고 주장할 수 없습니다. 또한 이 새로운 법안은 이러한 시스템이 아동과 개인적, 감정적, 직업적 관계를 맺고 있거나 권위 있는 위치에 있다고 주장하는 것, 원치 않는 감정적 질문을 던지는 것, 이전 대화에서 얻은 건강 정보나 개인적 특성을 사용하는 것을 금지합니다.
위반 시 제한 및 처벌
이 법안은 자살, 자해, 섭식 장애, 약물 및 알코올 남용과 관련된 홍보나 지원 제공을 전면 금지합니다. 또한 아동에게 비밀을 유지하거나 고립되도록 유도하거나, 부모, 신뢰할 수 있는 성인 또는 전문가에게 도움을 요청하지 못하도록 방해하는 행위도 금지합니다. 노골적인 성적 콘텐츠나 아동 성적 학대와 관련된 자료의 유통은 완전히 금지됩니다.
준수를 보장하기 위해 뉴욕주 웹사이트는 불만을 접수하여 법무장관에게 전달하는 공식 포털을 개설할 예정입니다. 위반 기업은 위반 건당 최대 25,000달러의 민사 처벌을 받을 수 있으며, 손해 배상 및 기타 벌금과 함께 불법적으로 수집된 데이터와 해당 정보로 학습된 모델을 삭제해야 합니다. 이 법은 6개월 이내에 발효될 예정입니다.
유아용 모니터 보안
챗봇 법안과 더불어 캐시 호컬 주지사는 주 내에서 판매되는 인터넷 연결 유아용 모니터를 대상으로 하는 또 다른 법안에 서명했습니다. 이 법안은 권한이 없는 사용자가 기기가 포착하는 활동을 보거나 듣는 것을 방지하는 것을 목표로 합니다.
이 법은 기업들이 보안 기능 활성화의 중요성을 상기시키고 안전하지 않은 연결의 위험성을 강조하는 명확한 경고 라벨을 부착하도록 의무화하며, 이 법은 90일 이내에 시행될 예정입니다.