New York Valisi Kathy Hochul, çocukları ve gençleri yapay zeka teknolojilerine dayalı sohbet robotlarıyla ilişkili risklerden korumayı amaçlayan yeni bir mevzuatı imzaladı. Yeni yasa, yapay zeka şirketlerine kullanıcıların yaşlarını doğrulama zorunluluğu getiren düzenleyici yükümlülükler yüklüyor. Bu süreçte, tamamen devlet kimliklerine dayanmayan en az bir doğrulama yöntemi sunulması ve şirketlerin doğrulama işlemi tamamlanır tamamlanmaz yaş verilerini silmeleri zorunlu kılınıyor.
Kullanıcının on sekiz yaşından küçük olması veya şirketin kullanıcının reşit olduğunu doğrulayamaması durumunda, yasa sohbet robotunun etkileşimlerine katı kısıtlamalar getiriyor. Buna göre robotun gerçek bir kişi olduğunu, canlı olduğunu veya insani duygulara sahip olduğunu iddia etmesi yasaklanıyor. Ayrıca yeni mevzuat, bu sistemlerin çocukla kişisel, duygusal, profesyonel veya otorite figürü olarak bir ilişki kurduğunu iddia etmesini, istenmeyen duygusal sorular sormasını veya önceki konuşmalardan elde edilen sağlık bilgilerini ve kişisel özellikleri kullanmasını da yasaklıyor.
İhlal edenlere yönelik kısıtlamalar ve yaptırımlar
Mevzuat; intihar, kendine zarar verme, yeme bozuklukları veya uyuşturucu ve alkol kullanımıyla ilgili teşviki veya yardımı tamamen yasaklıyor. Ayrıca çocukların sır saklamaya, yalnızlaşmaya veya ebeveynlerden, güvenilir yetişkinlerden ya da uzmanlardan yardım istemekten kaçınmaya teşvik edilmesini de engelliyor. Bununla birlikte, cinsel içerikli materyallerin veya çocuk cinsel istismarıyla ilgili materyallerin dolaşımı kesinlikle yasaklanıyor.
Uyumluluğu sağlamak amacıyla New York eyaletinin web sitesinde şikayetleri almak ve bunları Başsavcıya iletmek için resmi bir portal oluşturulacak. İhlalde bulunan şirketler, her bir ihlal için 25 bin dolara varan sivil cezalara, tazminatlara ve diğer cezalara maruz kalacak. Ayrıca şirketler, yasa dışı yollarla toplanan verileri ve bu bilgilerle eğitilen modelleri silmekle yükümlü olacak. Yasa altı ay içinde yürürlüğe girecek.
Bebek izleme cihazlarının güvenliği
Sohbet robotları mevzuatının yanı sıra Vali Kathy Hochul, eyalet içinde satılan internete bağlı bebek izleme cihazlarını hedef alan başka bir yasayı daha imzaladı. Bu mevzuat, yetkisiz kullanıcıların cihazlar tarafından kaydedilen herhangi bir etkinliği görmesini veya dinlemesini engellemeyi amaçlıyor.
Yasa, şirketleri güvenlik özelliklerini etkinleştirmenin önemini hatırlatan ve güvensiz bağlantıların risklerini vurgulayan net uyarı etiketleri koymaya zorunlu kılıyor. Bu yasanın doksan gün içinde yürürlüğe girmesi planlanıyor.