Die Gouverneurin des Bundesstaates New York, Kathy Hochul, hat eine neue Gesetzgebung unterzeichnet, die darauf abzielt, Kinder und Jugendliche vor den Risiken im Zusammenhang mit Chatbots zu schützen, die auf Technologien der künstlichen Intelligenz basieren. Das neue Gesetz legt regulatorische Verpflichtungen für KI-Unternehmen fest, die eine Überprüfung des Alters der Nutzer vorschreiben. Dabei muss mindestens eine Methode zur Verifizierung angeboten werden, die nicht vollständig auf staatlichen Ausweisen basiert, wobei die Unternehmen verpflichtet sind, die Altersdaten unmittelbar nach Abschluss des Verifizierungsprozesses zu löschen.
Falls der Nutzer ein Minderjähriger unter achtzehn Jahren ist oder das Unternehmen nicht erfolgreich feststellen konnte, dass das Volljährigkeitsalter erreicht wurde, legt das Gesetz strenge Beschränkungen für die Interaktionen des Chatbots fest. Es ist ihm untersagt, zu behaupten, eine echte Person zu sein, lebendig zu sein oder menschliche Gefühle zu besitzen. Zudem verbietet die neue Gesetzgebung diesen Systemen, eine persönliche, emotionale oder berufliche Beziehung oder eine Autoritätsrolle gegenüber dem Kind vorzutäuschen, unerwünschte emotionale Fragen zu stellen oder Gesundheitsinformationen und persönliche Merkmale zu verwenden, die aus früheren Unterhaltungen abgeleitet wurden.
Beschränkungen und Sanktionen für Zuwiderhandelnde
Die Gesetzgebung umfasst ein striktes Verbot der Förderung oder Unterstützung im Zusammenhang mit Suizid, Selbstverletzung, Essstörungen oder dem Konsum von Drogen und Alkohol. Zudem ist es untersagt, Kinder dazu zu ermutigen, Geheimnisse zu bewahren, sich zu isolieren oder die Hilfe von Eltern, vertrauenswürdigen Erwachsenen oder Fachleuten zu vermeiden. Ebenso ist die Verbreitung von expliziten sexuellen Inhalten oder Materialien, die sich auf den sexuellen Missbrauch von Kindern beziehen, endgültig verboten.
Um die Einhaltung zu gewährleisten, wird die Website des Bundesstaates New York ein offizielles Portal einrichten, um Beschwerden entgegenzunehmen und an den Generalstaatsanwalt weiterzuleiten. Unternehmen, die gegen die Bestimmungen verstoßen, müssen mit zivilrechtlichen Sanktionen von bis zu 25.000 Dollar pro Verstoß rechnen, zusätzlich zu Schadensersatzforderungen und weiteren Geldstrafen. Zudem werden sie verpflichtet, rechtswidrig gesammelte Daten sowie die mit diesen Informationen trainierten Modelle zu löschen. Das Gesetz tritt innerhalb von sechs Monaten in Kraft.
Sicherheit von Babyphones
Neben der Gesetzgebung zu Chatbots unterzeichnete Gouverneurin Kathy Hochul ein weiteres Gesetz, das sich auf internetfähige Babyphones bezieht, die innerhalb des Bundesstaates verkauft werden. Diese Gesetzgebung zielt darauf ab, unbefugte Nutzer daran zu hindern, Aktivitäten einzusehen oder abzuhören, die von den Geräten erfasst werden.
Das Gesetz verpflichtet Unternehmen dazu, klare Warnhinweise anzubringen, die die Nutzer auf die Bedeutung der Aktivierung von Sicherheitsfunktionen hinweisen und die Risiken unsicherer Verbindungen hervorheben. Die Anwendung dieses Gesetzes soll innerhalb von neunzig Tagen beginnen.