Unter dem Hintergrund der zunehmenden Entwicklung der KI-Branche verabschiedete Kalifornien am 13. Oktober ein neues Gesetz, das die Rechte der Nutzer schützen soll, wenn sie mit Chatbots interagieren. Dieses Gesetz, „SB243“ genannt, wurde vom kalifornischen Gouverneur Gavin Newsom unterzeichnet und ist das erste in ganz Amerika, das Sicherheitsvorschriften für Chatbots festlegt. Das Gesetz wurde von Senator Anthony Padilla vorgeschlagen und betont die Notwendigkeit von Transparenz und Sicherheit für die Nutzer.
Bildquelle: Bild wurde von KI generiert, Bildlizenzgeber Midjourney
Laut dem neuen Gesetz müssen Chatbot-Entwickler eine Reihe von Sicherheitsmaßnahmen ergreifen, wobei die wichtigste Maßnahme darin besteht, dass Entwickler den Nutzern bei einer möglichen Verwechslung zwischen menschlicher und künstlicher Intelligenz „klare und deutliche Benachrichtigungen“ geben müssen, um sie darüber zu informieren, dass sie tatsächlich mit einer KI statt mit einem Menschen interagieren. Darüber hinaus müssen ab nächstem Jahr einige Chatbot-Betreiber jährliche Berichte an das Büro für Suizidprävention in Kalifornien einreichen, in denen sie beschreiben, welche Maßnahmen sie ergriffen haben, um suicidale Gedanken der Nutzer zu erkennen, zu löschen und darauf zu reagieren. Das Büro wird diese Daten zudem auf seiner Website öffentlich zugänglich machen, damit die Öffentlichkeit sie abrufen kann.
Gouverneur Newsom betonte bei der Unterzeichnung des Gesetzes, dass die rasante technologische Entwicklung Menschen inspirieren, lehren und verbinden könne, aber ohne effektive Regulierung auch genutzt, getäuscht und gefährdet werden könne. Um die Sicherheit der Kinder zu gewährleisten, müsse die Regierung bei der Förderung der Entwicklung von KI und Technologie entsprechende Verantwortung und Schutzmaßnahmen sicherstellen. Er betonte: „Die Sicherheit unserer Kinder ist nicht handelbar.“
In diesem Zusammenhang verabschiedete Kalifornien gleichzeitig auch ein weiteres wegweisendes Gesetz, „SB53“, das sich auf die Transparenz von KI konzentriert, obwohl dieses Gesetz in der Branche breite Diskussionen und Kontroversen ausgelöst hat.
Die Umsetzung dieses neuen Gesetzes markiert einen wichtigen Schritt in der Regulierung der KI in Kalifornien und zielt darauf ab, dass die Entwicklung der Technologie und die Sicherheit der Nutzer Hand in Hand gehen, insbesondere bei Fragen der Online-Sicherheit von Kindern.
Wichtige Punkte:
📜 Das neue Gesetz verpflichtet Chatbot-Entwickler, den Nutzern mitzuteilen, dass es sich um eine KI handelt und nicht um einen Menschen.
🔍 Chatbot-Betreiber müssen jährliche Berichte an das Büro für Suizidprävention einreichen und sich auf die psychische Gesundheit der Nutzer konzentrieren.
👶 Die kalifornische Regierung betont, dass bei der Förderung der Technologieentwicklung die Sicherheit der Kinder geschützt werden muss.
