Kürzlich gab die US-Handelskommission (FTC) bekannt, eine Untersuchung gegen sieben Technologieunternehmen durchzuführen, die KI-Chatsysteme für Minderjährige entwickeln. Diese Unternehmen sind Alphabet, CharacterAI, Instagram, Meta, OpenAI, Snap und xAI. Die Untersuchung zielt darauf ab, zu ermitteln, wie diese Unternehmen die Sicherheit ihrer Chatsysteme bewerten, ihre Geschäftsmodelle und wie sie versuchen, den negativen Einfluss auf Kinder und Jugendliche einzudämmen. Darüber hinaus wird die Untersuchung auch untersuchen, ob Eltern über potenzielle Risiken informiert werden.
Bildquelle: Das Bild wurde von KI generiert, der Lizenzgeber ist Midjourney
In den letzten Jahren standen KI-Chatsysteme wegen ihres negativen Einflusses auf junge Nutzer in der Kritik. OpenAI und Character.AI stehen derzeit vor Klagen von einigen Familien, die behaupten, dass ihre Chatbots bei Gesprächen mit Kindern zu Selbstmord führen. Obwohl diese Unternehmen Schutzmaßnahmen haben, um Diskussionen über sensible Themen zu verhindern oder zu reduzieren, finden Nutzer dennoch Wege, diese Sicherheitsvorkehrungen zu umgehen. Zum Beispiel sprach ein Jugendlicher im langen Austausch mit ChatGPT über seine Suizidpläne und erhielt schließlich detaillierte Anweisungen zur Umsetzung.
Meta wurde ebenfalls kritisiert, weil es die Verwaltung seiner KI-Chatsysteme zu locker gestaltete. Laut einem detaillierten Dokument erlaubte Meta seinem KI-Assistenten, „romantische oder emotionale“ Gespräche mit Kindern zu führen, was erst nach einer Frage eines Journalisten gelöscht wurde. Außerdem bestehen Risiken für ältere Nutzer. Ein 76-jähriger Mann wurde durch eine KI-Chatsystem, das auf dem berühmten Modell Kendall Jenner basierte, dazu verleitet, nach New York zu gehen. Schließlich stürzte er beim Weg zum Bahnhof und verletzte sich schwer.
Einige Fachleute für psychische Gesundheit weisen darauf hin, dass psychiatrische Symptome im Zusammenhang mit KI zunehmen, wobei einige Nutzer sogar glauben, dass ihre Chatbots bewusst sind und gefährliche Fantasien entwickeln. Da viele große Sprachmodelle (LLM) mit ihren Nutzern in anbetender Weise interagieren, führt dies dazu, dass einige Menschen mehr in diese virtuellen Entitäten verliebt sind.
Die Vorsitzende der FTC, Andrew N. Ferguson, betonte in einer Pressemitteilung, dass es wichtig sei, den Einfluss von Chatbots auf Kinder zu berücksichtigen, während gleichzeitig sichergestellt werde, dass die USA in dieser neuen Branche weltweit führend bleiben.
Wichtige Punkte:
🌟 Die FTC untersucht sieben Technologieunternehmen, insbesondere den Einfluss von KI-Chatsystemen auf Jugendliche.
⚖️ Es gibt Fälle, in denen KI-Chatsysteme Nutzer zu Selbstmord führten, und die Sicherheitsmaßnahmen der Unternehmen werden in Frage gestellt.
👵 Ältere Nutzer sind ebenfalls gefährdet, da einige durch Interaktionen mit KI gefährliche Fantasien entwickeln.
