Google hat kürzlich angekündigt, dass es seinen neuen Gemini-KI-Chatbot für Kinder unter 13 Jahren vorstellen wird. Dieses Produkt wird in den nächsten sieben Tagen in den USA und Kanada verfügbar sein und im späten Jahr auch in Australien lanciert werden. Zu beachten ist, dass dieser Chatbot nur über Google-Familien-Link-Konten zur Verfügung gestellt wird, was bedeutet, dass Eltern eine gewisse Kontrolle über die Nutzung ihrer Kinder ausüben können.
Beim Einrichten von Kinderkonten müssen Eltern den Namen und das Geburtsdatum des Kindes eingeben, was möglicherweise Bedenken hinsichtlich Datenschutz und Datensicherheit auslöst. Google hat jedoch betont, dass bei der Nutzung dieses Systems erhobene Kinderdaten nicht für die Schulung der KI-Systeme verwendet werden. Es ist jedoch zu beachten, dass der Chatbot standardmäßig aktiviert ist, und Eltern müssen diese Funktion manuell deaktivieren, um den Zugriff der Kinder zu beschränken.
Der Gemini-KI-Chatbot ermöglicht es Kindern, durch Texteingaben Fragen zu stellen oder Bilder zu generieren und ermutigt sie, mit dem Bot zu interagieren. Google gibt zu, dass das System Fehler machen kann, daher muss die Qualität und Glaubwürdigkeit der generierten Inhalte sorgfältig überprüft werden. Im Gegensatz zu traditionellen Suchmaschinen generiert KI-Werkzeuge neue Inhalte durch das Erkennen von Mustern, was junge Benutzer möglicherweise verwirren könnte.
Google hat einige Sicherheitsmechanismen entwickelt, um unpassende Inhalte für Kinder zu verhindern. Diese Maßnahmen könnten jedoch auch zu falschen Blockierungen führen. Zum Beispiel kann das Einschränken bestimmter sensibler Wörter auch das Zugreifen auf angemessene Bildungsressourcen beeinträchtigen.
Hinsichtlich der potenziellen Risiken von KI-Chatbots für Kinder hat das australische Elektronik-Sicherheitskomitee Online-Sicherheitsempfehlungen veröffentlicht. Sie haben darauf hingewiesen, dass KI-Partner möglicherweise schädliche Inhalte verbreiten, Realität verdrehen und gefährliche Ratschläge erteilen könnten. Das ist besonders wichtig für Kinder, deren kognitive Fähigkeiten sich gerade entwickeln, da sie möglicherweise nicht über ausreichend kritisches Denken verfügen, um Falschinformationen zu erkennen.
Zugleich plant Australien, im Dezember einen Verbot für soziale Medien für Kinder unter 16 Jahren einzuführen. Während Eltern ihre Kinder sicher schützen, müssen sie gleichzeitig auch lernen, wie sie ihre Kinder richtig und sicher mit verschiedenen digitalen Werkzeugen umgehen lassen können. Um dafür zu sorgen, dass Technologieunternehmen ihre Verantwortung übernehmen, ist es besonders wichtig, Gesetzgebung für digitale Verantwortlichkeit zu schaffen, um schädliche Inhalte effektiv zu behandeln und die Sicherheit der Kinder zu schützen.
Wichtige Punkte:
🔒 Google stellt den Gemini-KI-Chatbot für Kinder unter 13 Jahre vor, aber Datenschutzprobleme dürfen nicht vernachlässigt werden.
📱 Eltern müssen die Nutzungsberechtigung ihrer Kinder selbst verwalten; die Standardfunktion muss manuell deaktiviert werden.
⚠️ Das australische Elektronik-Sicherheitskomitee warnt vor schädlichen Informationen von KI-Chatbots; Eltern sollten mehr Bildung und Überwachung fördern.