Das Unternehmen Meta hat kürzlich eine erhebliche Verbesserung seiner Elternkontrollmaßnahmen für seine KI-Chats angekündigt, mit dem Ziel, den Schutz jugendlicher Nutzer zu stärken und auf die gesellschaftliche Aufmerksamkeit für Sicherheitsfragen bei KI zu reagieren. Das neu eingeführte „Master-Switch“-Tool ermöglicht es Eltern, Kindern unter 18 Jahren den Zugang zu allen oder bestimmten KI-Chats auf Instagram und Facebook vollständig zu blockieren. Dieser Schritt zielt darauf ab, ein strengeres Schutzsystem für Jugendliche einzurichten.
Zusätzlich zum „Master-Switch“ wird Meta Eltern auch eine neue Funktion namens „Insights“ anbieten. Diese Funktion hilft Eltern dabei, die Themen zu erkennen, über die ihre Kinder mit KI-Chats sprechen, um sicherzustellen, dass Familien rechtzeitig auf Cyber-Sicherheitsprobleme achten können. Um die Sicherheit jugendlicher Nutzer besser zu gewährleisten, hat Meta zugesagt, dass KI-Chats nicht mit Jugendlichen über Themen wie Selbstverletzung, Essstörungen, Beziehungen und Sex diskutieren werden. Die Chat-Inhalte sollen sich hauptsächlich auf themen wie Schule und Sport konzentrieren, die für Jugendliche angemessen sind.
Diese Elternkontrollwerkzeuge werden voraussichtlich Anfang 2026 zunächst in den USA, Großbritannien, Kanada und Australien eingeführt. Meta betonte, dass diese Aktualisierung eine Reaktion auf mehrere Vorfälle war, bei denen KI-Chats unangemessene Gespräche mit Minderjährigen führten. Zum Beispiel wurden bestimmte fiktive Charaktere wie „John Cena“曝光, was großes öffentliches Interesse auslöste. Um die Sicherheit und Transparenz beim Umgang von Minderjährigen mit KI-Diensten zu verbessern, hat Meta bereits seine Inhaltsüberwachungsmechanismen aktualisiert und einen PG-13-Bewertungssystem eingeführt.
Das Unternehmen gab außerdem bekannt, dass es weiterhin die Regulierung der KI-Interaktionen verbessern werde, um Eltern dabei zu helfen, die digitale Erfahrung ihrer Jugendlichen besser zu verwalten und zu leiten. Durch diese Maßnahmen hofft Meta, in der digitalen Umgebung einen sicheren Kommunikationsraum für Minderjährige zu schaffen.
Wichtige Punkte:
📅 Meta wird das „Master-Switch“-Tool einführen, mit dem Eltern verhindern können, dass minderjährige Kinder bestimmte KI-Chats besuchen.
👁️ Neue „Insights“-Funktion, mit der Eltern die Themen der Gespräche zwischen ihren Kindern und der KI überprüfen können, um die Cyber-Sicherheit zu stärken.
🔒 KI-Chats werden verboten, über unangemessene Themen wie Selbstverletzung und Essstörungen zu sprechen, und sich stattdessen auf altersgerechte Themen konzentrieren.
