Eine neue Studie zeigt, dass fast 10% der Nutzer von KI-Chatbots diese Technologie für sexuell explizite Gespräche missbrauchen. Das Forschungsteam analysierte 100.000 Chatbot-Konversationen und stellte fest, dass etwa 10% sexuell anzügliche Themen enthielten.
Ziel der Studie ist es, die tatsächliche Interaktion von Menschen mit Chatbots aufzuzeigen und so die Sicherheit von Chatbots im realen Leben zu verbessern. Die Forscher unterteilten die missbräuchlichen Themen in drei Kategorien: obszöne Erzählungen, sexuelle Fantasien und Rollenspiele sowie die Diskussion schädlichen Verhaltens.