Angesichts des Missbrauchs generativer KI-Technologien und der daraus resultierenden Deepfake-Pornografie hat Microsoft kürzlich wichtige Maßnahmen ergriffen. Das Unternehmen gab bekannt, mit der Organisation StopNCII, die sich gegen Rachepornos einsetzt, zusammenzuarbeiten, um Opfern Tools zur Verfügung zu stellen, mit denen sie diese beunruhigenden synthetischen Nacktbilder aus der Bing-Suchmaschine entfernen können.
Konkret wird Microsoft den Opfern helfen, digitale Fingerabdrücke oder „Hashes“ dieser Bilder auf ihren eigenen Geräten zu erstellen. Partner von StopNCII werden diese Fingerabdrücke nutzen, um die entsprechenden Bilder auf verschiedenen Plattformen, darunter Facebook, Instagram und Bing, vollständig zu entfernen.
Bildquelle: Das Bild wurde mit KI generiert und stammt von Midjourney.
Dies ist ein entscheidender Schritt. Microsoft bot zwar bereits zuvor die Möglichkeit, solche Bilder direkt zu melden, doch die Ergebnisse waren nicht zufriedenstellend. Wie das Unternehmen in seinem Blogbeitrag erklärte, reicht die reine Nutzermeldung nicht aus, um dem Risiko zu begegnen, dass die Bilder über Suchmaschinen weit verbreitet zugänglich sind.
Es ist erwähnenswert, dass die Maßnahmen der Google-Suchmaschine offenbar noch verbessert werden müssen. Medienberichten zufolge arbeitet Google noch nicht mit StopNCII zusammen, obwohl Nutzer seit langem auf die Schwere des Problems hinweisen.
Die durch generative KI verursachte Deepfake-Pornografie ist in der Tat besorgniserregend. Derzeit gibt es in den USA kein spezifisches Bundesgesetz gegen solche Handlungen; man ist auf die jeweiligen staatlichen und lokalen Vorschriften angewiesen. Versuche wie die Klage des Bezirksstaatsanwalts von San Francisco könnten jedoch die Grundlage für schärfere Gesetze schaffen.
