OpenAI hat kürzlich einen technischen Bericht zu seinem Bildgenerierungs-KI DALL-E 3 veröffentlicht, der die implementierten Sicherheitsmechanismen zur Risikokontrolle der generierten Inhalte aufzeigt. Der Bericht enthüllt, dass frühere Versionen von DALL-E 3 anfällig für die Generierung von unangenehmen, pornografischen oder aggressiven Bildern waren. Die neue Version wird durch einen Bildausgabeklassifikator gesteuert.
Gleichzeitig umschreibt ChatGPT automatisch die Eingabeaufforderungen und entfernt beispielsweise Namen von Prominenten, um die Generierung falscher Inhalte durch DALL-E 3 zu vermeiden. Die vorherige Bevorzugung westlicher Ästhetik wurde ebenfalls korrigiert.
Dennoch räumt OpenAI ein, dass von DALL-E 3 generierte Bilder Urheberrechtsrisiken bergen können und Mechanismen implementiert wurden, um die Nachahmung von Kunststilen zu vermeiden.
Zusammenfassend lässt sich sagen, dass OpenAI sich bemüht, mit der Öffentlichkeit einen Dialog darüber zu führen, wie sich ein Gleichgewicht zwischen Sicherheit und Kreativität bei der KI-generierten Content-Erstellung herstellen lässt.
