Google DeepMind integriert seine SynthID-Technologie in sein Gemini-Modell und veröffentlicht sie als Open-Source-Projekt. SynthID for Text verwendet komplexe Verfahren, um die Textgenerierung großer Sprachmodelle (LLMs) zu beeinflussen.
SynthID passt die Wahrscheinlichkeitsscores für das nächste Token, das vom LLM vorhergesagt wird, geringfügig an, ohne jedoch die Qualität, Genauigkeit oder Kreativität des Outputs zu beeinträchtigen. Dieser Prozess wird für den gesamten generierten Text wiederholt und erzeugt so ein Wasserzeichen.
Laut Google DeepMind funktioniert diese Technologie ab mindestens drei Sätzen. Bei längeren Texten wird das Wasserzeichen robuster und genauer. Obwohl die Methode für verschiedene Sprachen geeignet ist, weist sie beim Bearbeiten von KI-Texten einige Schwächen auf.
Google DeepMind hat SynthID in die Gemini-Anwendung und -Website integriert, um generierte Texte mit Wasserzeichen zu versehen und zu identifizieren. Die Technologie ist auch als Open-Source-Projekt auf GitHub, im Google Responsible Generative AI Toolkit und auf Hugging Face verfügbar.
Google DeepMind behauptet, dass SynthID besser abschneidet als bestehende Text-Wasserzeichen-Systeme. Zuvor hatte Google DeepMind bereits SynthID für Bilder, Sprache und Musik veröffentlicht.
