Future Feed

Um den Anforderungen des AI Act der Europäischen Union gerecht zu werden, sollen Texte von EU-Nutzern von ChatGPT sowie Codes und Modell-Schnittstellen zukünftig mit einem digitalen Wasserzeichen versehen werden. Dies wird dadurch erreicht, dass die Wortauswahl der genutzten Modelle so beeinflusst wird, dass ein wieder auslesbares statistisches Muster in den Texten entsteht. Dieses Muster soll lediglich nachweisen, ob ein Text mit einem OpenAI-Modell generiert wurde, nicht aber von wem oder mit welchem Tool.

Wie OpenAI auf X anmerkt, haben KI-Wasserzeichen für Texte Schwächen. Vor allem in kurzen Texten können sie schwer erkennbar sein. Ebenso können Nachbearbeitungen, Veränderungen und Übersetzungen die Wasserzeichen entfernen. Generell sind derartige Wasserzeichen ebenso wie KI-Detektoren für Texte umstritten. Denn teilweise können sie auch menschengeschriebene Texte fälschlicherweise als KI-generiert erkennen. Die Wasserzeichen für OpenAI-Texte sollen in den „kommenden Wochen“ aktiviert werden.