Google published SynthID: Open-Source-Wasserzeichen zur Erkennung von KI-Inhalten

Google has SynthID, an innovative technology for erkennung und Kennzeichnung von KI-generierten Inhalten, com Open-Source-Projekt publicht. Diese Entwicklung zielt darauf ab, die Flut von KI-Inhalten im Internet besser zu identifizieren und zu verwalten.

SynthID can mark both text and images and videos and is costenlos for developers and companies verfügbar.

How does SynthID work?

SynthID uses the Funktionsweise von Large Language Models (LLM) to create invisible watermarks. These watermarks are based on the adaptation of the probability values ​​of tokens used in the LLM during the Texterstellung. A Token can be a Letter, a Word or a Phrase.

Durch die Modulation dieser Wahrscheinlichkeiten wird ein Muster ergott, das für Menschen unsichtbar, aber maschinell erkennerbe ist.

The technology can already be applied to short texts of three sentences, while the robustness and accuracy increase with the length of the texts. Dies bietet eine bessere Erkennung von KI-Inhalten im Vergleich zu existingen Tools, obwohl es Einschränkungen bei stark bearbeitetten oder überstetten Texten gibt.

A similar approach is used for images and videos. Here werden die Pixels so verändert, dass ein insichtbares Muster entstecht, dass nicht durch einfache Bebeitung entfernt werden kann.

Diese Methode ist besons robust und kann selbst bei Bildausschnitten oder Screenshots nicht einfach umgangen werden.

Availability of SynthID

SynthID is a free open source project and open access platform with Hugging Face and Google Responsible GenAI Toolkit heruntergeladen werden. Entwicklern und Unternehmen haben damit die Möglichkeit, die Technology in ihre eigenen System zu integrieren um die Erkennung von KI-Inhalten zu bezerrenchen.