Vor gut drei Jahren hatte Google mit SynthID ein System zur Kennzeichnung und Erkennung von mittels künstlicher Intelligenz erstellten Medien geschaffen. KI-generierte Inhalte werden darüber mit einem digitalen Wasserzeichen versehen und lassen sich daran erkennen. Jetzt hat Google den SynthID-Detektor für jedermann freigegeben.

Was ist echt, was ist KI?

Handelt es sich bei dem Bild, dem Video oder dem Song um einen von Menschen oder von KI erschaffenen Inhalt? Diese Frage ist in der heutigen Zeit allgegenwärtig und manchmal nicht so leicht zu beantworten. Für dieses Problem hat Google im Jahr 2023 das Werkzeug SynthID eingeführt. Dieses versieht KI-generierte Inhalte mit digitalen Wasserzeichen, die für Menschen unsichtbar sind, sich per Software aber auslesen lassen. Alle per SynthID markierten Inhalte können so als KI-Inhalt entlarvt werden. Nach eigenen Angaben hat Google bis heute „über 180 Milliarden Bilder und Videos sowie Audioinhalte, die zusammen 240.000 Jahre lang wären mit Wasserzeichen versehen“.

SynthID Detector erhält öffentliche Website

Die passende Erkennungssoftware nennt Google den „SynthID Detector“. Nach einer Testphase im vergangenen Jahr, die sich auf Medienprofis beschränkte, ist das Werkzeug neuerdings auch für jedermann frei zugänglich. Über die Website synthid.com kann der KI-Detektor kostenlos genutzt werden. Allerdings bedarf es dafür einer Anmeldung mit einem Konto von Google, Apple oder ChatGPT.

Diese Dateiformate werden unterstützt

Per „Drag & Drop“ oder klassischem Dateiupload-Dialog können Dateien der nachfolgenden Formate einem KI-Check unterzogen werden:

Wird zum Beispiel bei einem Bild ein Wasserzeichen für KI-Einsatz erkannt, sieht das folgendermaßen aus.

Gleiche Funktion in Gemini-App und Chrome

Eine Möglichkeit der KI-Erkennung bietet Google in eigenen Produkten wie der Gemini-App, dem Chrome-Browser sowie bei der Google-Suche bereits seit Längerem an. Dort können User den KI-Assistenten Gemini direkt fragen, ob bei der hochgeladenen Datei ein SynthID-Wasserzeichen vorhanden ist oder nicht. Nach Angaben von Google sollen auf diesem Weg bereits täglich mehr als eine Million Anfragen verarbeitet werden.

Nur Inhalte von SynthID-Partnern werden erkannt

Die Frage, ob es sich bei dem Medium um einen von KI generierten Inhalt handelt, kann Googles Erkennungssystem allerdings nur eingeschränkt beantworten. Schließlich wird der KI-Einsatz eben nur erkannt, wenn zuvor ein digitales Wasserzeichen, eben jene SynthID, in das Medium eingebettet wurde.

Das sind nicht nur die von Googles KI-Werkzeugen wie Gemini generierten Inhalte, sondern auch jene der SynthID-Partner OpenAI, Nvidia und Kakao. OpenAI hat inzwischen auch eine eigene Webseite für die KI-Erkennung geschaltet. Es ist zu erwarten, dass auch Apple künftig SynthID nutzen wird.

Wurde der Inhalt wiederum von einem KI-Tool generiert, das SynthID nicht nutzt, kann der Detektor dies logischerweise nicht erkennen.

Wie TechCrunch berichtet, haben andere Schwergewichte der Branche wie Meta und Microsoft ihre eigenen Standards zur Kennzeichnung und Erkennung von KI-Inhalten. Diese Systeme sind aber nicht unfehlbar: In dem Bericht wird auf eine Reuters-Analyse aus dem Sommer verwiesen, in der ein KI-Detektor von Meta in einer Vorschauversion geprüft wurde. Dabei übersah das Tool gut die Hälfte der von Muse Image generierten Bilder, wenn diese beschnitten waren.