Eine Sammelklage wirft Elon Musks KI-Firma xAI vor, Grok mit realem und KI-generiertem Kindesmissbrauchsmaterial trainiert zu haben.

Es ist der bislang schwerste Vorwurf gegen Musks KI-Sparte: Eine unter dem Pseudonym Jane Doe klagende Frau beschuldigt xAI, das Bildgenerierungsmodell Grok mit kinderpornografischem Material (Child Sexual Abuse Material, CSAM) trainiert zu haben.

Wie Ars Technica berichtete, wurde die Klage am Mittwoch eingereicht.

Die Klägerin war Anfang der 2000er-Jahre im Vorschulalter, als Erwachsene sie wiederholt missbrauchten und dabei CSAM produzierten. Ihre Bilder sind seither beim National Center for Missing and Exploited Children (NCMEC) und beim Canadian Centre for Child Protection (C3P) mit Hash-Werten erfasst.

Laut Klageschrift sei genau dieses gehashte Material Teil des Datensatzes gewesen, mit dem xAI die Bild- und Videofähigkeiten von Grok aufgebaut habe.

Öffentliche X-Posts als Trainingsfutter

Die Klageschrift beschreibt einen technischen Mechanismus, der Grok von anderen großen KI-Anbietern unterscheidet: Laut den Nutzungsbedingungen von xAI behandle das System öffentliche X-Posts und seine eigenen generierten Bilder standardmäßig als Trainingsdaten. Wer ein Bild auf der Plattform veröffentlicht, speise es damit direkt in die Trainings-Pipeline ein.

Die Klage hebt hervor, dass xAI zwar gewalttätige Inhalte in den Ausgaben von Grok filtert, um diese vom erneuten Training auszuschließen. CSAM, nicht einvernehmliche intime Bilder (NCII) oder sonstige NSFW-Inhalte seien in den Nutzungsbedingungen jedoch nicht ausdrücklich als ausgeschlossene Kategorien benannt.

Alle anderen großen KI-Bildgeneratoren verweigerten sexualisierte Darstellungen realer Personen grundsätzlich, insbesondere bei Minderjährigen, während die unzureichenden Filter bei xAI auch bei der EU zu offiziellen Ermittlungen wegen der Verbreitung illegaler Inhalte führten.

Technische Hürden bei der Datenbereinigung

Die Klägerin argumentiert, dass einmal ingestiertes CSAM den Modellzustand auch nach späterer Löschung der Originalbilder weiter beeinflusse.

Die vollständige Entfernung einzelner Trainingsbeispiele aus einem bereits trainierten Modell sei technisch schwierig – und xAI habe öffentlich nie behauptet, eine solche Bereinigung vorgenommen zu haben.

Im Rahmen der angestrebten Sammelklage fordert Jane Doe Schadenersatz für alle Opfer, deren Kindheitsbilder als Grundlage für Grok-generiertes CSAM dienten. Darüber hinaus soll ein Gericht xAI verpflichten, sämtliches auf seinen Servern gespeichertes CSAM zu vernichten und Grok vollständig an der Erzeugung solcher Inhalte zu hindern.

Sarah London, Partnerin der Kanzlei Girard Sharp LLP, erklärte in einer Pressemitteilung, xAI müsse dafür zur Verantwortung gezogen werden, seine Modelle wissentlich mit den Missbrauchsbildern der Klägerin sowie denen aller anderen Betroffenen der Sammelklage trainiert zu haben.

Die Klage stützt sich auf Masha's Law sowie Bundesgesetze gegen Kinderpornografie, die Überlebenden zivilrechtliche Ansprüche wegen Produktion, Besitz und Verbreitung einräumen. X hat auf eine Anfrage von Ars Technica nicht reagiert.