Sexualisierte Fotos bei X - tut die EU genug?

Die Empörung über sexualisierte Bilder, die mit dem KI-Chatbot Grok und über die Plattform X verbreitet wurden, ist quer durch Europa groß. Und die EU ist bereits tätig - aber könnte sie mehr tun? 

"Ich wurde unfreiwillig von Elon Musks Grok auf X ausgezogen. Meine Tochter ist neun. Ich möchte nicht, dass ihr jemals so etwas passiert", sagt Ebba Busch, stellvertretende Ministerpräsidentin von Schweden, wo die KI-Bikini-Bilder die Regierung beschäftigten und von ihr verurteilt wurden.
In Großbritannien hat die britische Medienaufsicht Ermittlungen gegen X eingeleitet. Dort ist die Verbreitung intimer Fotos ‍ohne die Zustimmung der Betroffenen illegal. Dies gilt auch für Bilder, die mithilfe von KI erzeugt oder manipuliert wurden.
Auch die Pariser Staatsanwaltschaft ermittelt wegen der Unmengen von KI-generierten, sexualisierten Bildern - von Minderjährigen, aber auch von Promis und generell vor allem von Frauen.
In Deutschland schreiten die Überlegungen voran: "Wir brauchen strengere Regeln gegen KI-generierte Sex-Bilder", sagte heute Bundesjustizministerin Stefanie Hubig.
Zuvor hatte es Kulturstaatsminister Wolfram Weimer so formuliert: Was gerade auf X zu beobachten sei, wirke wie die Industrialisierung der sexuellen Belästigung. Weimar fordert damit vor allem die EU zum Handeln auf.

"Das ist nicht spicy"

Die EU-Kommission beobachtet Grok seit Jahresanfang verschärft: Nutzerinnen und Nutzer können vergleichsweise einfach mit dem KI-Chatbot aus der Unternehmenswelt von Musk Fotos von Personen so verändern lassen, dass sie knapp bekleidet, nackt oder auf andere Weise sexualisiert dargestellt werden.
Grok wurde von Musk im vergangenen Sommer in die Plattform X integriert - im sogenannten "spicy mode". Dazu findet EU-Kommissionsprecher Thomas Regnier deutliche Worte:

Das ist nicht spicy. Das ist illegal. Das ist entsetzlich. Das ist widerlich. So sehen wir das. Und so etwas hat in Europa nichts zu suchen. Es verstößt gegen unsere Werte und unsere Grundrechte.

Seit Tagen informiert Regnier über die Kommunikation der Kommission mit Musks Unternehmen. Brüssel hat eine weitere Untersuchungen gegen die Plattform X eingeleitet und sie angewiesen, alle internen Dokumente und Daten im Zusammenhang mit Grok bis Ende 2026 aufzubewahren. Mit ihnen könnte möglicherweise bewiesen werden, dass Algorithmen und Empfehlungssysteme diese Inhalte bevorzugt ausspielen.

Angebot nur noch für Abonnenten

Auf den Vorstoß der EU-Kommission hat X bereits reagiert: Seit einigen Tagen arbeitet Grok offenbar nur für zahlende Nutzer. "Die Bilderzeugung und Bearbeitung ist derzeit auf zahlende Abonnenten beschränkt", heißt es aktuell auf entsprechende Aufforderungen. Danach folgt ein Link, um ein solches Abo abschließen zu können.
Dies ändere wenig, heißt es in Brüssel. Nach den EU-Digitalgesetzen müssen die Plattformen Sicherheitssysteme etablieren, die Minderjährige vor Risiken bewahren und gegen illegale Inhalte vorgehen, egal ob bezahlt oder nicht. Die Untersuchung gegen X geht also weiter.
Schließlich hatten die Sicherheitssysteme für X und seinen KI-Chatbot schon vor Monaten versagt, als Grok Holocaust-Leugnungs-Bilder und -Texte erstellte und umfänglich teile. Die EU-Kommission hatte daraufhin Erklärungen von X eingefordert und analysiert, so heißt es, die gerade eingetroffene Antwort.

Kann die EU mehr tun?

Doch das sei angesichts der neuen Vorwürfe und der "widerlichen und illegalen Bilder" zu wenig, heißt es nun aus dem Europaparlament - etwa von der slowakischen Abgeordnete Veronika Cifrová, die nach eigener Aussage viel Online-Belästigung erlebt hat: "Zusammen mit anderen Abgeordneten der liberalen Fraktion haben wir jetzt die Kommission schriftlich aufgefordert, die Gesetze voll anzuwenden. Sie hat die Befugnis, Grok während der laufenden Untersuchung vorläufig zu suspendieren."
Der Ruf nach einer Suspendierung erinnert an den Fall des chinesischen Ultra-Fast-Fashion-Konzern Shein. Nachdem im französischen Online-Shop des Unternehmen im November Sexpuppen in Kinderoptik angeboten wurden, sollte die Website vorübergehend gesperrt werden.
Ein ähnliches Vorgehen auf EU-Ebene sei angemessen, findet EU-Abgeordnete Cifrová: "Niemand sollte sich täuschen: Es ist kein Problem, das nur Prominente oder Frauen betrifft. Alle Bilder von Ihnen oder Ihren Kindern, die Sie jemals auf Facebook oder Instagram gepostet haben, können mit nur einem Klick auf Grok zu einem Porno werden."

"X weiß, dass wir es ernst meinen"

So schnell wird es von Seiten der EU im Fall Grok wohl nicht gehen. Aber, betont Kommissionsprecher Regnier: "Nirgendwo sonst werden Sie einen besseren rechtlichen Schutz für Kinder im Internet finden als in der EU. Wir haben das DSA. Und auch X weiß, dass wir es mit der Durchsetzung der Regeln ernst meinen. Zumindest erinnern sie sich sicher an die Geldstrafe."
Im Dezember wurde X als erster Konzern mit einer Geldstrafe nach den Digitalgesetzen belegt: Für mangelnde Transparenz bei Nutzerkonten und etwa politischer Werbung muss X nun zunächst 120 Millionen Euro Strafe in Europa zahlen.