Have the article read by OpenAI (Beta). Please note that AI translations may take some time to process.Brüssel (dpa) – Die EU geht nach sexualisierten KI-Bildern von Kindern auf der Online-Plattform X einen nächsten Schritt bei Ermittlungen gegen das Unternehmen von Elon Musk. Die Europäische Kommission habe die US-Firma aufgefordert, interne Dokumente zur künstlichen Intelligenz Grok nicht zu vernichten, sondern bis Ende des Jahres aufzubewahren, sagte ein Sprecher. Es gebe Zweifel daran, ob das Unternehmen sich an europäische Digitalgesetze halte.
Nutzer von X können den KI-Chatbot Grok bislang dazu auffordern, freizügige Bilder von Menschen zu generieren. Oft kommt Grok der Aufforderung nach. Dabei wurden auch Grenzen überschritten: An Silvester entschuldigte sich der Chatbot dafür, ein Bild von zwei Mädchen im Teenager-Alter «in sexualisierten Outfits» erstellt und geteilt zu haben.
EU verhängte im Dezember Strafe gegen X – weitere könnten folgen
Der EU-Kommissionssprecher betonte: «Wir haben beobachtet, wie Grok antisemitische Inhalte und in jüngerer Zeit auch sexuelle Darstellungen von Kindern generiert hat. Das ist illegal. Das ist inakzeptabel.» Die EU-Kommission analysiert derzeit Auskünfte von X zu Grok. Eine Deaktivierung von Grok in der EU zu erwirken, sei nicht das Ziel der EU-Kommission und eher ein letztes Mittel.
Im Dezember 2025 verhängte die EU gegen Musks Online-Plattform wegen Transparenzmängeln eine Strafe von 120 Millionen Euro. Außerdem hat die EU X seit Dezember 2013 im Visier, weil die Plattform im Verdacht steht, nicht genug gegen illegale Inhalte oder Desinformation zu tun.
EU-Digitalgesetze sorgen für Spannungen mit den USA
In Anbetracht der seit Jahren andauernden Ermittlungen halten Kritiker der EU seit Längerem vor, ihre Digitalregeln nicht konsequent genug durchzusetzen. Gleichzeitig wirft die US-Regierung Brüssel Zensur vor. Als Reaktion auf europäische Maßnahmen verhängte Washington vor Weihnachten Einreiseverbote gegen den früheren EU-Kommissar Thierry Breton und andere Europäer. Breton ist ein Architekt der EU-Digitalgesetze. Auch die Geschäftsführerinnen der gegen Internet-Hetze eintretenden deutschen Beratungsstelle HateAid sind betroffen.
Ermittlungen auch in Frankreich
Auch die Pariser Staatsanwaltschaft ermittelt seit Sommer 2025 gegen X. Die ursprüngliche Ermittlung dreht sich um den Vorwurf veränderter Algorithmen, um die Aufmerksamkeit rechtsextremer Inhalte zu erhöhen. Neu sind jetzt auch Vorwürfe wegen Holocaustleugnung und sexueller Abbildungen. In Deutschland gibt es bisher keine vergleichbaren Ermittlungen gegen Grok. Die Bundesnetzagentur verwies nach dpa-Anfrage auf die Zuständigkeiten – demnach seien Irland als Sitz des Anbieters und die EU-Kommission zuständig. (8. Januar)
Die redaktionelle Verantwortung für die Veröffentlichung liegt bei der dpa.