{"id":2067996,"date":"2026-01-23T13:55:19","date_gmt":"2026-01-23T12:55:19","guid":{"rendered":"https:\/\/europeannewsroom.com\/?p=2067996"},"modified":"2026-01-23T13:55:24","modified_gmt":"2026-01-23T12:55:24","slug":"ki-missbrauch-eu-verschaerft-kurs-gegen-kuenstlich-generierte-nacktbilder","status":"publish","type":"post","link":"https:\/\/europeannewsroom.com\/de\/ki-missbrauch-eu-verschaerft-kurs-gegen-kuenstlich-generierte-nacktbilder\/","title":{"rendered":"KI-Missbrauch: EU versch\u00e4rft Kurs gegen k\u00fcnstlich generierte Nacktbilder"},"content":{"rendered":"\n

Die Europ\u00e4ische Union f\u00e4hrt angesichts der gro\u00dfen Emp\u00f6rung \u00fcber den Einsatz von K\u00fcnstlicher Intelligenz (KI), die im Netz die Privatsph\u00e4re und W\u00fcrde von Menschen verletzt, schwere Gesch\u00fctze auf.<\/p>\n\n\n\n

Nach dem Skandal um von Grok AI \u2013 dem in Elon Musk<\/strong>’s Plattform X integrierten Chatbot \u2013 erzeugten sexualisierten Bilder erw\u00e4gt Br\u00fcssel, die Erstellung sexueller Deepfakes als verbotene Praxis im Rahmen des Artificial Intelligence Act (AI Act, oder: KI-Gesetz) einzustufen.<\/p>\n\n\n\n

Emp\u00f6rung \u00fcber Grok<\/strong><\/h3>\n\n\n\n

Musk\u2019s Unternehmen xAI f\u00fchrte \u2013 nach anhaltender internationaler Kritik \u2013 Mitte Januar neue Beschr\u00e4nkungen f\u00fcr die Erzeugung sexuell anz\u00fcglicher KI-Bilder in Grok ein. Der Schritt folgte Vorw\u00fcrfen, Grok habe es Nutzenden erm\u00f6glicht, Frauen digital \u201causzuziehen\u201d, indem etwa Kleidung durch Bikinis ersetzt wurde. In einigen F\u00e4llen betraf dies auch Minderj\u00e4hrige. <\/p>\n\n\n\n

Die ersten Bilder von Menschen, die ohne ihre Einwilligung digital ausgezogen wurden (\u201eNudification\u201c), tauchten bereits in den ersten Tagen nach der Einf\u00fchrung der neuen Funktion auf, verbreiteten sich aber insbesondere rund um Silvester. Laut CNN wurde Grok allein zwischen dem 5. und 6. Januar genutzt, um mindestens 6.700 sexuelle Bilder zu erzeugen. Diese zeigten h\u00e4ufig Frauen oder Minderj\u00e4hrige. Eine sp\u00e4tere Untersuchung der New York Times ergab, dass innerhalb von 9 Tagen etwa 1,8 Millionen sexualisierte Bilder durch Grok geteilt wurden. <\/p>\n\n\n\n

\u201eGrok bietet jetzt einen \u2018Spicy Mode\u2019 an, der explizite sexuelle Inhalte mit teilweise kindlichen Bildern zeigt. Das ist nicht pikant. Das ist illegal. Das ist emp\u00f6rend,\u201c sagte Thomas Regnier,<\/strong> Sprecher f\u00fcr digitale Angelegenheiten der EU, Anfang Januar vor Reportern.<\/p>\n\n\n\n

Die Europ\u00e4ische Kommission, die als digitale Aufsichtsbeh\u00f6rde des Blocks fungiert, erkl\u00e4rte, sie werde die nun von X eingef\u00fchrten Beschr\u00e4nkungen zur Kenntnis nehmen und pr\u00fcfen. Beh\u00f6rden warnten, dass die EU den gesamten Anwendungsbereich des Digital Services Act (DSA) aussch\u00f6pfen werde, falls die Schritte nicht ausreichen.<\/p>\n\n\n\n

Kommissions-Vizepr\u00e4sidentin Henna Virkkunen<\/strong> sagte, die Kommission erw\u00e4ge, diese Art von KI\u2011generierten sexualisierten Bildern ausdr\u00fccklich als \u201einakzeptable Risiken\u201c im Rahmen des AI Acts zu verbieten.<\/p>\n\n\n\n

Das Verbot sch\u00e4dlicher Praktiken im Bereich der KI k\u00f6nne relevant sein, um das Problem nicht einvernehmlicher sexueller Deepfakes und Kinderpornografie anzugehen, sagte Virkkunen, die zudem Kommissarin f\u00fcr Technologische Souver\u00e4nit\u00e4t, Sicherheit und Demokratie ist, in der Plenarsitzung des Europ\u00e4ischen Parlaments in dieser Woche in Stra\u00dfburg. Erg\u00e4nzend f\u00fcgte sie hinzu, der DSA verringere das Risiko, dass sexuelles Material ohne Einwilligung online verbreitet werde.<\/p>\n\n\n\n

Sie erinnerte auch daran, dass die Kommission X im Rahmen der DSA-Untersuchung zur Vorlage von Informationen zu Grok aufgefordert hatte.<\/p>\n\n\n\n

Die Plattform solle bis Jahresende s\u00e4mtliche internen Dokumente und Daten dazu sichern. \u201eWir pr\u00fcfen nun, inwieweit X m\u00f6glicherweise ohnehin gegen den DSA verst\u00f6\u00dft, und werden nicht z\u00f6gern, weitere Schritte einzuleiten, falls die Hinweise darauf hindeuten,\u201c sagte sie.<\/p>\n\n\n\n

Die Kommission hatte den Druck auf X bereits zuvor erh\u00f6ht: Das Unternehmen war Anfang Dezember wegen mangelnder Transparenz mit einer Geldstrafe von 120 Millionen Euro belegt worden. Die EU beharrt darauf, ihre Regeln durchzusetzen \u2013 trotz Kritik seitens der US\u2011Regierung.<\/p>\n\n\n\n

\u201eDer DSA ist in Europa sehr klar. Alle Plattformen m\u00fcssen vor der eigenen Haust\u00fcr kehren, denn das, was sie hier erzeugen, ist inakzeptabel. Und die Einhaltung des EU\u2011Rechts ist keine Option. Sie ist eine Verpflichtung,\u201c sagte Regnier auf dem H\u00f6hepunkt des Skandals Anfang Januar.<\/p>\n\n\n\n

In der vergangenen Woche hatte eine Gruppe von rund 50 Abgeordneten die Kommission aufgefordert, KI\u2011Apps zur Erstellung von Nacktbildern vom EU\u2011Markt zu verbannen.<\/p>\n\n\n\n

\"\"
Illustration: 12. Juli 2025: Auf dieser Fotoillustration ist das xAI Grok-Logo auf einem Smartphone-Bildschirm zu sehen. Grok ist ein generativer Chatbot mit k\u00fcnstlicher Intelligenz, der von xAI entwickelt wurde. Foto: Algi Febri Sugita\/ZUMA Press Wire\/dpa<\/figcaption><\/figure>\n\n\n\n

Ein Leben ohne X ist m\u00f6glich, aber\u2026<\/strong><\/h3>\n\n\n\n

Trotz der Kritik an X ver\u00f6ffentlichen nahezu alle ranghohen EU\u2011Beamtinnen und \u2011Beamten weiterhin Beitr\u00e4ge auf der Plattform und nicht auf europ\u00e4ischen Alternativen, wie Recherchen der dpa zeigen.<\/p>\n\n\n\n

EU\u2011Kommissionspr\u00e4sidentin Ursula von der Leyen<\/strong> und andere Spitzenvertreterinnen und \u2011vertreter verf\u00fcgen weiterhin \u00fcber keine offiziellen Konten auf Mastodon, einer in Deutschland ans\u00e4ssigen Alternative. Virkkunen er\u00f6ffnete im Januar ein offizielles Konto auf Mastodon. Hochrangige EU\u2011Politikerinnen und \u2011Politiker sind zudem auf Bluesky aktiv, einer weiteren US\u2011Plattform, die derzeit an Popularit\u00e4t gewinnt.<\/p>\n\n\n\n

Die Kommission begr\u00fcndet die fortgesetzte Nutzung von X mit dessen Reichweite: Mastodon z\u00e4hlt laut den Unternehmen rund 750.000 monatliche Nutzerinnen und Nutzer, w\u00e4hrend X auf 100 Millionen kommt.<\/p>\n\n\n\n

Der steinige Weg zu mehr Sicherheit im Netz<\/strong><\/h3>\n\n\n\n

Der Prozess f\u00fcr besseren Schutz Minderj\u00e4hriger online in der EU ist langwierig, da Interessen in den Bereichen Datenschutz, Wirtschaft und Schutzbed\u00fcrftigkeit aufeinandertreffen. Mehrere Regelwerke greifen ineinander:<\/p>\n\n\n\n