EU leitet Untersuchung gegen KI-Chatbot Grok wegen sexualisierter Bilder ein

Brüssel (dpa) – Die Europäische Kommission hat ein Verfahren gegen das US-Technologieunternehmen X wegen seines KI-Chatbots Grok eingeleitet, nachdem dieser sexualisierte Bilder von Frauen und Kindern erstellt hatte.

„Nicht-einvernehmliche sexuelle Deepfakes von Frauen und Kindern sind eine gewalttätige, inakzeptable Form der Erniedrigung“, sagte die Vizepräsidentin der EU-Kommission Henna Virkkunen am Montag.

Die Untersuchung soll klären, ob X seinen Verpflichtungen nach dem Recht der Europäischen Union nachgekommen ist, einschließlich der Pflicht, „systemische Risiken sorgfältig zu bewerten und zu mindern“, schrieb die Kommission, die als digitale Aufsichtsbehörde der EU fungiert, in einer Erklärung.

„Dies umfasst Risiken im Zusammenhang mit der Verbreitung illegaler Inhalte in der EU, wie manipulierte sexuell explizite Bilder, einschließlich von Inhalten, die Kinderpornografie darstellen könnten“, hieß es. „Diese Risiken scheinen sich materialisiert zu haben und Bürgerinnen und Bürger in der EU ernsthaft zu schädigen.“

Die Social-Media-Plattform von Elon Musk ist in den vergangenen Wochen stark in die Kritik geraten, nachdem Grok es Nutzern ermöglicht hatte, die Kleidung von Frauen digital durch Bikinis zu ersetzen und in einigen Fällen sexualisierte Darstellungen von Minderjährigen zu erstellen.

Nach anhaltender internationaler Empörung führte X Mitte Januar einige Beschränkungen ein.

Dazu gehört, Grok daran zu hindern, „die Bearbeitung von Bildern realer Personen in freizügiger Kleidung wie Bikinis zu ermöglichen“, sowie die Bildgenerierungsfunktion des KI-Chatbots auf zahlende Abonnenten zu beschränken, erklärte X in einer Mitteilung.

Die Kommission betonte, dass die Einleitung eines Verfahrens keine Vorwegnahme seines Ergebnisses darstellt. (26. Januar)