go to the original language article
AFP, Agerpres, ANSA, BTA, dpa, EFE, FENA
Angesichts der heftigen Reaktionen der breiten Öffentlichkeit gegen den Einsatz von künstlicher Intelligenz, die die Privatsphäre und Würde der Menschen verletzt, fährt die Europäische Union schwere Geschütze auf.
Brüssel prüft die Möglichkeit, die Erstellung von Montagen mit sexuellem Inhalt als verbotene Praxis gemäß dem Gesetz über künstliche Intelligenz zu klassifizieren, nachdem es zu einem Skandal mit sexualisierten Bildern gekommen war, die von Grok, dem in die Plattform X integrierten Chatbot von Илон Маск, erzeugt wurden.
Die Reaktionen gegen Grok
Das Unternehmen von Маск, xAI – das über einen langen Zeitraum von der internationalen Gemeinschaft kritisiert wurde – führte Mitte Januar neue Beschränkungen für sexuell suggestive, von Grok mittels künstlicher Intelligenz generierte Bilder ein. Dieser Schritt folgte auf Kritik, dass Grok es Nutzern ermöglicht habe, die Kleidung von Frauen digital durch Bikinis zu ersetzen und in einigen Fällen sexualisierte Bilder von Minderjährigen zu erstellen.
Die ersten Bilder von Menschen, die ohne ihre Zustimmung nackt ausgezogen wurden („künstliches Entkleiden“), begannen in den Tagen nach der Einführung der Option zu kursieren, verbreiteten sich aber besonders stark um die Neujahrszeit. Laut CNN wurde Grok allein zwischen dem 5. und 6. Januar zur Erstellung von mindestens 6.700 sexuellen Bildern genutzt. Häufig zeigten sie Frauen oder Minderjährige.
– Grok bietet jetzt eine „pikante Option“ an, die explizite sexuelle Inhalte zeigt, und einige Ergebnisse werden mit Bildern generiert, die Kindern ähneln. Das ist nicht pikant. Das ist rechtswidrig. Das ist schrecklich, erklärte damals der EU-Sprecher für digitale Fragen Тома Рение vor Journalisten.
Die Europäische Kommission, die als digitaler Aufseher des Blocks fungiert, teilte mit, dass sie die neuen von X ergriffenen Maßnahmen prüfen werde. Offizielle Vertreter warnten, dass die EU bei unzureichenden Schritten die vollständige Anwendung ihres Gesetzes über digitale Dienste in Betracht ziehen werde.
Die Vizepräsidentin der EK, Хена Виркунен, erklärte, die EK erwäge, derartige von künstlicher Intelligenz generierte sexuelle Bilder gemäß dem Gesetz über künstliche Intelligenz ausdrücklich zu verbieten, indem sie als inakzeptable Risiken eingestuft werden.
Das Verbot schädlicher Praktiken im Bereich der künstlichen Intelligenz könnte relevant sein, um das Problem der Kinderpornografie und der nicht genehmigten sexuellen Montagen anzugehen, sagte Виркунен, die zugleich EU-Kommissarin für technologische Souveränität, Sicherheit und Demokratie ist, während der Plenarsitzung des Europäischen Parlaments in Straßburg in der vergangenen Woche. Sie sagte auch, dass das Gesetz über digitale Dienste das Risiko der Verbreitung sexueller Inhalte im Internet ohne Zustimmung verringere.
Sie erinnerte zudem daran, dass die EK ein Ersuchen an X geschickt habe, Informationen über Grok bereitzustellen, als Teil ihrer Untersuchung der Plattform gemäß dem Gesetz über digitale Dienste.
Von der Plattform wurde verlangt, alle internen Dokumente und zugehörigen Daten bis zum Jahresende aufzubewahren. – Wir prüfen jetzt, inwieweit X in irgendeinem Fall gegen das Gesetz über digitale Dienste verstoßen könnte, und wir werden nicht zögern, weitere Maßnahmen zu ergreifen, falls die Beweise darauf hindeuten, sagte sie.
Die Kommission hatte zuvor den Druck auf X erhöht, das Anfang Dezember wegen Verstößen gegen die Transparenz mit 120 Millionen Euro bestraft wurde. Die EU beharrt darauf, ihre Regeln durchzusetzen, obwohl dies in der US-Regierung für Unmut gesorgt hat.
– Das Gesetz über digitale Dienste ist in Europa sehr klar. Alle Plattformen müssen sich an die Regeln halten, denn das, was hier generiert wird, ist inakzeptabel, und die Einhaltung der EU-Gesetze ist keine Option. Sie ist eine Verpflichtung, sagte Рение, während sich der Skandal Anfang Januar zuspitzte.
In der vorvergangenen Woche appellierte eine Gruppe von rund 50 Europaabgeordneten an die EK, alle Anwendungen, die künstliche Intelligenz zur Erstellung von Nacktbildern nutzen, vom EU-Markt zu verbannen.
Ohne X lebt es sich nicht
Trotz der an X gerichteten Kritik veröffentlichen fast alle hohen EU-Funktionäre weiterhin dort, anstatt auf alternativen europäischen Plattformen, wie eine Untersuchung der dpa ergab.
Die Präsidentin der Europäischen Kommission Урсула фон дер Лајен und andere hochrangige Funktionäre haben noch immer keine offiziellen Profile auf Mastodon, einer alternativen Plattform mit Sitz in Deutschland. Виркунен eröffnete im Januar ein offizielles Profil auf Mastodon. Einige hochrangige EU-Politiker sind auch auf Bluesky aktiv, einer weiteren Plattform mit Sitz in den USA, die immer beliebter wird.
Die Kommission rechtfertigt die fortgesetzte Nutzung von X mit dessen Reichweite: Mastodon hat etwa 750.000 monatliche Nutzer, im Vergleich zu 100 Millionen bei X, so die Unternehmen.
Der lange Rechtsweg zu mehr Sicherheit im Internet
Der Weg zum Schutz von Minderjährigen in der EU ist lang, da Fragen des Datenschutzes und des Schutzes mit den Interessen der Wirtschaft kollidieren. Mehrere Regelwerke überschneiden sich:
Chatkontrolle
Die Kommission schlug 2022 eine Verordnung vor, die Plattformen verpflichten soll, Bilder und Videos von Missbrauch (Material über sexuellen Missbrauch von Kindern) sowie Versuche von Tätern, Minderjährige zu kontaktieren, zu erkennen und zu melden.
Unterstützt von mehreren Kinderschutzgruppen löste der Plan mit dem Namen „Chatkontrolle“ heftige Debatten über den Datenschutz im Block der 27 Länder aus und führte zu Vorwürfen, er führe eine Massenüberwachung ein.
Es wird erwartet, dass das endgültige Gesetz Anfang 2026 vereinbart wird, um die Kluft zwischen dem auf Datenschutz fokussierten Ansatz des Europäischen Parlaments und dem Wunsch des Rates der EU, weitreichende Befugnisse für freiwilliges Scannen einzuführen, zu überbrücken.
Obwohl die vorläufigen Maßnahmen für freiwilliges Scannen bis April 2026 verlängert wurden, um ein rechtliches Vakuum zu vermeiden, forderten die Europaabgeordneten, die Suche nach einer dauerhaften Lösung zu beschleunigen.
Gesetz über digitale Dienste
Die Europäische Union nutzt das Gesetz über digitale Dienste, um Internetplattformen zu sanktionieren, indem sie hohe Geldbußen verhängt, dringende operative Änderungen verlangt und – im äußersten Fall – ihre Dienste vorübergehend aussetzt. Sie kann Strafen verhängen, wenn Plattformen ihre Pflichten gemäß dem Gesetz über digitale Dienste nicht erfüllen, vorläufige Maßnahmen nicht einhalten oder gegen Verpflichtungen verstoßen.
Es handelt sich um eine EU-Verordnung für ein sichereres Internet, die von den Plattformen verlangt, sich mit illegalen Inhalten auseinanderzusetzen, die Nutzer zu schützen und die Transparenz zu erhöhen.
Gesetz über künstliche Intelligenz
Das Gesetz über künstliche Intelligenz wurde 2024 verabschiedet und ist der erste und einzige umfassende Rechtsrahmen der Welt im Kontext künstlicher Intelligenz. Es etabliert ein risikobasiertes System zur Regulierung von KI-Technologien innerhalb der EU, um sicherzustellen, dass sie sicher, vertrauenswürdig und grundrechtskonform, zugleich aber auch innovativ sind.
Es verbietet bestimmte inakzeptable Praktiken der künstlichen Intelligenz, wie etwa Social Scoring, und legt Regeln für Bereiche fest, in denen beim Einsatz von KI ein hohes Risiko besteht – etwa kritische Infrastrukturen oder Beschäftigung. Es setzt auch Beschränkungen für manipulative Nutzung von KI, wie etwa Montagen, die sich unter anderem an Kinder richten.
Verbote für soziale Medien
Frankreich, das ein Verbot sozialer Medien für Kinder unter 15 Jahren erwägt, testet seit dem Sommer eine von der EK entwickelte Altersüberprüfungs-App. Dieses Werkzeug ist eine von mehreren Methoden zur Altersüberprüfung von Internetnutzern, was sowohl für Technologiekonzerne als auch für Behörden ein Problem darstellt.
Individuelle Bemühungen
Die spanische Ministerin für Jugend und Kinder Сира Рего bat Anfang Januar den Generalstaatsanwalt zu prüfen, ob Grok Straftaten im Zusammenhang mit der Verbreitung von Material über sexuellen Missbrauch von Kindern begeht.
Derzeit arbeitet Spanien an einem eigenen Gesetz zum Schutz von Minderjährigen in digitalen Umgebungen. Das Gesetz stärkt den Rahmen zum Schutz der persönlichen Integrität und Privatsphäre vor neuen Formen der Verletzung im Zusammenhang mit dem Einsatz von Technologien wie künstlicher Intelligenz und bestätigt, dass die besten Interessen des Kindes stets wichtiger sein müssen als jedes digitale Geschäftsmodell.
Bulgarien hat seine Bemühungen zur Bekämpfung des sexuellen Missbrauchs von Kindern im Internet durch Zusammenarbeit bei der Durchsetzung des internationalen Rechts, nationale Präventionskampagnen und Diskussionen über Regeln, die mit der EU-Gesetzgebung in Einklang stehen, verstärkt. Im Jahr 2025 nahmen die bulgarischen Behörden an einer großen internationalen Operation teil, bei der Kidflix, eine der weltweit größten Plattformen für sexuelle Ausbeutung von Kindern, geschlossen wurde, die zwischen 2022 und 2025 von fast 2 Millionen Nutzern genutzt wurde.
In seinem Strafgesetzbuch hat Rumänien rechtliche Mechanismen zur Bekämpfung von Materialien über sexuellen Missbrauch von Kindern etabliert, und die Behörden beabsichtigen, diese Regeln zu erweitern und zu modernisieren.
Seit 2025 befindet sich ein wichtiges Gesetz zum Schutz von Kindern im Internet (genannt Gesetz über das Internet-Volljährigkeitsalter) im parlamentarischen Verfahren, und Rumänien
setzt schrittweise auch die EU-Regeln zur Verhütung und Bekämpfung von sexuellem Missbrauch im Internet um. Das Gesetz über das Internet-Volljährigkeitsalter führt eine obligatorische Altersüberprüfung und elterliche Zustimmung für Minderjährige (unter 16 Jahren) für den Zugang zu Internetdiensten wie sozialen Netzwerken sowie Spiele- und Livestreaming-Plattformen ein.
Bosnien und Herzegowina, ein EU-Beitrittskandidat, hat noch kein konkretes Gesetz, das diesen Bereich regelt. In BiH basiert die strafrechtliche Verantwortlichkeit für die Herstellung, Verbreitung und den Besitz solchen Materials auf Strafgesetzen, die sexuellen Missbrauch von Kindern abdecken, aber keine expliziten Bestimmungen für von künstlicher Intelligenz generierte oder simulierte Inhalte enthalten.
Die EU hat zusätzliche Instrumente und Maßnahmen eingeführt, um ihre Bürger – junge wie alte – vor schädlichen Praktiken im Internet zu schützen, doch die Schwachstellen sind die problematische Durchsetzung, der algorithmische Anreiz für schädliche Inhalte, die uneinheitliche Anwendung in den Staaten und die Uneinigkeit über die Balance zwischen Sicherheit und Privatsphäre.
Die Story erscheint wöchentlich. Der Inhalt basiert auf Meldungen der an ENR beteiligten Agenturen.