go to the original language article
AFP, Agerpres, ANSA, BTA, dpa, EFE, FENA
Geconfronteerd met de felle reacties van het brede publiek tegen het gebruik van kunstmatige intelligentie die de privacy en waardigheid van mensen schendt, haalt de Europese Unie het zware geschut boven.
Brussel onderzoekt de mogelijkheid om het maken van montages met seksuele inhoud te classificeren als een verboden praktijk volgens de Wet op kunstmatige intelligentie, nadat het schandaal uitbrak rond geseksualiseerde beelden die waren gecreëerd door Grok, de chatbot die is geïntegreerd in het X-platform van Илон Маск.
Reacties tegen Grok
Het bedrijf van Маск, xAI – dat lange tijd werd bekritiseerd door de internationale gemeenschap – voerde medio januari nieuwe beperkingen in voor seksueel suggestieve beelden die met Grok door kunstmatige intelligentie worden gegenereerd. Deze stap volgde op kritiek dat Grok gebruikers had toegestaan om digitaal de kleding van vrouwen te vervangen door bikini’s en, in sommige gevallen, geseksualiseerde beelden van minderjarigen te creëren.
De eerste beelden van mensen die naakt waren uitgekleed zonder hun toestemming (“kunstmatige ontkleding”) begonnen te circuleren in de dagen nadat de optie was gelanceerd, maar verspreidden zich vooral in de periode rond Nieuwjaar. Volgens CNN werd Grok alleen al tussen 5 en 6 januari gebruikt om minstens 6.700 seksuele beelden te genereren. Ze bevatten vaak vrouwen of minderjarigen.
– Grok biedt nu een ‘pikante optie’ die expliciete seksuele inhoud toont, en sommige resultaten worden gegenereerd met beelden die op kinderen lijken. Dit is niet pikant. Dit is onwettig. Dit is afschuwelijk, verklaarde toen de EU-woordvoerder voor digitale zaken Тома Рение tegenover journalisten.
De Europese Commissie, die optreedt als digitale toezichthouder van het blok, liet weten dat zij de nieuwe maatregelen van X zal beoordelen. Functionarissen waarschuwden dat als de stappen onvoldoende blijken te zijn, de EU zal overwegen haar Wet op digitale diensten volledig toe te passen.
De vicevoorzitter van de EC, Хена Виркунен, verklaarde dat de EC overweegt om dergelijke door kunstmatige intelligentie gegenereerde seksuele beelden expliciet te verbieden volgens de Wet op kunstmatige intelligentie, door ze te classificeren als onaanvaardbare risico’s.
Het verbod op schadelijke praktijken op het gebied van kunstmatige intelligentie zou relevant kunnen zijn voor het aanpakken van het probleem van kinderpornografie en seksuele montages zonder toestemming, zei Виркунен, die ook EU-commissaris is voor technologische soevereiniteit, veiligheid en democratie, tijdens de plenaire zitting van het Europees Parlement in Straatsburg vorige week. Ze zei ook dat de Wet op digitale diensten het risico vermindert op de verspreiding van seksuele inhoud op internet zonder toestemming.
Ze herinnerde er ook aan dat de EC een verzoek naar X had gestuurd om informatie te verstrekken over Grok, als onderdeel van haar onderzoek naar het platform volgens de Wet op digitale diensten.
Van het platform werd verlangd dat het alle interne documenten en gerelateerde gegevens tot het einde van het jaar bewaart. – We onderzoeken nu in welke mate X in enig geval de Wet op digitale diensten kan schenden en we zullen niet aarzelen verdere maatregelen te nemen als het bewijs daarop wijst, zei zij.
De Commissie heeft eerder de druk op X opgevoerd, dat begin december met 120 miljoen euro werd beboet wegens schending van de transparantie. De EU houdt vol dat zij haar regels zal handhaven, ondanks het feit dat dit tot ongenoegen leidde bij de Amerikaanse regering.
– De Wet op digitale diensten is in Europa heel duidelijk. Alle platforms moeten zich aan de regels houden, want wat hier wordt gegenereerd is onaanvaardbaar, en naleving van de EU-wetten is geen optie. Het is een verplichting, zei Рение terwijl het schandaal begin januari oplaaide.
Vorige week deed een groep van ongeveer 50 Europarlementsleden een beroep op de EC om alle apps die kunstmatige intelligentie gebruiken om naaktbeelden te creëren, van de EU-markt te verbannen.
Zonder X valt niet te leven
Ondanks de kritiek op X blijven bijna alle hoge EU-functionarissen daar berichten plaatsen in plaats van op alternatieve Europese platforms, volgens onderzoek van dpa.
De voorzitter van de Europese Commissie Урсула фон дер Лајен en andere hoge functionarissen hebben nog steeds geen officiële profielen op Mastodon, een alternatief platform met hoofdkantoor in Duitsland. Виркунен opende in januari een officieel profiel op Mastodon. Sommige hoge EU-politici zijn ook actief op Bluesky, een ander platform met hoofdkantoor in de VS dat steeds populairder wordt.
De Commissie rechtvaardigt het aanhoudende gebruik van X met zijn bereik: Mastodon heeft ongeveer 750.000 maandelijkse gebruikers, vergeleken met 100 miljoen op X, volgens de bedrijven.
De lange juridische weg naar betere online veiligheid
De weg naar de bescherming van minderjarigen in de EU is lang, omdat privacy- en beschermingskwesties botsen met de belangen van het bedrijfsleven. Verschillende regelgevingen overlappen elkaar:
Chatcontrole
De Commissie stelde in 2022 een verordening voor die platforms zou verplichten om beelden en video’s van misbruik (materiaal met seksuele uitbuiting van kinderen) op te sporen en te melden, evenals pogingen van predatoren om contact te leggen met minderjarigen.
Gesteund door verschillende kinderbeschermingsgroepen veroorzaakte het plan, dat “Chatcontrole” werd genoemd, felle debatten over privacy in het blok van 27 landen en leidde tot beschuldigingen dat het massale surveillance invoerde.
Verwacht wordt dat de definitieve wet begin 2026 zal worden overeengekomen, met als doel de kloof te overbruggen tussen de op privacy gerichte aanpak van het Europees Parlement en de wens van de Raad van de EU om ruim bevoegdheden voor vrijwillige scanning in te voeren.
Hoewel de tijdelijke maatregelen voor vrijwillige scanning zijn verlengd tot april 2026 om een juridisch vacuüm te voorkomen, hebben Europarlementsleden gevraagd om het vinden van een permanente oplossing te versnellen.
Wet op digitale diensten
De Europese Unie gebruikt de Wet op digitale diensten om internetplatforms te sanctioneren door enorme boetes op te leggen, dringende operationele veranderingen te eisen en – in het uiterste geval – hun diensten tijdelijk te schorsen. Ze kan boetes opleggen als platforms hun verplichtingen volgens de Wet op digitale diensten niet nakomen, de tijdelijke maatregelen niet respecteren of de verplichtingen schenden.
Het is een EU-verordening voor een veiliger internet, die van platforms verlangt dat zij illegale inhoud aanpakken, gebruikers beschermen en de transparantie vergroten.
Wet op kunstmatige intelligentie
De Wet op kunstmatige intelligentie werd in 2024 aangenomen en is het eerste en enige alomvattende juridische kader ter wereld in de context van kunstmatige intelligentie. Zij stelt een op risico gebaseerd systeem vast voor de regulering van technologieën voor kunstmatige intelligentie binnen de EU, om te waarborgen dat zij veilig, betrouwbaar en respectvol voor de grondrechten zijn, en tegelijk innovatief.
Ze verbiedt bepaalde onaanvaardbare praktijken van kunstmatige intelligentie, zoals sociale scoring, en stelt regels vast voor gebieden waar er een hoog risico bestaat bij het gebruik van kunstmatige intelligentie – zoals kritieke infrastructuur of werkgelegenheid. Ze stelt ook beperkingen aan het manipulatieve gebruik van kunstmatige intelligentie, zoals montages die op kinderen zijn gericht, onder andere.
Verboden op sociale media
Frankrijk, dat overweegt sociale media te verbieden voor kinderen onder de 15 jaar, test sinds de zomer een door de EC ontwikkelde app voor leeftijdsverificatie. Dit hulpmiddel is een van de verschillende methoden voor leeftijdsverificatie van internetgebruikers, wat zowel voor technologiegiganten als voor de autoriteiten een probleem is.
Individuele inspanningen
De Spaanse minister voor Jeugd en Kinderen Сира Рего vroeg begin januari de procureur-generaal om te onderzoeken of Grok strafbare feiten pleegt in verband met de verspreiding van materiaal over seksuele uitbuiting van kinderen.
Op dit moment werkt Spanje aan een eigen wet voor de bescherming van minderjarigen in digitale omgevingen. De wet versterkt het kader voor de bescherming van de persoonlijke integriteit en privacy tegen nieuwe vormen van schending die verband houden met het gebruik van technologieën zoals kunstmatige intelligentie, en bevestigt dat de belangen van het kind altijd zwaarder moeten wegen dan welk digitaal bedrijfsmodel dan ook.
Bulgarije heeft de inspanningen om online seksuele uitbuiting van kinderen te bestrijden opgevoerd via samenwerking bij de handhaving van het internationale recht, nationale preventiecampagnes en discussies over regels die in overeenstemming zijn met de EU-wetgeving. In 2025 namen de Bulgaarse autoriteiten deel aan een grote internationale operatie waarbij Kidflix werd gesloten, een van de grootste platforms ter wereld voor seksuele uitbuiting van kinderen, dat tussen 2022 en 2025 door bijna 2 miljoen gebruikers werd gebruikt.
In zijn strafwetboek heeft Roemenië wettelijke mechanismen ingevoerd om materiaal met seksuele uitbuiting van kinderen te bestrijden, en de autoriteiten zijn van plan deze regels uit te breiden en te moderniseren.
Sinds 2025 is een belangrijke wet voor de bescherming van kinderen op internet (de Wet op de internetleeftijd van meerderjarigheid genoemd) in parlementaire behandeling, en Roemenië
voert geleidelijk ook de EU-regels in voor het voorkomen en bestrijden van online seksuele uitbuiting. De Wet op de internetleeftijd van meerderjarigheid voert verplichte leeftijdsverificatie en ouderlijke toestemming in voor minderjarigen (onder de 16 jaar) voor toegang tot internetdiensten zoals sociale netwerken en platforms voor gaming en livestreaming.
Bosnië en Herzegovina, een kandidaat-lidstaat van de EU, heeft nog steeds geen specifieke wet die dit gebied regelt. In BiH is de strafrechtelijke aansprakelijkheid voor de productie, distributie en het bezit van dergelijk materiaal gebaseerd op strafwetten die seksuele uitbuiting van kinderen omvatten, maar geen expliciete bepalingen bevatten voor door kunstmatige intelligentie gegenereerde of gesimuleerde inhoud.
De EU heeft aanvullende instrumenten en maatregelen ingevoerd om haar burgers – jong en oud – te beschermen tegen schadelijke praktijken op internet, maar de zwakke punten zijn de problematische handhaving, de algoritmische stimulans van schadelijke inhoud, de inconsistente toepassing tussen de landen en de meningsverschillen over het in balans brengen van veiligheid en privacy.
Het verhaal wordt wekelijks gepubliceerd. De inhoud is gebaseerd op nieuws van de agentschappen die deelnemen aan ENR.