go to the original language article
Brussel (dpa) – De Europese Commissie is een onderzoek gestart naar het Amerikaanse technologiebedrijf X vanwege zijn kunstmatige-intelligentiechatbot Grok, nadat deze geseksualiseerde afbeeldingen van vrouwen en kinderen had gemaakt.
“Niet-consensuele seksuele deepfakes van vrouwen en kinderen zijn een gewelddadige, onaanvaardbare vorm van vernedering,” zei EU-Commissievicevoorzitter Henna Virkkunen maandag.
Het onderzoek moet nagaan of X heeft voldaan aan zijn verplichtingen onder het recht van de Europese Unie, waaronder de plicht om “systemische risico’s zorgvuldig te beoordelen en te beperken,” schreef de Commissie, die optreedt als de digitale waakhond van de EU, in een verklaring.
“Dit omvat risico’s in verband met de verspreiding van illegale inhoud in de EU, zoals gemanipuleerde seksueel expliciete beelden, waaronder inhoud die kan neerkomen op materiaal met seksueel misbruik van kinderen,” aldus de verklaring. “Deze risico’s lijken zich te hebben gemanifesteerd, waardoor burgers in de EU aan ernstige schade zijn blootgesteld.”
Het sociale-mediaplatform van Elon Musk ligt de afgelopen weken zwaar onder vuur nadat Grok gebruikers in staat stelde om de kleding van vrouwen digitaal te vervangen door bikini’s en in sommige gevallen geseksualiseerde afbeeldingen van minderjarigen te maken.
Na aanhoudende internationale verontwaardiging voerde X medio januari enkele beperkingen in.
Deze omvatten het verhinderen dat Grok “het bewerken van afbeeldingen van echte mensen in onthullende kleding zoals bikini’s toestaat” en het beperken van de functie voor het maken van afbeeldingen van de AI-chatbot tot betalende abonnees, aldus X in een verklaring.
De Commissie benadrukte dat het openen van een onderzoek geen vooringenomenheid ten aanzien van de uitkomst inhoudt. (26 januari)