go to the original language article
Bryssel (dpa) – Europeiska kommissionen har inlett en utredning av det amerikanska teknikföretaget X angående dess artificiella intelligens‑chattbot Grok, efter att den skapat sexualiserade bilder av kvinnor och barn.
”Icke-samtyckande sexuella deepfakes av kvinnor och barn är en våldsam, oacceptabel form av förnedring”, sade EU‑kommissionens vice ordförande Henna Virkkunen på måndagen.
Utredningen ska undersöka om X har uppfyllt sina skyldigheter enligt EU‑lagstiftningen, inklusive skyldigheten att ”noggrant bedöma och begränsa systemiska risker”, skrev kommissionen, som fungerar som EU:s digitala tillsynsmyndighet, i ett uttalande.
”Detta inkluderar risker kopplade till spridning av olagligt innehåll i EU, såsom manipulerade sexuellt explicita bilder, inklusive innehåll som kan utgöra material med sexuella övergrepp mot barn”, hette det. ”Dessa risker verkar ha materialiserats och utsatt medborgare i EU för allvarlig skada.”
Elon Musks sociala medieplattform har utsatts för hård kritik de senaste veckorna efter att Grok tillät användare att digitalt ersätta kvinnors kläder med bikinis och i vissa fall skapa sexualiserade framställningar av minderåriga.
Efter utdragen internationell upprördhet införde X vissa begränsningar i mitten av januari.
Dessa inkluderar att förhindra Grok ”från att tillåta redigering av bilder av verkliga personer i avslöjande kläder såsom bikinis” och att begränsa AI‑chattbottens bildskapandefunktion till betalande prenumeranter, sade X i ett uttalande.
Kommissionen betonade att inledandet av en utredning inte förutsäger dess utgång. (26 januari)