go to the original language article
Bruxelles (dpa) – Europska komisija pokrenula je istragu protiv američke tehnološke tvrtke X zbog njezina chatbota umjetne inteligencije Grok nakon što je stvorio seksualizirane slike žena i djece.
“Nesuglasne seksualne deepfakeove žena i djece predstavljaju nasilan, neprihvatljiv oblik ponižavanja,” izjavila je u ponedjeljak potpredsjednica Europske komisije Henna Virkkunen.
Istragom će se ispitati je li X poštovao svoje obveze prema pravu Europske unije, uključujući dužnost da “pažljivo procijeni i ublaži sustavne rizike”, navela je Komisija, koja djeluje kao digitalni nadzornik EU-a, u priopćenju.
“To uključuje rizike povezane s distribucijom nezakonitog sadržaja u EU-u, kao što su manipulirane seksualno eksplicitne slike, uključujući sadržaj koji može predstavljati materijal seksualnog zlostavljanja djece,” stoji u priopćenju. “Čini se da su se ti rizici materijalizirali, izlažući građane u EU-u ozbiljnoj šteti.”
Društvena mreža Elon Musk posljednjih je tjedana bila izložena žestokim kritikama nakon što je Grok korisnicima omogućio da digitalno zamijene odjeću žena bikinijima i, u nekim slučajevima, stvore seksualizirane prikaze maloljetnika.
Nakon dugotrajnog međunarodnog ogorčenja, X je sredinom siječnja uveo određena ograničenja.
Ona uključuju sprječavanje Groka “da dopušta uređivanje slika stvarnih ljudi u otkrivajućoj odjeći poput bikinija” te ograničavanje funkcije stvaranja slika AI chatbota na pretplatnike koji plaćaju, navodi se u priopćenju X-a.
Komisija je naglasila da pokretanje istrage ne prejudicira njezin ishod. (26. siječnja)