go to the original language article
Brüsszel (dpa) – Az Európai Bizottság vizsgálatot indított az amerikai X technológiai vállalat mesterségesintelligencia-alapú chatbotja, a Grok ellen, miután az nőkről és gyermekekről készített szexualizált képeket.
„A nők és gyermekek beleegyezése nélküli szexuális deepfake-jei az erőszak egy elfogadhatatlan, megalázó formáját jelentik” – mondta hétfőn az EU-bizottság alelnöke, Henna Virkkunen.
A vizsgálat annak feltárására irányul, hogy az X eleget tett-e az Európai Unió joga szerinti kötelezettségeinek, beleértve a „rendszerszintű kockázatok gondos felmérésének és mérséklésének” kötelezettségét – írta közleményében a Bizottság, amely az EU digitális felügyeleti szerveként jár el.
„Ez magában foglalja az EU-ban terjesztett illegális tartalmakkal kapcsolatos kockázatokat, például a manipulált, szexuálisan explicit képeket, beleértve azokat a tartalmakat is, amelyek gyermekek szexuális bántalmazására utaló anyagnak minősülhetnek” – áll a közleményben. „Úgy tűnik, ezek a kockázatok valóra váltak, és az EU polgárait súlyos károknak tették ki.”
Elon Musk közösségimédia-platformja az elmúlt hetekben heves bírálatok kereszttüzébe került, miután a Grok lehetővé tette a felhasználók számára, hogy digitálisan bikinire cseréljék a nők ruházatát, és egyes esetekben kiskorúakról szóló szexualizált ábrázolásokat hozzanak létre.
Az elhúzódó nemzetközi felháborodást követően az X január közepén bizonyos korlátozásokat vezetett be.
Ezek közé tartozik, hogy megakadályozzák, hogy a Grok „valódi emberek képeit szerkessze kihívó öltözetben, például bikiniben”, valamint hogy az AI chatbot képgeneráló funkcióját fizetős előfizetőkre korlátozzák – közölte az X egy nyilatkozatban.
A Bizottság hangsúlyozta, hogy a vizsgálat megindítása nem előlegezi meg annak kimenetelét. (január 26.)