go to the original language article
Brusel (dpa) – Európska komisia začala vyšetrovanie americkej technologickej spoločnosti X pre jej chatbot s umelou inteligenciou Grok po tom, čo vytvoril sexualizované obrázky žien a detí.
„Nesúhlasné sexuálne deepfaky žien a detí sú násilnou, neprijateľnou formou ponižovania,“ uviedla v pondelok podpredsedníčka Európskej komisie Henna Virkkunen.
Vyšetrovanie má preveriť, či spoločnosť X dodržala svoje povinnosti podľa práva Európskej únie, vrátane povinnosti „starostlivo posudzovať a zmierňovať systémové riziká“, uviedla Komisia, ktorá pôsobí ako digitálny dohľad EÚ, vo vyhlásení.
„To zahŕňa riziká súvisiace so šírením nezákonného obsahu v EÚ, ako sú manipulované sexuálne explicitné obrázky, vrátane obsahu, ktorý môže predstavovať materiál sexuálneho zneužívania detí,“ uviedla. „Zdá sa, že tieto riziká sa zhmotnili a vystavili občanov v EÚ vážnej ujme.“
Na sociálnu sieť Elon Musk’s v posledných týždňoch tvrdo dopadla kritika po tom, čo Grok umožnil používateľom digitálne nahrádzať oblečenie žien bikinami a v niektorých prípadoch vytvárať sexualizované zobrazenia maloletých.
Po zdĺhavom medzinárodnom pobúrení zaviedla spoločnosť X v polovici januára niektoré obmedzenia.
Patrí medzi ne zabránenie tomu, aby Grok „umožňoval upravovať obrázky skutočných ľudí v odhaľujúcom oblečení, ako sú bikiny“, a obmedzenie funkcie tvorby obrázkov chatbota s umelou inteligenciou na platiacich predplatiteľov, uviedla spoločnosť X vo vyhlásení.
Komisia zdôraznila, že začatie vyšetrovania nepredurčuje jeho výsledok. (26. januára)