go to the original language article
Bruksela (dpa) – Komisja Europejska wszczęła dochodzenie wobec amerykańskiej firmy technologicznej X w związku z jej chatbotem sztucznej inteligencji Grok, po tym jak tworzył on seksualizowane wizerunki kobiet i dzieci.
„Nieuprawnione seksualne deepfake’i kobiet i dzieci są brutalną, niedopuszczalną formą degradacji” – powiedziała w poniedziałek wiceprzewodnicząca Komisji Europejskiej Henna Virkkunen.
Śledztwo ma zbadać, czy X wywiązał się ze swoich zobowiązań wynikających z prawa Unii Europejskiej, w tym obowiązku „starannej oceny i ograniczania systemowych zagrożeń”, napisała Komisja, która pełni funkcję cyfrowego organu nadzorczego UE, w oświadczeniu.
„Obejmuje to ryzyka związane z rozpowszechnianiem nielegalnych treści w UE, takich jak zmanipulowane, jednoznacznie seksualne obrazy, w tym treści, które mogą stanowić materiał dotyczący seksualnego wykorzystywania dzieci” – stwierdzono. „Ryzyka te wydają się już zmaterializować, narażając obywateli UE na poważne szkody.”
Platforma mediów społecznościowych Elon Muska znalazła się w ostatnich tygodniach pod ostrą krytyką po tym, jak Grok umożliwił użytkownikom cyfrowe zastępowanie ubrań kobiet bikini, a w niektórych przypadkach tworzenie seksualizowanych wizerunków nieletnich.
Po przedłużającym się międzynarodowym oburzeniu X wprowadził w połowie stycznia pewne ograniczenia.
Obejmują one uniemożliwienie Grokowi „pozwalania na edycję wizerunków prawdziwych osób w skąpej odzieży, takiej jak bikini” oraz ograniczenie funkcji tworzenia obrazów przez chatbota AI do płatnych subskrybentów, podał X w oświadczeniu.
Komisja podkreśliła, że wszczęcie dochodzenia nie przesądza o jego wyniku. (26 stycznia)