go to the original language article
Bruxelles (dpa) – La Commissione europea ha avviato un’indagine sulla società tecnologica statunitense X in merito al suo chatbot di intelligenza artificiale Grok, dopo che questo ha creato immagini sessualizzate di donne e bambini.
“I deepfake sessuali non consensuali di donne e bambini sono una forma violenta e inaccettabile di degradazione”, ha dichiarato lunedì la vicepresidente della Commissione UE Henna Virkkunen.
L’indagine dovrà verificare se X abbia rispettato i propri obblighi ai sensi della legislazione dell’Unione europea, compreso il dovere di “valutare e mitigare diligentemente i rischi sistemici”, ha scritto la Commissione, che agisce come autorità di vigilanza digitale dell’UE, in una dichiarazione.
“Ciò include i rischi legati alla diffusione di contenuti illegali nell’UE, come immagini sessualmente esplicite manipolate, compresi contenuti che possono costituire materiale di abuso sessuale su minori”, si legge. “Questi rischi sembrano essersi concretizzati, esponendo i cittadini dell’UE a gravi danni.”
La piattaforma di social media di Elon Musk è stata oggetto di pesanti critiche nelle ultime settimane dopo che Grok ha consentito agli utenti di sostituire digitalmente i vestiti delle donne con bikini e, in alcuni casi, di creare rappresentazioni sessualizzate di minori.
Dopo un prolungato sdegno internazionale, X ha introdotto alcune restrizioni a metà gennaio.
Queste includono l’impedire a Grok “di consentire la modifica di immagini di persone reali in abiti succinti come i bikini” e la limitazione della funzione di creazione di immagini del chatbot di IA agli abbonati a pagamento, ha dichiarato X in un comunicato.
La Commissione ha sottolineato che l’apertura di un’indagine non pregiudica il suo esito. (26 gennaio)