go to the original language article
AFP, Agerpres, ANSA, BTA, dpa, EFE, FENA
Confruntată cu reacțiile puternice ale publicului larg împotriva utilizării inteligenței artificiale care încalcă viața privată și demnitatea oamenilor, Uniunea Europeană scoate artileria grea.
Bruxelles analizează posibilitatea de a clasifica realizarea de montaje cu conținut sexual drept practică interzisă în conformitate cu Legea privind inteligența artificială, după scandalul imaginilor sexualizate create de Grok, chatbotul integrat în platforma X a lui Илон Маск.
Reacțiile împotriva Grok
Compania lui Маск, xAI – după ce a fost criticată mult timp de comunitatea internațională – a introdus la mijlocul lunii ianuarie noi restricții pentru imaginile sugestiv sexuale generate de inteligența artificială cu Grok. Această măsură a urmat criticilor potrivit cărora Grok le-a permis utilizatorilor să înlocuiască digital hainele femeilor cu bikini și, în unele cazuri, să creeze imagini sexualizate cu minori.
Primele imagini cu persoane dezbrăcate complet fără consimțământul lor („dezbrăcare artificială”) au început să circule în zilele de după lansarea opțiunii, dar s-au răspândit în special în perioada din jurul Anului Nou. Potrivit CNN, doar între 5 și 6 ianuarie, Grok a fost folosit pentru a genera cel puțin 6.700 de imagini sexuale. Adesea conțineau femei sau minori.
– Grok oferă acum o „opțiune picantă” care afișează conținut sexual explicit, iar unele rezultate sunt generate cu imagini care seamănă cu copii. Acest lucru nu este picant. Este ilegal. Este îngrozitor, a declarat atunci purtătorul de cuvânt al UE pentru afaceri digitale, Тома Рение, în fața jurnaliștilor.
Comisia Europeană, care îndeplinește funcția de supraveghetor digital al blocului, a anunțat că va analiza noile măsuri luate de X. Oficialii au avertizat că, dacă pașii se vor dovedi insuficienți, UE va lua în considerare aplicarea integrală a Legii privind serviciile digitale.
Vicepreședinta CE, Хена Виркунен, a declarat că CE ia în considerare interzicerea explicită a unor astfel de imagini sexuale generate de inteligența artificială în conformitate cu Legea privind inteligența artificială, clasificându-le drept riscuri inacceptabile.
Interdicția practicilor dăunătoare în domeniul inteligenței artificiale ar putea fi relevantă pentru rezolvarea problemei pornografiei infantile și a montajelor sexuale fără permisiune, a spus Виркунен, care este, de asemenea, comisar european pentru suveranitate tehnologică, securitate și democrație, în timpul sesiunii plenare a Parlamentului European de la Strasbourg, săptămâna trecută. Ea a mai spus că Legea privind serviciile digitale reduce riscul de răspândire a conținutului sexual pe internet fără consimțământ.
Ea a reamintit și că CE a trimis o solicitare către X pentru a furniza informații referitoare la Grok, ca parte a anchetei sale asupra platformei în conformitate cu Legea privind serviciile digitale.
Platformei i s-a cerut să păstreze toate documentele interne și datele conexe până la sfârșitul anului. – Acum examinăm măsura în care X poate, în orice caz, să încalce Legea privind serviciile digitale și nu vom ezita să luăm măsuri suplimentare dacă dovezile vor indica acest lucru, a spus ea.
Comisia a intensificat anterior presiunea asupra X, care a fost amendată cu 120 de milioane de euro la începutul lunii decembrie pentru încălcarea transparenței. UE insistă că își va aplica regulile, în pofida faptului că a provocat nemulțumire în administrația americană.
– Legea privind serviciile digitale este foarte clară în Europa. Toate platformele trebuie să respecte regulile, deoarece ceea ce generează ele aici este inacceptabil, iar respectarea legilor UE nu este o opțiune. Este o obligație, a spus Рение în timp ce scandalul se amplifica la începutul lunii ianuarie.
În urmă cu două săptămâni, un grup de aproximativ 50 de eurodeputați a făcut apel la CE să interzică pe piața UE toate aplicațiile care folosesc inteligența artificială pentru a crea imagini nud.
Nu se poate trăi fără X
În pofida criticilor la adresa X, aproape toți înalții funcționari ai UE continuă să posteze acolo în locul platformelor alternative europene, potrivit unei cercetări a dpa.
Președinta Comisiei Europene, Урсула фон дер Лајен, și alți înalți oficiali nu au încă profiluri oficiale pe Mastodon, o platformă alternativă cu sediul în Germania. Виркунен a deschis un profil oficial pe Mastodon în ianuarie. Unii politicieni de rang înalt ai UE sunt activi și pe Bluesky, o altă platformă cu sediul în SUA, care devine tot mai populară.
Comisia justifică utilizarea continuă a X prin acoperirea sa: Mastodon are aproximativ 750.000 de utilizatori lunari, comparativ cu 100 de milioane pe X, potrivit companiilor.
Drumul lung juridic către o mai bună siguranță pe internet
Drumul către protecția minorilor în UE este lung, deoarece problemele de confidențialitate și protecție se ciocnesc cu interesele mediului de afaceri. Mai multe reglementări se suprapun:
Controlul conversațiilor
În 2022, Comisia a propus o reglementare prin care se va cere platformelor să detecteze și să raporteze imaginile și videoclipurile de abuz (material cu abuz sexual asupra copiilor), precum și încercările prădătorilor de a contacta minori.
Susținut de mai multe grupuri pentru protecția copiilor, planul numit „Controlul conversațiilor” a provocat dezbateri aprinse privind confidențialitatea în blocul celor 27 de țări și a dus la acuzații că introduce supraveghere în masă.
Se așteaptă ca legea finală să fie convenită la începutul anului 2026, pentru a se depăși diferența dintre abordarea Parlamentului European, axată pe confidențialitate, și dorința Consiliului UE de a introduce pe scară largă competențe pentru scanare voluntară.
Deși au prelungit măsurile provizorii pentru scanarea voluntară până în aprilie 2026 pentru a evita un vid juridic, eurodeputații au cerut accelerarea găsirii unei soluții permanente.
Legea privind serviciile digitale
Uniunea Europeană folosește Legea privind serviciile digitale pentru a sancționa platformele online prin impunerea de amenzi uriașe, solicitarea de schimbări operaționale urgente și – în ultimă instanță – suspendarea temporară a serviciilor lor. Poate impune amenzi dacă platformele nu își îndeplinesc obligațiile în conformitate cu Legea privind serviciile digitale, nu respectă măsurile provizorii sau încalcă obligațiile.
Este o reglementare a UE pentru un internet mai sigur, care cere platformelor să se ocupe de conținutul ilegal, să protejeze utilizatorii și să sporească transparența.
Legea privind inteligența artificială
Legea privind inteligența artificială a fost adoptată în 2024 și este primul și singurul cadru juridic cuprinzător din lume în contextul inteligenței artificiale. Ea stabilește un sistem bazat pe risc pentru reglementarea tehnologiilor de inteligență artificială în cadrul UE, pentru a se asigura că acestea sunt sigure, de încredere și respectă drepturile fundamentale, fiind în același timp inovatoare.
Interzice anumite practici inacceptabile de inteligență artificială, cum ar fi scorul social, și stabilește reguli pentru domeniile în care există un risc ridicat dacă se utilizează inteligența artificială – cum ar fi infrastructura critică sau ocuparea forței de muncă. De asemenea, stabilește limitări pentru utilizarea manipulatoare a inteligenței artificiale, cum ar fi montajele îndreptate către copii, printre altele.
Interdicții pentru rețelele sociale
Franța, care ia în considerare interzicerea rețelelor sociale pentru copiii sub 15 ani, testează din vară o aplicație de verificare a vârstei realizată de CE. Acest instrument este una dintre numeroasele metode de verificare a vârstei utilizatorilor de internet, ceea ce reprezintă o problemă atât pentru giganții tehnologici, cât și pentru autorități.
Eforturi individuale
Ministra spaniolă pentru tineret și copii, Сира Рего, a cerut la începutul lunii ianuarie procurorului general să investigheze dacă Grok comite infracțiuni legate de răspândirea de materiale privind abuzul sexual asupra copiilor.
În prezent, Spania lucrează la propria lege pentru protecția minorilor în mediile digitale. Legea consolidează cadrul de protecție a integrității personale și a vieții private împotriva noilor forme de încălcare legate de utilizarea tehnologiilor precum inteligența artificială, confirmând că interesul superior al copilului trebuie să fie întotdeauna mai important decât orice model de afaceri digital.
Bulgaria și-a intensificat eforturile de combatere a abuzului sexual online asupra copiilor prin cooperare pentru aplicarea legii internaționale, campanii naționale de prevenire și discuții privind regulile aliniate la legislația UE. În 2025, autoritățile bulgare au participat la o amplă operațiune internațională prin care a fost închisă Kidflix, una dintre cele mai mari platforme din lume pentru exploatarea sexuală a copiilor, folosită de aproape 2 milioane de utilizatori între 2022 și 2025.
În codul său penal, România a instituit mecanisme legale pentru combaterea materialelor cu abuz sexual asupra copiilor, iar autoritățile intenționează să extindă și să modernizeze aceste reguli.
Din 2025, o lege importantă pentru protecția copiilor pe internet (numită Legea privind vârsta majoratului pe internet) se află în procedură parlamentară, iar România
implementează treptat și regulile UE pentru prevenirea și combaterea abuzului sexual online. Legea privind vârsta majoratului pe internet introduce verificarea obligatorie a vârstei și consimțământul parental pentru minori (sub 16 ani) pentru accesul la servicii online precum rețelele sociale și platformele de jocuri și streaming live.
Bosnia și Herțegovina, țară candidată la aderarea la UE, nu are încă o lege concretă care să reglementeze acest domeniu. În BiH, răspunderea penală pentru producerea, distribuirea și deținerea unui astfel de material se bazează pe codurile penale care acoperă abuzul sexual asupra copiilor, dar nu conțin prevederi explicite pentru conținutul generat sau simulat de inteligența artificială.
UE a introdus instrumente și măsuri suplimentare pentru a-și proteja cetățenii – atât tineri, cât și vârstnici – de practicile dăunătoare de pe internet, dar punctele slabe sunt aplicarea problematică, stimularea algoritmică a conținutului dăunător, aplicarea inconsistentă între state și dezacordurile privind echilibrarea siguranței cu confidențialitatea.
Povestea este publicată săptămânal. Conținutul se bazează pe știri ale agențiilor care participă la ENR.