Обрачун са вештачки генерисаном голотињом: Борба ЕУ за већу безбедност на интернету

AFP, Agerpres, ANSA, BTA, dpa, EFE, FENA

Сuočena sa burnim reakcijama šire javnosti protiv upotrebe veštačke inteligencije koja narušava privatnost i dostojanstvo ljudi, Evropska unija izvlači teško naoružanje.

Brisel razmatra mogućnost da klasifikuje pravljenje montaža sa seksualnim sadržajem kao zabranjenu praksu u skladu sa Zakonom o veštačkoj inteligenciji, nakon skandala sa seksualizovanim slikama koje je kreirao Grok, četbot integrisan u platformu Iks kompanije Илон Маск.

Reakcije protiv Groka

Kompanija Ilona Maska, Iks-ej-aj – pošto je duži period bila kritikovana od strane međunarodne zajednice – sredinom januara uvela je nova ograničenja za seksualno sugestivne slike generisane veštačkom inteligencijom pomoću Groka. Ovaj potez usledio je nakon kritika da je Grok korisnicima omogućio da digitalno zamene odeću žena bikinijem i, u nekim slučajevima, da stvaraju seksualizovane slike maloletnika.

Prve slike ljudi svučenih nagih bez njihove saglasnosti („veštačko razgolićavanje“) počele su da kruže u danima nakon što je opcija pokrenuta, ali su se naročito proširile u periodu oko Nove godine. Prema Si-en-en-u, samo između 5. i 6. januara Grok je iskorišćen za generisanje najmanje 6.700 seksualnih slika. Često su prikazivale žene ili maloletnike.

– Grok sada nudi „pikantnu opciju“ koja prikazuje eksplicitni seksualni sadržaj, a neki rezultati su generisani slikama koje liče na decu. Ovo nije pikantno. Ovo je protivzakonito. Ovo je užasno, izjavio je tada portparol EU za digitalna pitanja Тома Рение novinarima.

Evropska komisija, koja obavlja funkciju digitalnog nadzornika bloka, saopštila je da će razmotriti nove mere koje je preduzeo Iks. Zvaničnici su upozorili da će, ako se pokaže da su koraci nedovoljni, EU razmotriti punu primenu svog Zakona o digitalnim uslugama.

Potpredsednica EK, Хена Виркунен, izjavila je da EK razmišlja da eksplicitno zabrani ovakve seksualne slike generisane veštačkom inteligencijom u skladu sa Zakonom o veštačkoj inteligenciji, klasifikujući ih kao neprihvatljive rizike.

Zabrana štetnih praksi u oblasti veštačke inteligencije mogla bi da bude relevantna za rešavanje problema dečje pornografije i seksualnih montaža bez dozvole, rekla je Virkunen, koja je takođe i evropska komesarka za tehnološki suverenitet, bezbednost i demokratiju, tokom plenarne sednice Evropskog parlamenta u Strazburu prošle nedelje. Rekla je i da Zakon o digitalnim uslugama smanjuje rizik od širenja seksualnih sadržaja na internetu bez saglasnosti.

Podsetila je i da je EK poslala zahtev Iksu da obezbedi informacije u vezi sa Grokom, kao deo svoje istrage platforme u skladu sa Zakonom o digitalnim uslugama.

Od platforme je zatraženo da sačuva sva interna dokumenta i povezane podatke do kraja godine. – Sada ispitujemo u kojoj meri Iks može u bilo kom slučaju da prekrši Zakon o digitalnim uslugama i nećemo se dvoumiti da preduzmemo dalje mere ukoliko dokazi na to ukažu, rekla je ona.

Komisija je ranije pojačala pritisak na Iks, koji je početkom decembra kažnjen sa 120 miliona evra zbog kršenja transparentnosti. EU insistira da će sprovoditi svoja pravila uprkos tome što je izazvala negodovanje u američkoj administraciji.

– Zakon o digitalnim uslugama je veoma jasan u Evropi. Sve platforme moraju da se pridržavaju pravila, jer je ono što se ovde generiše neprihvatljivo, a usklađenost sa zakonima EU nije opcija. To je obaveza, rekao je Rienie dok se skandal rasplamsavao početkom januara.

Pretprošle nedelje, grupa od oko 50 evroposlanika apelovala je na EK da zabrani na tržištu EU sve aplikacije koje koriste veštačku inteligenciju za kreiranje razgolićenih slika.

Ne živi se bez Iksa

Uprkos kritikama upućenim Iksu, gotovo svi visoki funkcioneri EU nastavljaju da objavljuju tamo umesto na alternativnim evropskim platformama, prema istraživanju dpa.

Predsednica Evropske komisije Урсула фон дер Лајен i drugi visoki funkcioneri još uvek nemaju zvanične profile na Mastodonu, alternativnoj platformi sa sedištem u Nemačkoj. Virkunen je u januaru otvorila zvanični profil na Mastodonu. Neki visoki političari EU aktivni su i na Bluskaju, još jednoj platformi sa sedištem u SAD koja postaje sve popularnija.

Komisija opravdava nastavak korišćenja Iksa njegovim dometom: Mastodon ima oko 750.000 mesečnih korisnika, u poređenju sa 100 miliona na Iksu, prema podacima kompanija.

Dugi pravni put ka boljoj bezbednosti na internetu

Put ka zaštiti maloletnika u EU je dug, jer su u sukobu problemi privatnosti i zaštite sa interesima biznisa. Nekoliko regulativa se preklapa:

Kontrola četa

Komisija je 2022. godine predložila regulativu kojom će se od platformi zahtevati da otkrivaju i prijavljuju slike i video-snimke zlostavljanja (materijal sa seksualnim zlostavljanjem dece), kao i pokušaje predatora da kontaktiraju maloletnike.

Podržan od nekoliko grupa za zaštitu dece, plan nazvan „Kontrola četa“ izazvao je žestoke rasprave o privatnosti u bloku od 27 zemalja i doveo do optužbi da uvodi masovni nadzor.

Očekuje se da konačni zakon bude dogovoren početkom 2026. godine, kako bi se premostio jaz između pristupa Evropskog parlamenta fokusiranog na privatnost i želje Saveta EU da se široko uvedu ovlašćenja za dobrovoljno skeniranje.

Iako su produžili privremene mere za dobrovoljno skeniranje do aprila 2026. godine kako bi se izbegao pravni vakuum, evroposlanici su zatražili da se ubrza pronalaženje trajnog rešenja.

Zakon o digitalnim uslugama

Evropska unija koristi Zakon o digitalnim uslugama da sankcioniše internet platforme nametanjem ogromnih kazni, zahtevom za hitne operativne promene i – u krajnjem slučaju – privremenim suspendovanjem njihovih usluga. Može da izrekne kazne ako platforme ne ispunjavaju obaveze u skladu sa Zakonom o digitalnim uslugama, ne poštuju privremene mere ili prekrše obaveze.

To je regulativa EU za bezbedniji internet, koja zahteva od platformi da se suoče sa nezakonitim sadržajem, da zaštite korisnike i povećaju transparentnost.

Zakon o veštačkoj inteligenciji

Zakon o veštačkoj inteligenciji usvojen je 2024. godine i prva je i jedina sveobuhvatna pravna okvirna regulativa na svetu u kontekstu veštačke inteligencije. On uspostavlja sistem zasnovan na riziku za regulisanje tehnologija veštačke inteligencije u okviru EU, kako bi se utvrdilo da su bezbedne, pouzdane i da poštuju osnovna prava, a istovremeno i inovativne.

Zabranjuje određene neprihvatljive prakse veštačke inteligencije, kao što je socijalno bodovanje, i postavlja pravila za oblasti u kojima postoji visok rizik ako se upotrebi veštačka inteligencija – kao što su kritična infrastruktura ili zapošljavanje. Postavlja i ograničenja za manipulativnu upotrebu veštačke inteligencije, kao što su montaže usmerene na decu, između ostalog.

Zabrane za društvene mreže

Francuska, koja razmatra zabranu društvenih mreža za decu mlađu od 15 godina, od leta testira aplikaciju za proveru starosti koju je izradila EK. Ovaj alat je jedan od nekoliko metoda za proveru starosti korisnika interneta, što je problem i za tehnološke gigante i za vlasti.

Individualni napori

Španska ministarka za mlade i decu Сира Рего početkom januara zatražila je od državnog tužioca da istraži da li Grok vrši krivična dela povezana sa širenjem materijala za seksualno zlostavljanje dece.

Trenutno Španija radi na sopstvenom zakonu za zaštitu maloletnika u digitalnim okruženjima. Zakon jača okvir za zaštitu ličnog integriteta i privatnosti od novih oblika povrede povezanih sa upotrebom tehnologija kao što je veštačka inteligencija, potvrđujući da najbolji interes deteta uvek mora biti važniji od bilo kog digitalnog poslovnog modela.

Bugarska je pojačala napore u borbi protiv internet seksualnog zlostavljanja dece kroz saradnju na sprovođenju međunarodnog prava, nacionalne kampanje za prevenciju i diskusije o pravilima usklađenim sa zakonodavstvom EU. Godine 2025. bugarske vlasti učestvovale su u velikoj međunarodnoj operaciji kojom je zatvoren Kidfliks, jedna od najvećih platformi na svetu za seksualnu eksploataciju dece, koju je koristilo skoro 2 miliona korisnika između 2022. i 2025. godine.

U svom krivičnom zakoniku, Rumunija je uspostavila zakonske mehanizme za borbu protiv materijala sa seksualnim zlostavljanjem dece, a vlasti nameravaju da prošire i modernizuju ova pravila.

Od 2025. godine, jedan važan zakon za zaštitu dece na internetu (nazvan Zakon o internet uzrastu punoletstva) nalazi se u parlamentarnoj proceduri, a Rumunija

postepeno sprovodi i pravila EU za sprečavanje i borbu protiv onlajn seksualnog zlostavljanja. Zakon o internet uzrastu punoletstva uvodi obaveznu proveru starosti i roditeljsku saglasnost za maloletnike (mlađe od 16 godina) za pristup internet uslugama kao što su društvene mreže i platforme za igre i strimovanje uživo.

Bosna i Hercegovina, zemlja kandidat za članstvo u EU, još uvek nema konkretan zakon koji reguliše ovu oblast. U BiH, krivična odgovornost za proizvodnju, distribuciju i posedovanje takvog materijala zasniva se na krivičnim zakonima koji obuhvataju seksualno zlostavljanje dece, ali ne sadrže eksplicitne odredbe za sadržaj generisan ili simuliran veštačkom inteligencijom.

EU je uvela dodatne alate i mere za zaštitu svojih građana – i mladih i starih – od štetnih praksi na internetu, ali slabe tačke su problematično sprovođenje, algoritamsko podsticanje štetnih sadržaja, nedosledna primena među državama i neslaganja oko balansiranja bezbednosti i privatnosti.

Priča se objavljuje nedeljno. Sadržaj se zasniva na vestima agencija koje učestvuju u ENR.