go to the original language article
AFP, Agerpres, ANSA, BTA, dpa, EFE, FENA
Tvárou v tvár búrlivým reakciám širokej verejnosti proti používaniu umelej inteligencie, ktorá narúša súkromie a dôstojnosť ľudí, Európska únia vytiahla ťažké delostrelectvo.
Brusel zvažuje možnosť klasifikovať vytváranie montáží so sexuálnym obsahom ako zakázanú praktiku podľa Zákona o umelej inteligencii po škandále so sexualizovanými obrázkami vytvorenými Grokom, chatbotom integrovaným do platformy X spoločnosti Elon Musk.
Reakcie proti Groku
Spoločnosť Muska, xAI – po tom, čo bola dlhý čas kritizovaná medzinárodným spoločenstvom – v polovici januára zaviedla nové obmedzenia pre sexuálne sugestívne obrázky generované umelou inteligenciou pomocou Groku. Tento krok nasledoval po kritike, že Groke umožnil používateľom digitálne nahradiť oblečenie žien bikinami a v niektorých prípadoch vytvárať sexualizované obrázky maloletých.
Prvé obrázky ľudí vyzlečených donaha bez ich súhlasu („umelé odhaľovanie“) začali kolovať v dňoch po spustení tejto možnosti, no obzvlášť sa rozšírili v období okolo Nového roka. Podľa CNN bol len medzi 5. a 6. januárom Groke použitý na generovanie najmenej 6 700 sexuálnych obrázkov. Často zobrazovali ženy alebo maloletých.
– Groke teraz ponúka „pikantnú možnosť“, ktorá zobrazuje explicitný sexuálny obsah, a niektoré výsledky sú generované pomocou obrázkov, ktoré pripomínajú deti. Toto nie je pikantné. Toto je nezákonné. Toto je hrozné, vyhlásil vtedy hovorca EÚ pre digitálne otázky Thoma Renier pred novinármi.
Európska komisia, ktorá plní funkciu digitálneho dohliadateľa bloku, oznámila, že preskúma nové opatrenia prijaté spoločnosťou X. Predstavitelia varovali, že ak sa kroky ukážu ako nedostatočné, EÚ zváži úplné uplatnenie svojho Zákona o digitálnych službách.
Podpredsedníčka EK Henna Virkkunen uviedla, že EK zvažuje výslovne zakázať takéto sexuálne obrázky generované umelou inteligenciou podľa Zákona o umelej inteligencii, pričom ich klasifikuje ako neprijateľné riziká.
Zákaz škodlivých praktík v oblasti umelej inteligencie by mohol byť relevantný pri riešení problému detskej pornografie a sexuálnych montáží bez súhlasu, povedala Virkkunen, ktorá je zároveň eurokomisárkou pre technologickú suverenitu, bezpečnosť a demokraciu, počas plenárneho zasadnutia Európskeho parlamentu v Štrasburgu minulý týždeň. Dodala, že Zákon o digitálnych službách znižuje riziko šírenia sexuálneho obsahu na internete bez súhlasu.
Pripomenula tiež, že EK zaslala spoločnosti X žiadosť o poskytnutie informácií týkajúcich sa Groku ako súčasť svojho vyšetrovania platformy podľa Zákona o digitálnych službách.
Od platformy sa požadovalo, aby do konca roka uchovala všetky interné dokumenty a súvisiace údaje. – Teraz skúmame mieru, do akej môže X v akomkoľvek prípade porušiť Zákon o digitálnych službách, a nebudeme váhať prijať ďalšie opatrenia, ak na to dôkazy poukážu, povedala.
Komisia predtým zvýšila tlak na X, ktorý bol začiatkom decembra pokutovaný sumou 120 miliónov eur za porušenie transparentnosti. EÚ trvá na tom, že bude presadzovať svoje pravidlá napriek tomu, že vyvolala nevôľu americkej administratívy.
– Zákon o digitálnych službách je v Európe veľmi jasný. Všetky platformy sa musia riadiť pravidlami, pretože to, čo sa tu generuje, je neakceptovateľné, a dodržiavanie zákonov EÚ nie je možnosť. Je to povinnosť, povedal Renier, keď sa na začiatku januára rozhorieval škandál.
Predminulý týždeň skupina približne 50 europoslancov vyzvala EK, aby zakázala na trhu EÚ všetky aplikácie, ktoré používajú umelú inteligenciu na vytváranie odhalených obrázkov.
Bez X sa nedá žiť
Napriek kritike namierenej proti X takmer všetci vysokí predstavitelia EÚ naďalej zverejňujú príspevky tam, a nie na alternatívnych európskych platformách, podľa výskumu agentúry dpa.
Predsedníčka Európskej komisie Ursula von der Leyen a ďalší vysokí predstavitelia stále nemajú oficiálne profily na Mastodone, alternatívnej platforme so sídlom v Nemecku. Virkkunen si v januári otvorila oficiálny profil na Mastodone. Niektorí vysokí politici EÚ sú aktívni aj na Bluesky, ďalšej platforme so sídlom v USA, ktorá sa stáva čoraz populárnejšou.
Komisia odôvodňuje pokračujúce používanie X jeho dosahom: Mastodon má približne 750 000 mesačných používateľov v porovnaní so 100 miliónmi na X, podľa údajov spoločností.
Dlhá právna cesta k lepšej bezpečnosti na internete
Cesta k ochrane maloletých v EÚ je dlhá, keďže problémy súkromia a ochrany narážajú na záujmy biznisu. Niekoľko regulácií sa prekrýva:
Kontrola četovania
Komisia v roku 2022 navrhla reguláciu, ktorá bude od platforiem vyžadovať odhaľovanie a nahlasovanie obrázkov a videí zo zneužívania (materiál so sexuálnym zneužívaním detí), ako aj pokusov predátorov kontaktovať maloletých.
Podporovaný niekoľkými skupinami na ochranu detí, plán nazvaný „Kontrola četovania“ vyvolal v 27-člennom bloku ostré spory o súkromí a viedol k obvineniam, že zavádza masové sledovanie.
Očakáva sa, že konečný zákon bude dohodnutý začiatkom roku 2026 s cieľom preklenúť priepasť medzi prístupom Európskeho parlamentu zameraným na súkromie a snahou Rady EÚ široko zaviesť oprávnenia na dobrovoľné skenovanie.
Hoci predĺžili dočasné opatrenia na dobrovoľné skenovanie do apríla 2026, aby sa predišlo právnemu vákuu, europoslanci požiadali o urýchlenie hľadania trvalého riešenia.
Zákon o digitálnych službách
Európska únia používa Zákon o digitálnych službách na sankcionovanie internetových platforiem prostredníctvom ukladania obrovských pokút, požadovania naliehavých prevádzkových zmien a – v krajnom prípade – dočasného pozastavenia ich služieb. Môže uložiť pokuty, ak platformy neplnia povinnosti podľa Zákona o digitálnych službách, nedodržiavajú dočasné opatrenia alebo porušia záväzky.
Ide o reguláciu EÚ pre bezpečnejší internet, ktorá od platforiem vyžaduje, aby sa vysporiadali s nezákonným obsahom, chránili používateľov a zvyšovali transparentnosť.
Zákon o umelej inteligencii
Zákon o umelej inteligencii bol prijatý v roku 2024 a je prvým a jediným komplexným právnym rámcom na svete v kontexte umelej inteligencie. Zavádza systém založený na riziku na reguláciu technológií umelej inteligencie v rámci EÚ, aby sa zabezpečilo, že sú bezpečné, dôveryhodné a rešpektujú základné práva, a zároveň sú inovatívne.
Zakazuje určité neprijateľné praktiky umelej inteligencie, ako je sociálne bodovanie, a stanovuje pravidlá pre oblasti, kde existuje vysoké riziko pri použití umelej inteligencie – ako kritická infraštruktúra alebo zamestnávanie. Stanovuje aj obmedzenia pre manipulatívne použitie umelej inteligencie, ako sú montáže zamerané na deti, okrem iného.
Zákazy sociálnych médií
Francúzsko, ktoré zvažuje zákaz sociálnych médií pre deti mladšie ako 15 rokov, od leta testuje aplikáciu na overovanie veku vypracovanú EK. Tento nástroj je jednou z viacerých metód na overovanie veku používateľov internetu, čo je problém pre technologických gigantov aj pre orgány.
Individuálne úsilie
Španielska ministerka pre mládež a deti Sira Rego začiatkom januára požiadala štátneho zástupcu, aby vyšetril, či Groke pácha trestné činy súvisiace so šírením materiálu o sexuálnom zneužívaní detí.
V súčasnosti Španielsko pracuje na vlastnom zákone na ochranu maloletých v digitálnom prostredí. Zákon posilňuje rámec na ochranu osobnej integrity a súkromia pred novými formami porušovania súvisiacimi s používaním technológií, ako je umelá inteligencia, pričom potvrdzuje, že najlepší záujem dieťaťa musí byť vždy dôležitejší ako akýkoľvek digitálny obchodný model.
Bulharsko posilnilo úsilie v boji proti online sexuálnemu zneužívaniu detí prostredníctvom spolupráce pri presadzovaní medzinárodného práva, národných preventívnych kampaní a diskusií o pravidlách zosúladených s legislatívou EÚ. V roku 2025 sa bulharské orgány zúčastnili na veľkej medzinárodnej operácii, pri ktorej bol zatvorený Kidflix, jedna z najväčších platforiem na svete na sexuálne vykorisťovanie detí, ktorú používalo takmer 2 milióny používateľov medzi rokmi 2022 a 2025.
Vo svojom trestnom zákonníku má Rumunsko zavedené právne mechanizmy na boj proti materiálom so sexuálnym zneužívaním detí a orgány majú v úmysle tieto pravidlá rozšíriť a modernizovať.
Od roku 2025 je dôležitý zákon na ochranu detí na internete (nazývaný Zákon o internetovom veku plnoletosti) v parlamentnom konaní a Rumunsko
postupne zavádza aj pravidlá EÚ na predchádzanie a boj proti online sexuálnemu zneužívaniu. Zákon o internetovom veku plnoletosti zavádza povinné overovanie veku a rodičovský súhlas pre maloletých (mladších ako 16 rokov) na prístup k internetovým službám, ako sú sociálne siete a platformy na hry a živé vysielanie.
Bosna a Hercegovina, kandidátska krajina na členstvo v EÚ, stále nemá konkrétny zákon, ktorý by túto oblasť upravoval. V BiH je trestná zodpovednosť za výrobu, distribúciu a držbu takéhoto materiálu založená na trestných zákonoch, ktoré zahŕňajú sexuálne zneužívanie detí, ale neobsahujú explicitné ustanovenia o obsahu generovanom alebo simulovanom umelou inteligenciou.
EÚ zaviedla dodatočné nástroje a opatrenia na ochranu svojich občanov – mladých aj starých – pred škodlivými praktikami na internete, no slabými miestami sú problematické presadzovanie, algoritmické podporovanie škodlivého obsahu, nekonzistentné uplatňovanie v jednotlivých štátoch a nezhody o vyvažovaní bezpečnosti so súkromím.
Príbeh sa zverejňuje týždenne. Obsah je založený na správach agentúr, ktoré sa zúčastňujú na ENR.