EU pred izazovom: U samo dva dana Grok korišten za generiranje hiljada seksualnih slika

Europska unija poseže za strožim mjerama suočena s ogorčenjem zbog zloupotrebe umjetne inteligencije (AI), stoji u zajedničkom tekstu novinskih agencija AFP, Agerpres, ANSA, BTA, dpa, EFE, FENA u okviru European Newsrooma.

Bruxelles razmatra mogućnost da se stvaranje seksualnih deepfake sadržaja klasificira kao zabranjena praksa prema Aktu o umjetnoj inteligenciji, nakon skandala sa seksualiziranim slikama koje je generirao Grok AI, chatbot integriran u platformu X Elona Muska.

Ogorčenje zbog Groka

Muskova kompannija xAI, nakon dugotrajnih međunarodnih kritika, sredinom siječnja uvela je nova ograničenja za seksualno sugestivne slike generirane umjetnom inteligencijom u Groku. Ovaj potez uslijedio je nakon kritika da je Grok korisnicima dopuštao da digitalno zamjenjuju žensku odjeću bikinijima te, u nekim slučajevima, stvaraju seksualizirane prikaze maloljetnika.

Prve slike ljudi koji su bez pristanka „razodijevani“ počele su kružiti nekoliko dana nakon uvođenja te funkcije, no njihovo širenje posebno se pojačalo oko Nove godine. Prema CNN-u, samo između 5. i 6. januara Grok je korišten za generiranje najmanje 6.700 seksualnih slika. One su često uključivale žene ili maloljetnike.

- Grok sada nudi 'začinjeni način rada' koji prikazuje eksplicitan seksualni sadržaj, pri čemu su neki rezultati generirani s dječjim obilježjima. Ovo je nezakonito. Ovo je užasno - rekao je tada novinarima glasnogovornik EU-a za digitalna pitanja Thomas Regnier.

Europska komisija, koja djeluje kao digitalni nadzornik Unije, priopćila je da će uzeti u obzir nove mjere koje je poduzeo X te ih preispitati. Dužnosnici su upozorili da će, ako se ti koraci pokažu nedostatnima, EU razmotriti korištenje punog opsega Akta o digitalnim uslugama (DSA).

Potpredsjednica Europske komisije Henna Virkkunen izjavila je da Komisija razmatra izričitu zabranu ovakvih vrsta AI-generiranih seksualnih slika u okviru Akta o umjetnoj inteligenciji, klasificirajući ih kao neprihvatljive rizike.

- Zabrana štetnih praksi u području umjetne inteligencije mogla bi biti relevantna za rješavanje problema seksualnih deepfake sadržaja bez pristanka i dječje pornografije - rekla je Virkkunen na ovotjednom plenarnom zasjedanju Europskog parlamenta u Strasbourgu, koja je ujedno i povjerenica nadležna za tehnološki suverenitet, sigurnost i demokraciju. Također je rekla da DSA smanjuje rizik širenja seksualnog sadržaja na internetu bez pristanka.

Podsjetila je i da je Komisija poslala zahtjev za dostavom informacija platformi X u vezi s Grokom, u sklopu istrage protiv te platforme prema DSA-u. Od platforme je zatraženo da do kraja godine sačuva sve interne dokumente i podatke koji se na to odnose.

- Sada ispitujemo u kojoj mjeri X krši DSA te nećemo oklijevati poduzeti daljnje mjere ako dokazi na to upućuju - rekla je.

Komisija je ranije pojačala pritisak na X koji je početkom prosinca kažnjen s 120 milijuna eura zbog kršenja obveza transparentnosti. EU je inzistirao da će provoditi svoja pravila unatoč negativnim reakcijama američke administracije.

- DSA je u Europi vrlo jasan. Sve platforme moraju dovesti svoje poslovanje u red jer je ono što se ovdje generira neprihvatljivo, a usklađivanje s pravom EU-a nije opcija. To je obveza - rekao je Regnier na vrhuncu skandala početkom siječnja.

Prošli tjedan skupina od oko 50 zastupnika Europskog parlamenta pozvala je Komisiju da zabrani aplikacije umjetne inteligencije koje se koriste za stvaranje golih slika na tržištu EU-a.

Ne mogu bez X-a

Unatoč kritikama platforme X, gotovo svi visoki dužnosnici EU-a i dalje ondje objavljuju sadržaje, umjesto da koriste europske alternative, pokazuje istraživanje dpa.

Predsjednica Europske komisije Ursula von der Leyen i drugi visoki dužnosnici još uvijek nemaju službene račune na Mastodonu, alternativi sa sjedištem u Njemačkoj. Virkkunen je u siječnju otvorila službeni račun na Mastodonu. Visoki političari EU-a aktivni su i na Blueskyju, još jednoj platformi sa sjedištem u SAD-u koja trenutačno dobiva na popularnosti.

Komisija opravdava nastavak korištenja X-a njegovim dosegom: Mastodon ima oko 750.000 mjesečnih korisnika, u usporedbi sa 100 milijuna na X-u, prema podacima samih kompanija.

Dug pravni put prema većoj sigurnosti na internetu

Put prema zaštiti maloljetnika u EU-u dugotrajan je jer se sudaraju pitanja privatnosti, poslovnih interesa i zaštite. Više se propisa preklapa:

Chat Control

Komisija je 2022. predložila uredbu kojom bi se platforme obvezale na otkrivanje i prijavljivanje slika i videozapisa zlostavljanja (materijala seksualnog zlostavljanja djece - CSAM), kao i pokušaja predatora da stupe u kontakt s maloljetnicima.

Plan, koji je podržalo nekoliko organizacija za zaštitu djece i koji je dobio nadimak „Chat Control“, izazvao je žestoke rasprave o privatnosti unutar Unije od 27 država te doveo do optužbi za masovni nadzor.

Očekuje se da će se konačni zakon pregovarati početkom 2026. godine kako bi se uskladili pristup Europskog parlamenta, fokusiran na privatnost, i želja Vijeća EU-a za širim dobrovoljnim ovlastima skeniranja.

Dok se privremene dobrovoljne mjere skeniranja produljuju do travnja 2026. godine kako bi se izbjegao pravni vakuum, zastupnici Europskog parlamenta istaknuli su hitnost donošenja trajnog rješenja.

DSA

Europska unija koristi Akt o digitalnim uslugama kako bi sankcionirala internetske platforme, namećući im visoke novčane kazne, zahtijevajući trenutačne operativne promjene te, kao krajnju mjeru, privremeno obustavljajući njihove usluge. Može izreći kazne ako platforme krše obveze iz DSA-a, ne poštuju privremene mjere ili krše preuzete obveze.

Riječ je o uredbi EU-a za sigurniji internetski svijet, koja od platformi zahtijeva suzbijanje nezakonitog sadržaja, zaštitu korisnika i povećanje transparentnosti.

Akt o umjetnoj inteligenciji

Akt o umjetnoj inteligenciji usvojen je 2024. godine i predstavlja prvi i jedini sveobuhvatni pravni okvir u području umjetne inteligencije na svijetu. Uspostavlja sustav temeljen na procjeni rizika za reguliranje AI tehnologija unutar EU-a, s ciljem da budu sigurne, pouzdane i da poštuju temeljna prava, uz istodobno poticanje inovacija.

Zabranjuje određene neprihvatljive AI prakse, poput društvenog bodovanja, te postavlja pravila za područja visokog rizika primjene AI-a poput kritične infrastrukture ili zapošljavanja. Također propisuje ograničenja za manipulativne uporabe AI-a, uključujući deepfake sadržaje usmjerene na djecu.

Zabrane društvenih mreža

Francuska, koja razmatra zabranu društvenih mreža za djecu mlađu od 15 godina, od ljeta testira aplikaciju za provjeru dobi koju je razvila Europska komisija. Ovaj alat jedan je od nekoliko načina provjere dobi korisnika interneta, što predstavlja veliki izazov i za tehnološke divove i za vlasti.

Pojedinačni napori

Španjolska ministrica za mlade i djecu Sira Rego početkom siječnja zatražila je od državnog odvjetništva da ispita može li Grok činiti kaznena djela povezana sa širenjem materijala seksualnog zlostavljanja djece.

Španjolska trenutačno razvija vlastiti zakon za zaštitu maloljetnika u digitalnom okruženju. Taj zakon jača okvir za zaštitu osobnog integriteta i privatnosti od novih oblika povreda povezanih s uporabom tehnologija poput umjetne inteligencije, potvrđujući da najbolji interes djeteta uvijek mora imati prednost pred bilo kojim digitalnim poslovnim modelom.

Bugarska je pojačala napore u borbi protiv internetskog seksualnog zlostavljanja djece kroz međunarodnu suradnju policijskih tijela, nacionalne preventivne kampanje i političke rasprave usklađene s pravom EU-a. Godine 2025. bugarske vlasti sudjelovale su u velikoj međunarodnoj operaciji u kojoj je ugašen Kidflix, jedna od najvećih svjetskih platformi za seksualno iskorištavanje djece, koju je između 2022. i 2025. godine koristilo gotovo 2 milijuna korisnika.

Rumunija ima zakonodavne mehanizme za borbu protiv materijala seksualnog zlostavljanja djece kroz svoj kazneni zakon, a vlasti nastoje proširiti i modernizirati ta pravila.

Od 2025. godine u parlamentu se vodi rasprava o važnom zakonu o zaštiti djece na internetu (nazvanom Zakon o digitalnoj punoljetnosti), a Rumunjska postupno sudjeluje i u provedbi pravila EU-a o sprječavanju i suzbijanju seksualnog zlostavljanja na internetu. Zakon o digitalnoj punoljetnosti uvodi obveznu provjeru dobi i roditeljski pristanak za maloljetnike (mlađe od 16 godina) za pristup internetskim uslugama poput društvenih mreža, platformi za igranje i streaming.

Kandidatkinja za članstvo u EU-u, Bosna i Hercegovina, još uvijek nema poseban zakon koji regulira ovo područje. U BiH se kaznena odgovornost za proizvodnju, distribuciju i posjedovanje takvog materijala temelji na kaznenim zakonima koji obuhvaćaju seksualno iskorištavanje djece, ali ne sadrže izričite odredbe o AI-generiranom ili simuliranom sadržaju.

EU je uspostavila niz komplementarnih alata i mjera za zaštitu svojih građana, mladih i starih, od štetnih praksi na internetu, no slabe točke uključuju izazove u provedbi, algoritamsko pojačavanje štete, neujednačenu nacionalnu primjenu te rasprave o ravnoteži između sigurnosti i privatnosti.

(Vijesti.ba / FENA)