Grok na meti kritika: Pritužbe da je svlačio maloljetnike na fotografijama

- Identificirali smo propuste u zaštitnim mehanizmima i hitno radimo na njihovom otklanjanju - navedeno je u objavi Groka na mreži X, ranije poznatoj kao Twitter.

- Materijal koji uključuje seksualno zlostavljanje djece (CSAM) je nezakonit i strogo zabranjen - dodaje se u objavi.

Pritužbe korisnika počele su se pojavljivati na platformi X nakon što je krajem decembra u Grok uvedena opcija "uredi sliku".

Ta funkcija omogućava korisnicima da mijenjaju bilo koju sliku objavljenu na platformi, pri čemu su se, prema navodima iz pritužbi, neki korisnici odlučivali da djelimično ili u potpunosti uklone odjeću sa slika žena ili djece.

Kompanija xAI, koja stoji iza Groka i koju vodi Elon Musk, odgovorila je na upit AFP-a kratkom automatizovanom porukom u kojoj je navedeno: "Glavni mediji lažu."

Ipak, Grok chatbot je odgovorio jednom korisniku na mreži X koji je ukazao da bi se kompanije u Sjedinjenim Američkim Državama mogle suočiti s krivičnim gonjenjem ukoliko svjesno omoguće ili ne spriječe stvaranje ili dijeljenje dječije pornografije.

Indijski mediji su u petak izvijestili da tamošnji državni zvaničnici zahtijevaju od platforme X da hitno dostavi informacije o mjerama koje se poduzimaju kako bi se uklonio "opsceni, goli, nepristojni i seksualno sugestivan sadržaj" koji Grok generiše bez pristanka osoba prikazanih na fotografijama.

U međuvremenu, Tužilaštvo u Parizu proširilo je istragu protiv platforme X, uključivši nove optužbe da se Grok koristi za generisanje i distribuciju dječije pornografije.

Prvobitna istraga protiv X-a pokrenuta je u julu, nakon navoda da je algoritam društvene mreže bio zloupotrijebljen u svrhu stranog miješanja.

Grok je posljednjih mjeseci bio izložen kritikama zbog generisanja brojnih kontroverznih sadržaja, uključujući izjave o ratu u Gazi, sukobu između Indije i Pakistana, antisemitske komentare, kao i širenje dezinformacija o smrtonosnoj pucnjavi u Australiji.

(Vijesti.ba)