Razotkrivena ilegalna trgovina AI slikama seksualnog zlostavljanja djece

Istraga BBC-ja otkrila je Patreon naloge koji nude na prodaju AI generirane, fotorealistične, uznemirujuće fotografije djece, s različitim cijenama zavisno od vrste traženog materijala.

Neke osobe pristupaju slikama plaćanjem pretplate na popularnim platformama za dijeljenje sadržaja poput Patreona (Reuters)

Pedofili koriste tehnologiju vještačke inteligencije (AI) za stvaranje i prodaju realističnog materijala seksualnog zlostavljanja djece, otkriva BBC.

Neke osobe pristupaju tim slikama plaćanjem pretplate na popularnim platformama za dijeljenje sadržaja poput Patreona, prenosi Tanjug.

Iz Patreona, međutim, navode da imaju nultu toleranciju prema takvim sadržajima na svojoj platformi.

Vijeće nacionalnih policijskih šefova reklo je da je “nečuveno” da neke platforme ostvaruju “ogroman profit”, ali ne preuzimaju “moralnu odgovornost”.

Vladin štab za komunikacije, vladina obavještajna, sigurnosna i cyber agencija, odgovorila je na izvještaj, rekavši da počinioci seksualnog zlostavljanja djece usvajaju sve tehnologije, a neki vjeruju da budućnost materijala za seksualno zlostavljanje djece leži u sadržaju generiranom vještačkom inteligencijom.

AI stvara sliku kakvu korisnici žele

Kreatori i distributeri takvih sadržaja koriste AI softver nazvan Stable Diffusion, koji je prvobitno bio namijenjen generiranju slika za umjetnost ili grafički dizajn.

Softver omogućuje korisnicima da riječima, odnosno kratkim tekstom, opišu kakvu sliku žele, a zatim je program napravi na osnovu tog opisa.

BBC je, međutim, otkrio da se taj softver koristi i za stvaranje realističnih slika spolne zloupotrebe djece, uključujući i silovanje beba i mališana.

Timovi britanske policije za istraživanje zlostavljanja djece na mreži već se susreću sa takvim sadržajem.

Slike zlostavljanja dijele se u tri koraka: pedofili generiraju sliku AI softverom, zatim je promoviraju na platformama poput japanske platforme za dijeljenje fotografija Pixiv, a takvi linkovi vode na plaćene platforme za dijeljenje sadržaja kao što je Patreon.

Dijeljenje crteža

S obzirom da se stranica Pixiv nalazi u Japanu, gdje dijeljenje seksualnih crteža i ilustracija djece nije protuzakonito, kreatori koriste platformu za promoviranje svog rada putem grupa i hashtagova koji indeksiraju teme koristeći ključne riječi.

Glasnogovornik Pixiva izjavio je da ova kompanija pridaje veliki značaj rješavanju ovog problema, a prethodno su izjavili da su zabranili sve fotorealistične prikaze seksualnog sadržaja koji uključuje maloljetnike.

Mnogi nalozi na Pixivu uključuju linkove koji usmjeravaju ljude na američku platformu Patreon.

Patreon vrijedi oko četiri milijarde dolara i tvrdi da ima više od 250.000 korisnika, većinom legitimnih naloga poznatih osoba, novinara i pisaca.

Fanovi mogu podržati kreatore tako što plaćaju mjesečnu pretplatu kako bi pristupili sadržaju kao što su blogovi, podcasti, videa, slike…

Međutim, istraga BBC-ja otkrila je Patreon naloge koji nude na prodaju AI generirane, fotorealistične, uznemirujuće fotografije djece, s različitim cijenama zavisno od vrste traženog materijala.

Jedan je na svom profilu napisao da prodaje “fotorealistične slike poslušnih djevojčica”, a drugi je za 8,30 dolara nudio “ekskluzivnu necenzuriranu umjetnost”.

Izvor: Agencije