Meta je tijekom posljednjih deset mjeseci prikazivala stotine plaćenih oglasa s umjetnom inteligencijom generiranim materijalom seksualnog zlostavljanja djece (CSAM), uključujući desetke oglasa u Indiji, pokazalo je novo izvješće američkog Tech Transparency Projecta (TTP), javlja BBC.
TTP navodi da je pronašao 332 takva oglasa na Facebooku i Instagramu, od kojih je 274 bilo aktivno u kolovozu. U Indiji su pronađena 84 oglasa, a 78 ih je objavljeno nakon što je tamošnja vlada naredila Meti uklanjanje sadržaja koji promovira CSAM i održala sastanak s predstavnicima kompanije.
Izvješće dolazi dva mjeseca nakon BBC-jeve istrage koja je otkrila da se u Indiji na Instagramu prikazuju plaćeni oglasi koji promoviraju seksualno iskorištavanje djece.
TTP tvrdi da su gotovo svi pronađeni oglasi počinjali fotografijom djeteta koja je potom pomoću umjetne inteligencije izmijenjena tako da prikazuje seksualni čin. U nekim slučajevima korištene su i fotografije stvarne djece.
Meta tvrdi da uklanja takve oglase
TTP je pokušao prijaviti 55 od 84 oglasa pronađena u Indiji. Za 43 oglasa dobili su odgovor da sadržaj ne krši Metina pravila oglašavanja, dok je za 11 oglasa kompanija navela da su već uklonjeni.
Meta je nakon upita BBC-ja priopćila da ne tolerira iskorištavanje djece, bez obzira na to je li sadržaj stvaran ili generiran umjetnom inteligencijom. Kompanija tvrdi da ima sustave koji blokiraju nedopuštene oglase i stalno nadziru platforme.
Meta je također navela da su mnogi oglasi na koje je TTP upozorio već bili uklonjeni, da je većina imala manje od 200 prikaza te da je ukupna potrošnja na njih bila manja od 5000 dolara.
TTP, međutim, tvrdi da su se novi oglasi pojavljivali i nakon što je Meta bila upoznata s njihovim nalazima. Istraživači su kompaniji dostavili detalje o 17 oglasa, uključujući 11 koji su se u Indiji prikazivali 1. i 2. rujna.
Oglasi vodili prema AI aplikacijama
Velika većina od 332 oglasa, prema TTP-u, vodila je prema aplikacijama za generiranje slika ili videa pomoću umjetne inteligencije, većinom kineskih proizvođača. TTP smatra da način oglašavanja sugerira kako se te aplikacije mogu koristiti za stvaranje ili pregledavanje CSAM sadržaja.
Posebnu zabrinutost izaziva činjenica da su neke oglase postavili Metini oglašivački partneri u Kini, poznati kao 'preprodavači', koji preko Facebooka i Instagrama plasiraju milijarde dolara vrijedno kinesko oglašavanje.
U Indiji je distribucija materijala seksualnog zlostavljanja djece kazneno djelo. Organizacija Just Rights for Children zbog slučaja je podnijela peticiju indijskom Vrhovnom sudu i zatražila obvezno prijavljivanje i identificiranje osoba koje promoviraju takav sadržaj.
Indijski stručnjaci za kibernetičku sigurnost upozoravaju da je jedan od najvećih problema činjenica da korisnici mogu vrlo lako prelaziti s jedne platforme na drugu, što otežava njihovo pronalaženje.
Nakon ranije istrage BBC-ja, Meta je priznala da 'nijedan sustav nije savršen' te da kriminalci i dalje pokušavaju zaobići njezine sustave, uključujući one za moderiranje oglasa.
