AI Forensics, neprofitna organizacija koja istražuje utjecaj digitalnih platformi na ljudska prava, objavila je istraživanje u kojem prikazuju kako dizajn aplikacije Telegram omogućava širenje digitalnog nasilja nad ženama. Istraživanje je tijekom 6 tjedana u 16 talijanskih i španjolskih Telegram grupa i kanala identificiralo više od 24.000 aktivnih korisnika koji dijele seksualni sadržaj bez pristanka, uključujući i sadržaj koji se odnosi na maloljetne djevojčice.
Pritom se ne radi samo o dijeljenju intimnih snimki, nego i o doxxingu, deepfake sadržaju, cyberstalkingu, koordiniranom uznemiravanju, a pronalaze se i materijali sa seksualnim zlostavljanjem djece te sadržaji koji prikazuju silovanje i incest.
Nalazi upućuju na to da je ono što se obično shvaća kao nedolično ponašanje pojedinaca u stvarnosti strukturiran, monetiziran i uglavnom automatizirani sustav zlostavljanja koji djeluje u velikim razmjerima. Platforma Telegram izborom načina moderiranja, arhitekturom privatnosti i selektivnim provođenjem vlastitih politika, stvara uvjete za nastavak zloupotrebe i širenje digitalnog nasilja nad ženama i djevojčicama.
Ono što ovaj slučaj čini posebno ozbiljnim jest činjenica da se ne radi o pravnoj praznini. Europski okvir već postoji. Problem je u izostanku provedbe.
‘Umjesto stalnih pokušaja uvođenja chat controla, odnosno obveznog automatskog skeniranja sve privatne komunikacije građana, u borbi protiv ilegalnog digitalnog sadržaja je potrebno usredotočiti se na provedbu postojećih propisa. Telegram grupe i kanali koje imaju tisuće članova, od kojih neke naplaćuju članstvo i imaju ugrađene AI alate za nudifikaciju, poseban su oblik digitalnog javnog prostora na koje trebamo primjenjivati postojeće zakone, poput Akta o digitalnim uslugama’, ističe Duje Prkut, izvršni direktor udruge Politiscope.
Zato Politiscope, zajedno sa ostalim organizacijama, u otvorenom pismu traži od Europske komisije zabranu nudifying botova na Telegramu te pravnu pravnu kvalifikaciju Telegrama kao VLOP-a (Very Large Online Platform) čime bi se aktivirale dodatne obveze iz Akta o digitalnim uslugama, uključujući procjene sistemskih rizika, neovisnu reviziju, mehanizme prijave te pojačane obveze transparentnosti.
Otvorenim pismom se od država članica traži pokretanje prekogranične suradnje između koordinatora za digitalne usluge (DSC), kako bi se istražila uloga Telegrama u olakšavanju širenja nezakonitog sadržaja i omogućavanju digitalnog nasilja nad ženama i djevojčicama te postojeće ovlasti koristile za brzo uklanjanje takvog sadržaja. Dodatno, od država članica se traži hitna implementacija Direktive (EU) 2024/1385 o suzbijanju nasilja nad ženama i obiteljskog nasilja u nacionalna zakonodavstva.
Javno zgražanje nad ovim problemom nije dostatna reakcija. Potrebna je provedba snažnih mjera nadzora nad platformama koje, uz izostanak ikakve odgovornosti, čine mogućom monetizaciju digitalnog nasilja nad ženama i djevojčicama
Prkut zaključuje: ‘Masovni automatizirani i neproporcionalni nadzor sadržaja poruka, koji nam se stalno promovira, nije prihvatljiv način borbe protiv ilegalnog digitalnog sadržaja. Upravo ovo istraživanje je pokazalo da se fokusiranim, ciljanim i međunarodno koordiniranim istragama može razotkriti i suzbiti masovno dijeljenje ilegalnog sadržaja – posebice ako nadzorna tijela iskoriste svoje ovlasti i djeluju temeljem ovih nalaza i preporuka. I to je sve odrađeno bez chat controla, bez masovnog narušavanja naše privatnosti’.
