Zaštita djece u online prostoru: Pragma traži zabranu AI aplikacija za seksualni sadržaj i Zakon o online sigurnosti
Gorući problem
Povodom odluke Vlade Republike Hrvatske o pokretanju izrade Nacionalnog plana za razvoj umjetne inteligencije do 2032. godine, udruga Pragma apelirala je na hitno donošenje zakonodavnog okvira koji će jasno regulirati sigurnost djece na internetu u kontekstu sve većeg razvoja umjetne inteligencije.
Upozoravajući na sve veći broj slučajeva seksualnog zlostavljanja djece potaknutog alatima umjetne inteligencije, Pragma traži zabranu aplikacija koje koriste AI za stvaranje seksualno eksplicitnih slika djece te donošenje Zakona o online sigurnosti djece. Organizacija navodi kako su u Velikoj Britaniji već poduzeti konkretni koraci u tom smjeru – Povjerenik za djecu pozvao je na zabranu takvih aplikacija, a pozitivne reakcije vlade nagovještavaju da bi upravo Britanija mogla postati prva zemlja s cjelovitim sustavom zaštite djece u AI okruženju.
Posebno zabrinjavaju pojave tzv. 'nudifikacije' – uređivanja stvarnih fotografija djece kako bi izgledale gole – i deepfake sadržaja, koji stvaraju lažne videozapise i slike sa stvarnim licima, a mogu imati ozbiljne posljedice za djecu i mlade. Pragma naglašava da svi takvi materijali moraju biti označeni kao ilegalni, a njihovo stvaranje, posjedovanje i distribucija tretirani kao kaznena djela.
Izvješća iz Velike Britanije ukazuju na to da su djevojke i mlade žene osobito izložene, jer aplikacije često ciljaju isključivo ženske fizičke karakteristike. Takva tehnologija rezultira sve češćim izbjegavanjem objavljivanja fotografija ili interakcije na internetu od strane djevojaka, što Pragma uspoređuje s ponašanjem djevojaka u stvarnom svijetu koje moraju poštovati dodatna pravila kako bi se zaštitile.
Udruga stoga predlaže donošenje Zakona o online sigurnosti koji bi:
- zabranio AI alate za 'nudifikaciju',
- regulirao kaznenu odgovornost za deepfake sadržaje,
- strogo kažnjavao posjedovanje i distribuciju tzv. AI 'priručnika za pedofile',
- zahtijevao od platformi uklanjanje ovakvih sadržaja,
- obvezao programere da prepoznaju i umanje rizike po djecu,
- uspostavio mehanizme za uklanjanje deepfake slika djece s interneta,
- te prepoznao deepfake zlostavljanje kao oblik nasilja nad djecom.
Osim toga, predlaže se pojačana provjera dobi na web stranicama, kažnjavanje onih koje omogućuju dijeljenje sadržaja o zlostavljanju djece, proširenje ovlasti policije te mogućnost pregleda digitalnih uređaja prilikom ulaska u Hrvatsku.
Predsjednik Pragme, Nedjeljko Marković, upozorio je na dramatičan porast ovakvih sadržaja:
'U Engleskoj je u samo jednom mjesecu na mračnoj web stranici otkriveno 3.512 AI generiranih slika seksualnog zlostavljanja djece, što je porast od 10 % u odnosu na isto razdoblje prethodne godine. Dostupnost ovakvog sadržaja dodatno potiče seksualno nasilje nad djecom. Potrebno je razviti cjeloviti pristup razvoju umjetne inteligencije – Nacionalni plan predstavlja dobru priliku za to', poručio je Marković.
Udruga Pragma zaključuje da je zaštita djece u online prostoru zajednička odgovornost svih dionika koji djeluju u korist dobrobiti djece, te poziva na brzo i odlučno djelovanje zakonodavnih i izvršnih tijela države.