'Problem nije u umjetnoj inteligenciji, nego u ljudima koji je koriste bez odgovarajućeg nadzora', poručuje udruga Politiscope povodom novog otkrića o javnoj objavi osobnih podataka djece, uključujući žrtve seksualnog zlostavljanja i obiteljskog nasilja, u sudskim odlukama koje su trebale biti anonimizirane. Unatoč ranijim prijavama, objava nedovoljno anonimiziranih sudskih odluka putem sustava ANON se nastavila, zbog čega je Politiscope odlučio javno reagirati.
Nove sporne odluke
Prema informacijama koje je udruga Politiscope zaprimila od oštećenog ispitanika, Ministarstvo je 12. listopada obaviješteno o neprimjerenoj objavi osobnih podataka djece u 270 odluka te je istoga dana tehnička podrška portala potvrdilo njihovo uklanjanje dok je Ministarstvo pisano odgovorilo idućeg dana. Međutim, već 14. i 15. listopada objavljene su odluke s istovjetnim propustima, zbog čega je građanin podnio prijavu Ministarstvu o novih 33 odluke. Ministarstvo nije obavijestilo o tome da je uklonjen tek manji broj odluka, dok je većina novih spornih odluka i dalje dostupna u javnoj tražilici.
Politiscope je nasumično provjerio tri prijavljene nove odluke i u svakoj utvrdio neprimjerenu objavu osobnih podataka, uključujući broj mobitela jedne od stranaka, ime i prezime djeteta te posvojne oblike imena koji mogu otkriti identitet djeteta ili roditelja.
Ponavljanje istovjetnih propusta upućuje na ozbiljne nedostatke postojećih zaštitnih mjera. Uklanjanje spornih odluka nakon prijave ne može zamijeniti sustav osiguranja kvalitete koji sprječava da do povreda uopće dođe.
Hitno zaustaviti automatiziranu objavu bez ljudske provjere
Politiscope je od Agencije za zaštitu osobnih podataka (AZOP) zatražio žurno postupanje i privremenu obustavu potpuno automatizirane javne objave svih sudskih odluka bez prethodne ljudske provjere, sve dok se ne uklone nedostaci sustava i potvrdi učinkovitost zaštitnih mjera.
Udruga također traži hitnu provjeru i dodatnu anonimizaciju već objavljenih odluka, utvrđivanje jesu li povrede osobnih podataka pravilno prijavljene i jesu li pogođeni pojedinci obaviješteni, ponovnu procjenu učinka na zaštitu podataka te uspostavu trajnog sustava kontrole kvalitete anonimizacije.
Duje Kozomara, koordinator programa za zaštitu podataka udruge Politiscope, pozitivno ocjenjuje brzu reakciju Ministarstva na prvu prijavu, ali upozorava da nije otklonjen rizik novih povreda prava:
'Činjenica da su se iste pogreške pojavile u novim odlukama pokazuje da se reagiralo na posljedice, a ne na uzrok problema. Osim uklanjanja nezakonito objavljenih podataka, GDPR zahtijeva i poduzimanje mjera kojima će se spriječiti ponavljanje takvih povreda. Prije javne objave mora postojati pouzdana kontrola koja uključuje ljudsku provjeru rezultata automatizirane anonimizacije.'
AI Akt ne prepoznaje adekvatno sve sustave koji mogu ozbiljno ugroziti temeljna prava
Slučaj ANON otvara i šire pitanje primjerenosti europskog regulatornog okvira za umjetnu inteligenciju. Iako pogreške sustava za anonimizaciju sudskih odluka mogu imati ozbiljne posljedice za privatnost i temeljna prava građana, europski Akt o umjetnoj inteligenciji (AI Akt) takve sustave ne obuhvaća kategorijom visokorizičnih sustava kada služe pomoćnim administrativnim aktivnostima u pravosuđu.
Duje Prkut, izvršni direktor udruge Politiscope i koordinator programa za umjetnu inteligenciju i ljudska prava, upozorava: 'Već nedovoljno ambiciozan AI Akt dodatno je oslabljen AI Omnibusom. ANON pokazuje prazninu u tom okviru: sustav može ozbiljno ugroziti temeljna prava, ali nije svrstan među visokorizične sustave jer služi obradi i objavi sudskih odluka, a ne njihovu donošenju. Javna tijela zato moraju procjenjivati stvarne rizike svakog AI sustava koji koriste, neovisno o tome kako je sustav klasificiran.'
Bez transparentnosti nema povjerenja u državnu digitalizaciju
Politiscope poziva Ministarstvo pravosuđa, uprave i digitalne transformacije da javnosti pruži cjelovite informacije o opsegu utvrđenih propusta, njihovim uzrocima i mjerama koje poduzima kako bi spriječilo njihovo ponavljanje.
'Povjerenje građana u digitalne tehnologije koje koristi država ne gradi se prikrivanjem pogrešaka, nego otvorenošću i odgovornim postupanjem. Transparentnost je posebno važna upravo onda kada tehnologija zakaže i ugrozi prava građana, a osobito djece', zaključuju iz Politiscopea.
Projekt 'Ljudska prava i umjetna inteligencija' dio je programa Impact4Values2.0.
Financirano sredstvima Europske unije. Izneseni stavovi i mišljenja su stavovi i mišljenja autora i ne moraju se podudarati sa stavovima i mišljenjima Europske unije ili Europske izvršne agencije za obrazovanje i kulturu (EACEA). Ni Europska unija ni EACEA ne mogu se smatrati odgovornima za njih.
