22/10/26 · 12:09

Državni AI otkrivao identitete djece, suci tvrde kako su upravo na to upozoravali

'Individualna odgovornost i nedostaci sustava dvije su različite stvari'

Državni AI otkrivao identitete djece, suci tvrde kako su upravo na to upozoravali
Foto: Pixabay
Piše A. A.
PODIJELI Facebook X (Twitter) WhatsApp

Predstavnici Udruge hrvatskih sudaca (UHS) upozorili su da državni sustav umjetne inteligencije ANON, koji bi trebao uklanjati osobne podatke iz sudskih odluka prije njihove javne objave, još uvijek ima ozbiljne nedostatke. Istaknuli su ujedno kako su na probleme sa sustavom koji je otkrivao identitete djece, žrtava zlostavljanja, ranije upozoravali, ali da Ministarstvo pravosuđa, uprave i digitalne transformacije - umjesto njihova rješavanja - odgovornost prebacuje na sudove.

U priopćenju su istaknuli kako je ministarstvo iznijelo niz nepotpunih navoda pa su bili primorani reagirati. Prenosimo ga u cijelosti:

'Udruga hrvatskih sudaca podržava digitalizaciju pravosuđa i veću transparentnost rada sudova, uz istodobnu zaštitu privatnosti građana. To je osobito važno u osjetljivim predmetima, posebno onima koji uključuju maloljetne i druge ranjive osobe, kod kojih je zaštita identiteta ključna za očuvanje privatnosti, dostojanstva i sigurnosti.

Sustav ANON Ministarstvo je predstavilo kao tehnološko rješenje temeljeno na umjetnoj inteligenciji, namijenjeno automatskoj anonimizaciji i objavi sudskih odluka. Riječ je o važnom iskoraku, no iskustva iz prakse pokazuju da sustav i proces njegove primjene još zahtijevaju doradu.

Sudovi su upozoravali na probleme s anonimizacijom odluka u predmetima u kojima je javnost isključena - kako pri objavi na oglasnim pločama sudova tako i u sustavu ANON. U pojedinim je slučajevima teško ukloniti sve podatke koji bi mogli omogućiti identifikaciju osoba, a istodobno sačuvati čitljivost i razumljivost odluke. Takva upozorenja treba shvatiti kao poticaj za unapređenje postupka i tehničkog rješenja ili izuzimanja najosjetljivijih odluka od objave.

Pravilnik o načinu anonimizacije, objave i pretraživanja anonimiziranih sudskih odluka (NN 134/2024) predviđa automatsku anonimizaciju i indeksaciju prvostupanjskih odluka, uz mogućnost dodatne ručne anonimizacije. No automatska anonimizacija osobnih imena pritom se ne može svesti na njihovo pojavljivanje u određenom padežu, već mora biti dosljedno provedena kroz cijeli tekst odluke. Kada propisana automatska obrada ne osigurava zaštitu identiteta, potrebno je jasno definirati daljnje postupanje i otkloniti nedostatke sustava, a ne ostaviti to kao 'mogućnost'.

UHS ne bježi od individualnih propusta sudaca. Na njih treba upozoravati, a konkretne slučajeve utvrditi i riješiti. Međutim individualna odgovornost i nedostaci sustava dvije su različite stvari koje zahtijevaju različita rješenja.

Posebno zabrinjava što se, unatoč upozorenjima sudaca i sudskog osoblja koji ANON svakodnevno koriste, problemi i dalje ne rješavaju na odgovarajući način. UHS će s ciljem prikupljanja konkretnih iskustava korisnika provesti istraživanje kako bismo Ministarstvu uputili konkretne prijedloge za poboljšanjima ili razjašnjenjem. Kao primjer ističemo odluke u najosjetljivijim predmetima, koje ponekad moraju biti objavljene unutar jednog sata, pri čemu je fizički nemoguće da sudac ručno provjerava anonimizaciju i bude odgovoran za eventualne propuste.

UHS pritom podsjeća da sudovi već godinama upozoravaju na nedostatak administrativnog osoblja. Digitalni alati trebali bi unaprijediti učinkovitost rada i rasteretiti pravosuđe, a ne dovesti do toga da se nedostaci nedovoljno razrađenog sustava nadomještaju dodatnim poslovima sudaca, bez jasnih uputa i odgovarajućih kapaciteta.

Stoga i ovim putem pozivamo Ministarstvo pravosuđa, uprave i digitalne transformacije da u suradnji sa sudovima analizira uočene probleme, unaprijedi sustav ANON i jasno definira postupanje kada automatska anonimizacija ne osigurava potrebnu zaštitu osobnih podataka te uspostavi učinkovit način prikupljanja i obrade povratnih informacija korisnika.

Digitalizacija pravosuđa ne završava uvođenjem novog alata, već podrazumijeva njegovo kontinuirano unapređivanje, provjeru kvalitete i jasno utvrđene odgovornosti. Cilj mora biti sustav koji istodobno osigurava transparentnost sudskih odluka i pouzdanu zaštitu privatnosti građana. To se može postići samo ako se individualni propusti rješavaju kada se utvrde, a primjedbe na nedostatke sustava koriste za njegovo unapređenje, umjesto da se odgovornost za nedovršen proces prebacuje na njegove korisnike, i to kroz medijske istupe.'


PODIJELI Facebook X (Twitter) WhatsApp

Dodaj kao preferirani izvor na Googleu