* Napomena: Čitate poglavlje iz Izvješća pučke pravobraniteljice za 2022., koje smo predali Hrvatskom saboru u ožujku 2023. Cijelo Izvješće možete otvoriti u PDF formatu i u interaktivnoj verziji. Više o povezanim temama možete doznati i u brojnim drugim poglavljima Izvješća, u popisu na dnu ove stranice.

Pravo na privatnost

Moderne tehnologije unose niz pogodnosti u svakodnevni život, primjerice unaprjeđuju dostupnost usluga, ubrzavaju komunikaciju te donose nove metode podučavanja. Međutim, ujedno mogu predstavljati potencijalnu opasnost za povredu ili ugrozu prava na privatnost, koje nije uvijek jednostavno prepoznati.

Obratio nam se uznemireni građanin radi ugrožavanja privatnosti njega i njegove obitelji jer je nepoznata osoba bespilotnom letjelicom (dronom) nadlijetala njihovo dvorište te im time neovlašteno pristupila u dom. Od Hrvatske agencije za civilno zrakoplovstvo (HACZ) zatražili smo informacije o mehanizmima zaštite građana u takvim situacijama. HACZ je ukazala da nelegalne operacije dronovima građani mogu prijaviti njima i policiji, radi otkrivanja i sankcioniranja počinitelja. HACZ nas je obavijestio da je u 2021. i 2022. godini zaprimio 29 prijava o mogućim nelegalnim operacijama dronovima, pri čemu je izdano 11 prekršajnih naloga, 10 upozorenja i jedan optužni prijedlog, a u odnosu na sedam prijava nije bilo elemenata za postupanje. Iz podataka MUP-a proizlazi da je 2022. evidentirano 360 kaznenih djela protiv privatnosti, međutim, nije razvidno koliko ih se odnosi na eventualnu povredu prava na privatnost korištenjem bespilotnih letjelica. Stoga je potrebno sustavno informirati građane o mogućoj povredi prava na privatnost korištenjem bespilotnih letjelica te načinima podnošenja prijave nadležnim tijelima.

Građani su nam se obraćali i radi povrede prava na privatnost od strane banaka zbog traženja opsežnih podataka o njihovom imovnom stanju i izvorima prihoda pri provedbi tzv. dubinske analize klijenata, propisane Zakonom o sprječavanju pranja novca i financiranja terorizma. Od pojedinih pritužitelja, greškom označenih kao politički izloženih osoba, traženi su dodatni podatci o porijeklu imovine, o obiteljskim ili društvenim odnosima te rješenja o nasljeđivanju ili kupoprodajni ugovori. Pritužiteljima koji nisu dostavili traženu dokumentaciju i podatke blokiran je račun, a nadzorom HNB-a utvrđena je pogreška u bankarskom sustavu. Stoga je nužna pažljiva provedba postupaka dubinske analize, jer ovakve pogreške banaka mogu ugroziti egzistenciju građana zbog nemogućnosti raspolaganja sredstvima na računima.

Povredu prava na privatnost moguće je prevenirati već prilikom donošenja zakona i drugih propisa. Tijekom javnog savjetovanja o Nacrtu prijedloga Zakona o izmjenama i dopunama Zakona o radu, dali smo mišljenje na odredbu kojom se poslodavcu dopušta ulazak u dom radnika kada rad obavlja na daljinu. Pri tom smo ukazali na potrebu procijene razmjernosti predloženog te razmatranja korištenja manje invazivnih načina ispunjenja obveze poslodavaca na održavanje opreme i osiguravanja adekvatnih uvjeta rada, u slučajevima u kojima je dom radnika ujedno i izdvojeno mjesto rada. Prijedlog nije prihvaćen.

U javnoj raspravi o prijedlogu Zakona o izmjenama i dopunama Zakona o međunarodnoj i privremenoj zaštiti, dali smo mišljenje na odredbu kojom su radi provjere i utvrđivanja identiteta, tražitelji međunarodne zaštite dužni omogućiti pretragu svojih računala, drugih elektroničkih uređaja i predmeta koje imaju kod sebe, korištenjem programskih tehnologija (upotrebom različitih kompjuterskih programa i aplikacija). Istaknuli smo potrebu provedbe testa razmjernosti radi ostvarivanja ravnoteže između svrhe odredbe i načina kojima se ona postiže. Predložili smo da se u obrazloženju zakonskog prijedloga pojasni svrha i pravna osnova zadiranja u privatnost prikupljanjem većeg opsega podataka od potrebnih za procjenu osnovanosti zahtjeva za međunarodnom zaštitom. Sukladno tome, u konačnom prijedlogu Zakona detaljnije je definirano da će se pretraga provoditi samo kada drugim sredstvima nije moguće utvrditi identitet i državu porijekla te uz izričitu suglasnost tražitelja međunarodne zaštite.

Umjetna inteligencija

U svakodnevnom životu sve je češća upotreba algoritama odnosno računalnih sustava utemeljenih na umjetnoj inteligenciji (UI), a zasigurno će se još više koristiti ubuduće. Međutim, tek su u tijeku inicijative za reguliranjem upotrebe UI, kako bi se prevenirao negativni učinak na ljudska prava i jednakost. Tako je na razini EU u tijeku postupak donošenja Uredbe o UI, dok se u okviru VE izrađuje nacrt Okvirne konvencije o UI, ljudskim pravima, demokraciji i vladavini prava.
2022. godinu obilježio je nastavak pregovora o Uredbi o UI, a najviše je prijepora bilo oko definicije pojma UI, opsega primjene Uredbe, kao i liste visokorizičnih sustava. Na poziv MGOR-a dali smo mišljenje na drugi kompromisni prijedlog Uredbe s fokusom na učinak UI na ljudska prava i jednakost, odnosno diskriminatorne učinke, ukazujući na mjere kojima bi se prevenirali negativni učinci. Također, putem Europske mreže nacionalnih institucija za ljudska prava (ENNHRI), koja ima status promatrača pri Odboru za UI Vijeća Europe (CAI), dali smo mišljenje na prijedlog Okvirne konvencije koju priprema VE, ukazujući na potrebu transparentnosti ovakvih sustava te važnosti uspostave nadzora nad primjenom konvencije.

Iako su temeljem Koordiniranog plana za razvoj UI u EU iz 2018. godine, države članice trebale izraditi nacionalne strategije razvoja umjetne inteligencije do kraja 2019. godine, RH to još nije učinila. Radna skupina za izradu nacionalne strategije, čiji smo član, tijekom 2022. nije se sastajala.
Uporaba UI moguća je u raznim područjima života – zapošljavanja, rada, zdravstva, javne uprave, borbe protiv dezinformacija i govora mržnje i drugih, kako u privatnom tako i u javnom sektoru.
Razmatrajući unaprjeđenja koja UI može donijeti u zdravstveni sustav u sklopu programa Digitalna Europa kojeg koordinira Institut Ruđer Bošković, EK je 2022. odobrila financiranje projekta AI4HEALTH.Cro – UI za pametno zdravstvo i medicinu, koji je započeo u siječnju 2023. godine. Projektni partneri uključuju privatni poslovni sektor, akademsku zajednicu, javni sektor i regulatorna tijela, a projektom se želi doprinijeti razvoju efikasnih i otpornih digitalnih rješenja u zdravstvenom sustavu. Centar AI4HEALTH.Cro služit će kao jedinstvena platforma i „one-stop-shop“ za pružanje sveobuhvatne podrške korisnicima u svim fazama razvoja, od testiranja prije ulaganja do plasiranja, u stjecanju novih vještina i kompetencija, olakšavanju financiranja te jačanju njihove uloge u inovacijskom ekosustavu te umrežavanju i suradnji na europskoj razini.

U javnoj upravi u RH se trenutno provode projekti kojima se uvodi UI radi unaprjeđenja tražilica te razvoja automatizacije analize dokumenata, čime će se unaprijediti i olakšati njihovo pretraživanje i dostupnost. MPU je 2022. godine pokrenulo postupak nabave centraliziranog sustava selekcije kojim bi se u potpunosti digitalizirao proces zapošljavanja u državnoj službi. Kako još nije poznata metodologija rada sustava i kriteriji algoritamskog odlučivanja pri selektiranju kandidata, nastavit ćemo pratiti njegovo uvođenje, posebno jer su prijedlogom Uredbe EK o UI iz 2021. sustavi rangiranja kandidata pri zapošljavanju kategorizirani kao visokorizični. Stoga je prije njihovog stavljanja u funkciju potrebno pažljivo procijeniti i prevenirati moguće negativne posljedice na ljudska prava i jednakost.

Zapošljavanje postaje složenije jer se poslovi sve više obavljaju na daljinu, a radnici zapošljavaju putem Interneta, bez osobnog susreta s budućim poslodavcem. EU projektom FINDHRxxiii (Fairness and Intersectional Non-Discrimination in Human Recommendation), kojeg provodi multidisciplinarni tim stručnjaka, a koordinira Sveučilište u Barceloni, nastoji se razviti sustav za algoritamsko zapošljavanje najboljih kandidata, bez diskriminacije. Projekt bi trebao osigurati sustav pravednog rangiranja, alate kojima će se smanjiti rizik od diskriminacije, tehničke smjernice za procjenu učinka i algoritamski nadzor, kao i vodič za razvoj takvih softvera UI.

Osmislit će se specijalizirana obuka za programere i revizore sustava UI te će po završetku projekta publikacije, softver i programi za nastavu biti dostupni javnosti bez naknade. Stoga bi rezultati ovog projekta trebali biti značajni i za nacionalna tijela koja namjeravaju koristiti ovakve sustave za selekciju kandidata.

Automatski sustavi, uključujući UI, mogu biti koristan alat i za detektiranje govora mržnje ili provjeru točnosti informacija. Iako identificiranje dezinformacija ima niz izazova, pozitivan primjer korištenja UI jest razvoj računalnih sustava namijenjenih provjeri točnosti informacija radi učinkovitijeg suzbijanja dezinformacija, namijenjen hrvatskom jeziku. U okviru NPOO-axxiv predstavljen je projekt „Uspostava provjere medijskih činjenica i sustava javne objave podataka“ s ciljem razvijanja mehanizma za poticanje profesionalnog novinarstva. Pritom su predstavljeni i rezultati istraživanja Laboratorija za analizu teksta i inženjerstvo znanja (TakeLab) pri Fakultetu za elektrotehniku i računarstvo u Zagrebu (FER). S obzirom da trenutno dostupni alati ne rješavaju sve izazove i nisu prilagođeni specifičnostima pojedinih jezika, TakeLab namjerava razviti učinkovit sustav analize teksta prilagođen specifičnostima hrvatskoga jezika s ciljem preveniranja širenja dezinformacija. Međutim, osim prednosti u ubrzavanju i olakšavanju procesa, UI nosi i rizike.

Preporuka 119.
Ministarstvu gospodarstva i održivog razvoja, da izradi Nacionalni plan za razvoj umjetne inteligencije

Pojedine zemlje koje su uvele sustav UI radi ubrzavanja i/ili olakšavanja donošenja odluka u javnom sektoru, svjedoče i ozbiljnim propustima takvih sustava. Državna tijela koja primjenjuju sustave UI najčešće ih nabavljaju od trećih osoba, bez znanja koje podatke i na koji način ih sustav koristi, što se može negativno odraziti na prava građana. Primjerice, prema izvještavanju medija i OCD-a, u Srbiji je nedavno donesen zakon, koji je trenutno na ocjeni ustavnosti, kojim je uveden automatski sustav odobravanja socijalnih naknada, pri čemu je algoritam koristio osobne podatke iz različitih registara, između ostalih i podatke o etnicitetu te socio-ekonomskom statusu građana. Zbog toga je velikom broju osoba, posebice Romima, uskraćena socijalna pomoć jer je algoritam zaključio da ostvaruju prihode prikupljanjem sekundarnih sirovina. Radi preveniranja prijevara sličan sustav automatskog donošenja odluka kod odobravanja socijalne pomoći uveden je 2014. u Nizozemskoj. Više od šest godina sustav je znao pogrešno označavati osobe koji žive u siromašnim četvrtima kao rizične za počinjenje prijevara, koristeći velike količine podataka iz nekoliko državnih registara, a kao veliki pokazatelj rizika označeni su dvojno državljanstvo i niska primanja. Građani nisu znali koji se podaci i kako obrađuju te nije bilo dovoljno zaštitnih mehanizama unutar sustava. Zbog nejasnog načina funkcioniranja algoritma te etničkog i socioekonomskog profiliranja građana, što može dovesti do diskriminacije, sud je donio odluku o nedopuštenosti korištenja ovog sustava, a vlada je podnijela ostavku.

S obzirom na utjecaj javnog sektora na ostvarivanje prava građana, osobito je važno da uvođenje UI u javni sektor bude pažljivo osmišljeno. Pri tome bi trebalo biti i transparentno, odnosno građani bi trebali biti informirani da sustavi koriste UI.

S izazovima korištenja UI se susreću i radnici zaposleni putem digitalnih radnih platformi. Tako je u Italiji sud zaključio da platforma diskriminira radnike dodjeljujući im manje poželjne i udaljenije vožnje ukoliko su neko vrijeme bili odsutni s aplikacije, čak i kad je to bilo uvjetovano zdravstvenim razlozima. Na slične probleme ukazuju i platformski radnici u RH. To ukazuje da digitalni alati i tehnološka rješenja mogu biti korisni, no sustavi moraju biti transparentni, odnosno treba biti jasno kako sustav donosi odluke, koje podatke obrađuje i koji su rizici, radi njihovog pravovremenog otklanjanja. Radi toga smo u e-savjetovanju pri izmjenama i dopunama Zakona o radu predložili transparentno postupanje digitalnih radnih platformi i agregatora kod zapošljavanja i dodjele poslova platformskim radnicima, o čemu više pišemo u dijelu o pravu na rad.

Sve se češće postavlja pitanje odgovornosti za štetu nastalu korištenjem UI, primjerice ukoliko autonomno vozilo izazove nesreću ili ako liječnik donese pogrešan zaključak jer je dijagnostiku prepustio automatskom sustavu. Zbog toga je EK 2022. donijela novu Direktivu o odgovornosti za UI, kojom se oštećenom pojednostavljuje dokazivanje ukoliko je šteta nastala ažuriranjem softvera ili UI.

 Preporuka 120.
Ministarstvu gospodarstva i održivog razvoja, da uspostavi registar sustava umjetne inteligencije koji se koriste u javnom sektoru

U slučajevima visokorizičnih sustava UI, oštećenici će moći pristupiti relevantnim podacima u vlasništvu kompanije i/ili dobavljača te potom podnijeti odštetni zahtjev na temelju pretpostavke uzročnosti, bez dokazivanja da je šteta prouzročena greškom ili propustom sustava UI.

U svakom slučaju, u primjeni novih tehnologija važna je edukacija svih aktera uključenih u izradu, implementaciju i korištenje digitalnih sustava, posebno o njihovom utjecaju na ljudska prava i jednakost. Radi osvještavanja postojanja rizika, o utjecaju UI na ljudska prava i diskriminaciju na FER-u smo održali predavanje polaznicima kolegija Uvod u UI, a studentima Pravne klinike Pravnog fakulteta u Splitu održali smo predavanje o utjecaju modernih tehnologija koje koriste UI na pravo na privatnost i zaštitu osobnih podataka.

Povezane teme u Izvješću pučke pravobraniteljice za 2022.:

Pravo na zdravlje, Policijski sustav, Zatvorski sustav i Osobe s duševnim smetnjama kojima je ograničena sloboda kretanja.

Cijelo Izvješće pučke pravobraniteljice za 2022. možete otvoriti u interaktivnoj verziji i u PDF formatu.