* Napomena: Čitate poglavlje iz Izvješća pučke pravobraniteljice za 2021., koje smo predali Hrvatskom saboru u ožujku 2022. Cijelo Izvješće možete otvoriti u PDF formatu i u interaktivnoj verziji. Više o temama vezanima uz pravo na privatnost i utjecaj umjetne inteligencije na ljudska prava možete doznati i u brojnim drugim poglavljima Izvješća – popis tih poglavlja nalazi se na dnu ove stranice.

Pravo na privatnost

Pritužbe koje smo zaprimili tijekom 2021. godine odnosile su se na sustave videonadzora kojima se prekoračuju granice zakonski propisanih perimetara snimanja, čime se ugrožava privatnost građana i pravo na nepovredivost doma. Dio pritužbi odnosio se na prekomjerno prikupljanje biometrijskih podataka od strane pružatelja usluga (teleoperatera, kartičnih kuća, banaka i komunalnih tvrtki), povodom čega smo zatražili postupanje AZOP-a. Građani su nam se prituživali i radi dugotrajnosti postupanja AZOP-a po zahtjevima za utvrđivanje povrede prava iz Opće uredbe o zaštiti osobnih podataka (EU) 2016/679 i Zakona o provedbi Opće uredbe o zaštiti podataka.

Od početka epidemije bolesti COVID-19 u javnosti se kontinuirano pojavljuje pitanje granice zadiranja u privatnost, osobito u kontekstu zaštite tzv. informacijske privatnosti, naročito zaštite podataka o zdravlju.

Tako smo zaprimili značajan broj pritužbi građana u kojima su navodili kako različiti pravni subjekti (poslodavci, trgovci, ugostitelji) od njih traže podatke o zdravstvenom stanju u svrhu provedbe protuepidemijskih mjera, što je kod građana stvaralo dojam pretjeranog zadiranja u njihovu privatnost. Međutim, pravo na privatnost nije apsolutno i ono se, uz ispunjavanje propisanih uvjeta i uz primjenu načela razmjernosti, može ograničiti.

Značajno nezadovoljstvo djelatnika i građana izazvalo je uvođenje obveznog posjedovanja EU COVID potvrde ili drugog odgovarajućeg dokaza, kao uvjeta za ulazak u javne ustanove i državne institucije, posebno zdravstvene i ustanove socijalne skrbi. Građani su isticali da uvid u njihove zdravstvene podatke može izvršiti veliki broj osoba, portiri i pomoćno osoblje te zaštitari i administrativno osoblje, bez jasno definiranih i prezentiranih tehničkih mjera zaštite kojima se jamči sigurnost prikupljanja i obrade podataka. Pri tome su navodili i da se predmetnom mjerom izravno zadire u njihovo pravo na privatnost, s obzirom da su podatci o zdravstvenom stanju osjetljivi podatci koje ne žele dijeliti.

Općom uredbom i Zakonom o provedbi Opće uredbe propisano je da su podatci o zdravstvenom stanju posebno zaštićena kategorija podataka (tzv. osjetljivi podatci) te se u njihovoj obradi moraju poštivati načela nužnosti, proporcionalnosti i odgovornosti, uz smanjenje potencijalnih rizika koje takva obrada može predstavljati za prava i temeljne slobode građana, osobito njihovo pravo na privatnost.

Istovremeno su Općom uredbom propisane iznimke te je AZOP izdao priopćenje pojašnjavajući da je obrada zdravstvenih podataka povezana s provedbom Odluke Stožera civilne zaštite RH, zakonita i u skladu s Općom uredbom. Pojasnio je da navedena obrada predstavlja iznimku načelne zabrane obrade posebnih kategorija osobnih podataka te da je uvid u EU COVID potvrdu, odnosno drugi odgovarajući dokaz, pri ulasku u službene prostorije zakonit, a što uključuje i provjeru njene valjanosti putem aplikacije CovidGO.

Iz pritužbi proizlazi nedovoljno poznavanje zakonskog okvira te nedovoljna pravna sigurnost u pojedinim segmentima prava na privatnost. U tom kontekstu ističemo pritužbu radi odbijanja zahtjeva za dostavom medicinske dokumentacije preminule osobe članovima njene obitelji. Naime, obiteljski liječnik je odbio dostaviti medicinsku dokumentaciju unucima preminule osobe pozivajući se na zaštitu privatnosti pacijenta i zaštitu osobnih podataka.

Međutim, sukladno Zakonu o provedbi Opće uredbe, podatci preminule osobe nisu zaštićeni zakonskim okvirom zaštite osobnih podataka i ne podliježu pravnom režimu Opće uredbe. Također, čl. 24. Zakona o pravima pacijenata propisano je da u slučaju smrti, ako to pacijent nije za života izrijekom zabranio, pravo na uvid u medicinsku dokumentaciju ima bračni drug pacijenta, izvanbračni drug, punoljetno dijete, roditelj, punoljetni brat ili sestra te zakonski zastupnik, odnosno skrbnik pacijenta.

Pritužitelji su pravomoćnim rješenjem o nasljeđivanju utvrđeni kao zakonski nasljednici te su legitimirani na ostvarivanje prava. Međutim, MZ je pritužiteljima odgovorilo da ne ostvaruju pravo, radi čega smo pokrenuli ispitni postupak te zatražili preispitivanje postupanja. U ponovljenom je postupku zahtjev pozitivno riješen te smo, radi pravne sigurnosti, od MZ-a zatražili definiranje jednoznačnih pravila postupanja po sličnim zahtjevima.

Građani su se prituživali na dugotrajnost upravnih postupaka koje provodi AZOP temeljem zahtjeva za utvrđivanje povrede prava iz Opće uredbe i Zakona o provedbi Opće uredbe, zbog čega nisu mogli pravovremeno zaštiti svoja prava. Važan preduvjet funkcioniranja sustava zaštite prava na privatnost, uz adekvatan zakonski okvir i njegovo poznavanje, svakako je i pravovremeno postupanje po istome. Uzimajući u obzir značajno povećanje obima posla, koje je od stupanja na snagu Opće uredbe u nadležnosti AZOP-a, potrebno je osigurati preduvjete za pravovremeno postupanje.

Pravo na privatnost osobito je važno u kontekstu zaštite prava pacijenata te smo sudjelovali u savjetovanju sa zainteresiranom javnošću o izmjenama i dopunama Zakona o sigurnosti prometa na cestama, kojim se izabranim liječnicima obiteljske medicine uvode dodatne obveze s mogućim štetnim učincima na odnos povjerenja između liječnika i pacijenta.

Sukladno novoj zakonskoj odredbi, ukoliko se na zdravstvenom pregledu ili tijekom liječenja utvrdi zdravstveno stanje radi kojeg vozač nije sposoban upravljati vozilom, privremeno ili najduže do šest mjeseci, liječnici su o tome dužni obavijestiti nadležnu policijsku upravu. Navedeno otvara pitanja o narušavanju odnosa povjerenja između liječnika i pacijenta, ugrožavanja liječničke tajne te moguće povrede prava na privatnost pacijenata. Zakonom o zaštiti prava pacijenata propisano je da pacijent ima pravo na povjerljivost podataka koji se odnose na njegovo zdravlje, dok je Zakonom o liječništvu određeno da sve što liječnik sazna o pacijentu koji mu se obrati za liječničku pomoć, a u vezi sa zdravstvenim stanjem, mora čuvati kao liječničku tajnu.

Iako se mogućnost otkrivanja liječničke tajne može propisati posebnim zakonom kao izuzetak, prije uvođenja takve obveze trebalo je provesti detaljnu analizu razmjernosti predmetne odredbe i njenog potencijalno štetnog utjecaja na pravo na privatnost, što pri procjeni Nacrta prijedloga Zakona nije učinjeno, te je predlagatelj konstatirao da po svim kategorijama procjene Zakon ne proizvodi negativne učinke na pravo na privatnost.

 

Utjecaj umjetne inteligencije na ljudska prava

Umjetna inteligencija (UI) već je dio naših života pa primjerice putem pametnih telefona dobivamo prijedloge usluga koje bi nam se mogle svidjeti. UI će biti “tehnologija opće namjene” našeg doba i imat će veliki utjecaj na način života i rada ljudi u nadolazećim godinama i desetljećima, a tvrtke, vlade i pojedinci već sada primjenjuju sustave UI na razne načine. Činjenica je da korištenje novih tehnologija, posebice UI, donosi brojne prednosti i potencijal, ali neupitno može i ugroziti temeljna ljudska prava i jednakost na sasvim nove načine. Zato je važno pratiti napredak, razvoj i implementaciju UI.

Trenutno je u Europi, ali i šire, u tijeku više inicijativa usmjerenih na regulaciju ovoga područja. S posebnim fokusom na učinak na ljudska prava i na jednakost (tzv. diskriminatorni učinci umjetne inteligencije), djelovao je Ad-hoc odbor za umjetnu inteligenciju (CAHAI) Vijeća Europe, u čijem je radu sudjelovala i pučka pravobraniteljica u svojstvu članice ECRI-a ispred RH, koji je u prosincu 2021. godine Odboru ministara dostavio prijedlog koji uključuje donošenje novog instrumenta iz ovog područja. U vrijeme pisanja ovog Izvješća u osnivanju je novi Odbor za UI Vijeća Europe (CAI), koji će na njemu raditi.

EK je u travnju predstavila Akt o umjetnoj inteligenciji, u kojem se opredijelila za tzv. humano-centrični pristup, razmatrajući zaštitu ljudskih prava. Posredstvom MGOR-a smo dali komentare na Akt o UI.

Komisija je predložila pravila koja imaju za cilj osigurati sigurne, transparentne, etične i nepristrane sustave UI i to pod ljudskim nadzorom. Sustavi se svrstavaju prema riziku, od onih koji nose neprihvatljivi rizik, visoki rizik, ograničen i minimalan rizik sa drugačijim uvjetima ovisno o stupnju rizika.

Prijedlog je da se zabrane sustavi neprihvatljivog rizika, koji se smatraju jasnom prijetnjom građanima EU-a, primjerice sustavi za društveno vrednovanje. Sustavi visokog rizika bi se pomno ocjenjivali prije stavljanja na tržište i tijekom njihova životnog ciklusa. To su primjerice oni u prometu koji mogu ugroziti život i zdravlje građana, koji građanima mogu uvjetovati pristup obrazovanju kao na primjer bodovanje ispita ili softver za razvrstavanje životopisa u zapošljavanju, ocjenjivanje kreditne sposobnosti, u upravljanju migracijama, azilom i granicama (npr. provjera vjerodostojnosti putnih isprava) ili pak u provođenju zakona, a koje se može kositi s temeljnim pravima građana (npr. evaluacija pouzdanosti dokaza).

Za sustave ograničenog rizika, kao što su chatbotovi, vrijedili bi minimalni uvjeti, u pogledu transparentnosti, a kako bi korisnici mogli donijeti odluku žele li koristiti određenu aplikaciju. Napokon, sustavi minimalnog rizika, kao što su primjerice filteri za neželjenu e-poštu, prema prijedlogu ne bi bili zahvaćeni novim pravilima jer ne ugrožavaju prava građana.

Iz perspektive zaštite ljudskih prava bit će važno pratiti da usvojena regulativa osim građanskih i političkih, u punoj mjeri osigura zaštitu i socijalnih prava, uključujući da se korištenjem ovih sustava ne perpetuiraju postojeće društvene nejednakosti, primjerice vezano za različiti pristup građana digitalnim uslugama, postojeću diskriminaciju na tržištu rada.

ECRI i Povjerenica za ljudska prava VE također su posebnu pažnju posvetili borbi protiv diskriminacije uzrokovane UI. Europska mreža tijela za jednakost (Equinet) je, nakon što je 2020. objavio izvješće o utjecaju umjetne inteligencije na jednakost i ulozi tijela za jednakost, u 2021. godini nastavio s aktivnim radom, sudjelovanjem u konzultacijama o dokumentima EK i VE te provodeći edukacije za djelatnike tijela za jednakost, na kojima smo sudjelovali.

Iako je na europskoj razini razvoj UI u brojnim zemljama vrlo dinamičan te su do lipnja 2021. godine 20 država članica i Norveška objavile nacionalne strategije, RH još nije donijela strateški dokument za razvoj UI, čije je donošenje bilo planirano do kraja 2019. godine.

MGOR je izradilo nacrt Nacionalnog plana za razvoj UI, no on ne sadrži konkretne mjere i aktivnosti. Iako smo uključeni u članstvo Radne skupine, tijekom 2021. godine ona nije bila aktivna, s obzirom da je istaknuto da je dokument potrebno uskladiti s Paketom za UI koji je EK objavila u travnju 2021. godine, programom Digitalna Europa 2021. – 2027. i drugim relevantnim zakonodavnim i strateškim okvirom na EU i nacionalnoj razini. Finalizacija izrade navedenog srednjoročnog akta predviđena je tijekom 2022. godine.

Pri izradi konkretnih mjera i aktivnosti, važno je da ovaj nacionalni strateški dokument bude usklađen s okvirom zaštite temeljnih prava, uključujući s nacionalnim antidiskriminacijskim zakonodavstvom, strateškim dokumentima zaštite ljudskih prava i jednakosti, etičkim načelima, kao i da se uvede obveza procjene učinka takvih sustava na ljudska prava i diskriminaciju.

Važno je i osigurati učinkovita pravna sredstva i jasnu odgovornost svih koji razvijaju ili stavljaju na tržište takve sustave, s naglaskom na transparentnost pri korištenju, kako bi se spriječio njihov mogući štetni utjecaj na ljudska prava i jednakost. Istovremeno je potrebno ulagati u istraživanje i razvoj UI te izgradnju ljudskih kapaciteta i pripremu za transformaciju tržišta rada.

Važno je čim prije i osvijestiti građane o načinima primjene UI i potencijalnim posljedicama te stoga pozdravljamo namjeru MGOR za provođenjem široke informacijske kampanje kako bi se što veći broj građana upoznao s mjerama i preporukama za etičku UI. Za postizanje učinkovite, sigurne i pouzdane UI neophodni su prikladan pravni okvir i prateći nacionalni strateški dokument, pravilno prikupljanje, obrada i zaštita podataka te edukacija i informiranje građana.

Na zavidnoj su razini aktivnosti dijela hrvatskih kompanija, pri čemu osobito ističemo startupove, koji razvijaju sustave utemeljene na UI te daju značajan doprinos podizanju svijesti javnosti o UI. Za to je osobito zaslužna CroAI, Hrvatska udruga za umjetnu inteligenciju, koja okuplja vodeće tvrtke i startupove iz područja UI u RH te nastoji pozicionirati RH kao zemlju jedinstvenih prilika za razvoj UI orijentirane prema čovjeku kroz kulturu dijaloga između poduzetnika i donositelja odluka na nacionalnoj i europskoj razini.

Potrebno je pripremiti društvo u cjelini da razvije osnovne digitalne i dodatne vještine koje stroj ne može zamijeniti, primjerice kritičko mišljenje, kreativnost i upravljanje. Isto tako će biti potrebno pomoći radnicima čija će se radna mjesta najviše promijeniti ili nestati zbog primjene automatizacije, robotike i UI. Na sveučilištima bi bilo korisno poticati interdisciplinarnost kroz, primjerice, dvopredmetne studije poput prava i UI, sociologije i UI ili psihologije i UI, s obzirom da rijetki pravnici, sociolozi i psiholozi imaju dovoljno znanja o UI, odnosno programeri o društvenim znanostima.

Kako bi stručnjaci imali cjelokupnu sliku o utjecaju modernih tehnologija na ljudska prava, potrebno je uzeti u obzir i važnost etike u razvoju i upotrebi novih tehnologija. S tim u vezi inicirali smo suradnju s Fakultetom elektrotehnike i računarstva Sveučilišta u Zagrebu te Tehničkog fakulteta Sveučilišta u Rijeci, odnosno njihovim Centrima za umjetnu inteligenciju.

U ovom kontekstu sudjelovali u savjetovanju sa zainteresiranom javnošću o prijedlogu Pravilnika o obavljanju poslova privatne zaštite na javnim površinama, kojim se jedan dio policijskih ovlasti u videonadzoru javnih površina na području JLP(R)S delegira privatnim tvrtkama. Istaknuli smo da to može imati potencijalno štetan utjecaj na pravo na privatnost i zaštitu osobnih podataka te može dovesti do profiliranja pojedinih skupina građana, odnosno do diskriminacije.

S obzirom na sve veću primjenu digitalne tehnologije u javnoj upravi, koja uključuje i primjenu sustava UI, koji znatno mogu unaprijediti kvalitetu javnih usluga, socijalnu i zdravstvenu zaštitu, pristup pravosuđu te poboljšati radne uvjete, u javnoj raspravi o nacrtu Nacionalnog plana razvoja javne uprave od 2021. do 2027. godine i pripadajućeg Akcijskog plana naglasili smo važnost osiguranja transparentnosti rada digitalnih sustava, posebice onih koji će automatski zaključivati i donositi odluke.

Istaknuli smo kako je potrebno osigurati i dodatni ljudski nadzor nad radom takvih sustava te jedinstveni registar svih aplikacija koje će se koristiti za automatsko donošenje odluka, kao i posebne protokole za adresiranje mogućih učinaka takvih sustava na ljudska prava i jednakost. Predložili smo i da se Planom predvide edukacije razvojnih programera.

UI utječe i na potrošače, primjerice kod personaliziranih oglasa koji se donose na temelju sustava za automatizirano donošenje odluka. Pri izradi novog prijedloga Zakona o zaštiti potrošača naglasili smo potrebu za primanjem jasnih informacija potrošača o upotrebi, značajkama i svojstvima proizvoda omogućenih UI te ukazali da građani moraju biti informirani ukoliko su maloprodajna cijena ili oglas određene robe ili usluge personalizirani na osnovi sustava automatiziranog donošenja odluka.

Povezane teme u Izvješću pučke pravobraniteljice za 2021.: „Epidemija bolesti COVID 19: Utjecaj na zaštitu ljudskih prava i jednakost“, „Pravo na zdravlje“, „Pravo na dobro upravljanje“, „Pravo na rad“ i „Diskriminacija pri zapošljavanju i na radu“.

Cijelo Izvješće pučke pravobraniteljice za 2021. možete otvoriti u interaktivnoj verziji i u PDF formatu.