Umjetna inteligencija dio je naših života, a svakim danom to će biti sve više – u Hrvatskoj pomaže da pacijenti dobiju točnu dijagnozu, studenti podršku pri upisu fakulteta, kupci brze odgovore na česta pitanja, dok na društvenim mrežama bira informacije koje bismo trebali vidjeti.

Uz sve prednosti korištenja umjetne inteligencije, postoje i veliki rizici od zlouporaba, ali i slučajnog nanošenja štete, uključujući kršenje ljudskih prava i diskriminaciju (primjeri su niže u tekstu).

Ti bi rizici uskoro u EU trebali biti bitno smanjeni, nakon što je 1. kolovoza 2024. godine na snagu stupila Uredba o umjetnoj inteligenciji.

Što je Uredba o umjetnoj inteligenciji

Riječ je o prvom EU pravnom okviru za uporabu umjetne inteligencije. Ova Uredba određuje minimalna pravila koja države članice, pa tako i Hrvatska, moraju uvesti. Istovremeno države mogu učiniti i više od onoga na što ih Uredba obvezuje i tako još i snažnije zaštiti građane.

Europska komisija navodi kako je „cilj Uredbe o umjetnoj inteligenciji pružiti programerima i subjektima za uvođenje umjetne inteligencije jasne zahtjeve i obveze“ i „smanjiti administrativno i financijsko opterećenje za poduzeća, posebno mala i srednja“. Ističe i da on vodi povjerenju u ono što umjetna inteligencija nudi, jer se njime „uvode posebne obveze transparentnosti“, s ciljem da građani budu adekvatno informirani.

Konkretnije, Uredba između ostalog zabranjuje rad umjetne inteligencije koji predstavlja neprihvatljiv rizik, utvrđuje popis aplikacija visokog rizika i uspostavlja upravljačku strukturu na europskoj i nacionalnoj razini. Izvršenje i provedbu Uredbe nadgleda Europski ured za umjetnu inteligenciju, koji je s radom počeo početkom 2024. godine, u okviru Europske komisije. EU je stupanjem na snagu Uredbe postao globalni lider u zaštiti građana od rizika koje donosi korištenje umjetne inteligencije.

Primjeri rizika

Što se sve može dogoditi ako korištenje umjetne inteligencije nije dobro pripremljeno, i to s fokusom i na ljudska prava i jednakost, pokazuju brojni primjeri iz cijelog svijeta.

U Amazonu su prestali koristiti algoritam kod zapošljavanja, nakon što su otkrili da daje prednost kandidatima koji su u životopisima imali riječi „izvršavati“ ili „zauzeti“, koje su češće pisali muški kandidati.

Istraživanja provedena u SAD-u i Velikoj Britaniji pokazala su kako je umjetna inteligencija podcijenila rizik od teških bolesti kod mlađih pacijenata, a precijenila kod starijih. To je za neke mlade značilo da nisu dobili adekvatno liječenje, dok su neki stariji pacijenti bespotrebno obavljali dodatne zahvate i koristili terapiju koja im nije bila potrebna.

Najčešće je spominjan rizik u području sigurnosti, kod automatiziranog prepoznavanja lica, gdje se ističe mogućnost veće greške kod osoba druge boje kože, što može dovesti do diskriminacije i nepovjerenja različitih skupina u policiju.

Kako će Uredba štititi građane od različitih vrsta rizika

Uredba govori o četiri razine rizika od nepravilnog korištenja umjetne inteligencije:

  • neprihvatljivi rizik: sustavi koji su jasna prijetnja sigurnosti, životima i pravima su zabranjeni, primjerice igračke s glasovnim funkcijama koje potiču opasno ponašanje
  • visoki rizik: sustavi koji moraju ispuniti stroge obveze kako bi mogli biti korišteni (vezano uz promet, polaganje ispita u školama i na fakultetima, korištenje robota u kirurgiji, automatizirano rješavanje zahtjeva za vizu, određivanje kreditnih bodova u banci, filtriranje životopisa kod zapošljavanja i drugi)
  • ograničeni rizik: sustavi kod kojih nedostaje transparentnosti u korištenju umjetne inteligencije, a kod kojih su uvedene posebne obveze upravo u tom smjeru (posjetitelji web stranice će trebati biti informirani da razgovaraju s robotom, a ne čovjekom iz službe za korisnike; u tekstu koji je stvorila umjetna inteligencija, za informiranje građana na temu od javnog interesa, morat će biti označen kao sadržaj stvoren umjetnom inteligencijom)
  • minimalan ili nikakav rizik: Uredbom se dozvoljava besplatna uporaba sustava s minimalnim rizikom, u koji spada velika većina onih koji se trenutno koriste u EU (primjerice, filtri za neželjenu poštu)

Sada, kad je Uredba o umjetnoj inteligenciji stupila na snagu, Hrvatska ga je kao država članica EU obvezna implementirati, ali i paralelno raditi na povećanju povjerenja građana u umjetnu inteligenciju.
 

Što građani Hrvatske misle o umjetnoj inteligenciji

U rujnu 2023. godine obavljeno je prvo istraživanje o percepciji UI u RH, provedeno na uzorku od 1.300 osoba, a dio je znanstveno-stručnog projekta Percepcija umjetne inteligencije u Republici Hrvatskoj. Rezultati su pokazali da je 42% ispitanika iskušalo alate umjetne inteligencije ili se njima koristi, 19,3% navodi da ima visoko poznavanje umjetne inteligencije, dok 26,3% nisko. Za 60% anketiranih ona predstavlja osjećaj neizvjesnosti ili zabrinutosti, dok ju 30% smatra korisnom. Radi straha od nestanka poslova u idućih pet do deset godina zbog umjetne inteligencije, zabrinuto je 49% ispitanika, dok ih 72% smatra da će ona negativno utjecati na međuljudske odnose.

O percepciji gubitka radnih mjesta istraživanje je na 800 ispitanika proveo i portal MojPosao. Rezultati su pokazali da svaka peta osoba (22%) smatra kako bi u narednih 10 godina mogli ostati bez posla zbog napretka tehnologije, a 10% radnika je već doživjelo promjenu radnih zadataka zbog automatizacije. Prema istraživanju Hrvatske gospodarske komore i Best Advisory d.o.o. u 342 hrvatske tvrtke, 50% velikih poduzeća primjenjuje neke od alata umjetne inteligencije, najviše u automatizaciji poslovnih procesa, no samo 5% poduzeća redovito o njoj educira zaposlenike.

Aktivnosti pučke pravobraniteljice

Kao nacionalna institucija za zaštitu ljudskih prava i središnje tijelo za suzbijanje diskriminacije, naša institucija od 2019. godine prati utjecaj umjetne inteligencije na ljudska prava i zagovara bolja pravila za njeno korištenje.

Umjetna inteligencija zasebno je poglavlje u godišnjim izvješćima pučke pravobraniteljice Hrvatskom saboru, a posljednje možete pročitati ovdje. U njemu su i dvije preporuke Ministarstvu gospodarstva: da uspostavi registar sustava umjetne inteligencije koji se koriste u javnom sektoru i da izradi Nacionalni plan za razvoj umjetne inteligencije. Naime, Hrvatska još uvijek nema ovaj nacionalni plan, iako je umjetna inteligencija već više godina u sve široj uporabi.

Pučka pravobraniteljica Tena Šimonović Einwalter je, kao članica Europske komisije protiv rasizma i nesnošljivosti (ECRI) Vijeća Europe, sudjelovala u radu Ad-hoc odbora za umjetnu inteligenciju (CAHAI) i Odbora za umjetnu inteligenciju (CAI), koji je izradio Okvirnu konvenciju Vijeća Europe o umjetnoj inteligenciji, ljudskim pravima i vladavini prava (2024) te predstavlja ECRI u Odboru stručnjaka za umjetnu inteligenciju, jednakost i diskriminaciju Vijeća Europe.