Razvoj i korištenje novih tehnologija, posebice sustava umjetne inteligencije, donosi brojne prednosti za svakodnevni život i ima veliki potencijal za poboljšanje cjelokupnog društvenog razvoja, ali može i ugroziti temeljna ljudska prava i jednakost, pa i na sasvim nove načine.

Utjecaj umjetne inteligencije na ljudska prava i diskriminaciju bio je tema predavanja pučke pravobraniteljice Tene Šimonović Einwalter studenticama i studentima Fakulteta elektrotehnike i računarstva održanog 8. lipnja 2022. u sklopu kolegija Uvod u umjetnu inteligenciju, na poziv jednog od nositelja kolegija, prof. dr. sc. Jana Šnajdera. Kolegij se održava na trećoj godini sveučilišnog preddiplomskog studija, ali su predavanje slušali i studenti s različitih godina.

Teorija, ali i primjeri

Nakon kratkog upoznavanja s osnovama pravnog poimanja ljudskih prava i suzbijanja diskriminacije, studenti su imali priliku čuti o različitim načinima na koji njihova uporaba može dovesti do kršenja pojedinih ljudskih prava i diskriminacije po različitim osnovama, kao što su rasno ili etničko podrijetlo, spol i druge.

Pravobraniteljica je potom studentima na primjerima slučajeva povreda prava ili diskriminacije, do kojih je do sada došlo u praksi, prikazala kako može doći do diskriminacije u algoritamskom odlučivanju i to u različitim fazama, primjerice, razvoja, testiranja ili korištenja takvih sustava, uključujući kroz pristranosti koje su ugrađene u sam algoritam, svjesno ili ne.

Suradnja je ključna za suzbijanje diskriminacije

Kako bi se izbjegli budući takvi slučajevi, a koji dodatno bude kod građana strah i otpor prema tehnologiji te narušavaju ugled kompanija, potrebno je raditi sve što možemo kako bismo negativne učinke prevenirali. Za to je ključan dijalog između stručnjaka u području ljudskih prava i jednakosti sa stručnjacima za razvoj tehnologije, i to od samih početka razvoja sustava temeljenih na umjetnoj inteligenciji. Prvi korak u tome je da se trenutni studenti, mnogi od kojih već rade, upoznaju s time što su ljudska prava dovoljno rano, kako bi u svom budućem radu imali u vidu ovaj aspekt pri razvoju novih proizvoda.

Isto tako, kroz širi društveni dijalog je važno podizati i razinu svijesti javnosti o ovim izazovima, jer mnogi nisu svjesni trenutne primjene ovih sustava, a pogotovo do koje mjere je za očekivati da će utjecati na budućnost svih nas.

Zakonodavne aktivnosti na razini EU-a i Vijeća Europe

Zato je razvoj umjetne inteligencije potrebno uskladiti i s pravnim normama i etičkim vrijednostima, kao što su poštivanje ljudskog dostojanstva, jednakosti i zaštite ljudskih prava.

Pravobraniteljica je studente upoznala i s trenutnim zakonodavnim inicijativama na europskoj razini. S obzirom da je kao predstavnica Europske komisije protiv rasizma i netolerancije (ECRI) Vijeća Europe pravobraniteljica Šimonović Einwalter sudjelovala u radu Ad-hoc odbora za umjetnu inteligenciju (CAHAI) Vijeća Europe, a u  travnju 2022. i novoosnovanog Odbora Vijeća Europe za umjetnu inteligenciju (CAI), studentima je kratko izložila razvoj u okviru Vijeća Europe, kao i osnovne postavke Uredbe o umjetnoj inteligenciji kojom bi se ovo pitanje trebalo regulirati na razini EU-a, a koja je također trenutno u izradi.

S  obzirom da su studenti FER-a pokazali interes ne samo za utjecaj umjetne inteligencije, nego i za širu temu zaštite ljudskih prava i osobito diskriminacije, nadamo se da će se ova suradnja nastaviti.

Utjecaj umjetne inteligencije na ljudska prava novo je poglavlje i u Izvješću pučke pravobraniteljice za 2021. o čemu više možete saznati ovdje.