Uz već zabilježene rizike primjene umjetne inteligencije u područjima poput zapošljavanja ili u izvršavanju policijskih poslova, niti zdravstvo nije imuno na njene diskriminatorne učinke.

Na Konferenciji o računalima, privatnosti i zaštiti podataka (CPDP), glavnom europskom forumu koji okuplja pripadnike računalne industrije, pravnike, znanstvenike i pripadnike civilnoga društva koji se bave ovim temama, ove godine održanoj pod nazivom „Zaštita prava u promjenjivome svijetu“ od 27. do 29. siječnja u Bruxellesu, jedan od panela bio je posvećen temi diskriminacije u zdravstvu uporabom tehnologija vezanih za umjetnu inteligenciju. Jedna od govornica na panelu bila je i zamjenica pučke pravobraniteljice te predsjedavajuća Europske mreže tijela za suzbijanje diskriminacije (Equinet) Tena Šimonović Einwalter, ujedno su-predstavnica Europske komisije protiv rasizma i netolerancije (ECRI) u Ad hoc odbor za umjetnu inteligenciju (CAHAI) Vijeća Europe.

Naglasila je da je problem diskriminacije u zdravstvenome sustavu sam po sebi kompleksan, a uporaba umjetne inteligencije situaciju čini još složenijom. Karakteristika diskriminacije u zdravstvenom sustavu je da građani bez medicinskog znanja već teško razumiju detalje svojih dijagnoza i postupaka liječenja, kao i načina na koji funkcionira zdravstveni sustav te nemaju pristup podacima drugih pacijenata, pa im je diskriminaciju do koje dolazi ponekad teško uočiti. Istovremeno, uporaba umjetne inteligencije, kod koje ni zdravstveni djelatnici nisu svjesni što se nalazi u „crnoj kutiji“ i temeljem kojih se kriterija prosuđuje, a kamo li pacijenti, pretvara ovo u situaciju svojevrsne „dvostruke crne kutije“. Mnogi se već nisu skloni prituživati na diskriminaciju u zdravstvu, jer se nalaze u ranjivoj poziciji narušena zdravlja pa im je pomoć zdravstvenog sustava nužna, a korištenje umjetne inteligencije nosi sa sobom dodatne rizike netransparentnosti i temelja za odluke, bilo da je riječ o postavljanju dijagnoze ili tijeka i načina liječenja. Zato im je još teže uočiti diskriminaciju i potražiti zaštitu svojih prava. Međutim, naglasila je Šimonović Einwalter, glavna specifičnost zdravstvenog  sektora u odnosu na druge u kojima se koristi umjetna inteligencija je da se bavi životom i zdravljem, stoga su rizici i opasnosti primjene tehnologija u ovome području izraženiji.

Umjetna inteligencija zdravstvu može donijeti brojne koristi, poput preciznijih i učinkovitijih dijagnostičkih postupaka i liječenja, primjerice otkrivanjem raka kože zahvaljujući učenju iz velikih setova medicinskih snimki, ali nažalost i rezultirati pogrešnim dijagnozama ili pak lišiti određene skupine pacijenata zdravstvene skrbi. Upotreba tehnologija vezanih za umjetnu inteligenciju u zdravstvenome sektoru zasigurno nam može koristiti, ali je važno prethodno postaviti dobar normativni okvir za zaštitu ljudskih prava i prevenciju diskriminacije u odnosu na sve uporabe umjetne inteligencije, pri čemu je za neka područja potreban specifičan pristup i stroža sektorska regulativa. Jedan od primjera za to je zdravstvo te bi pravila za uporabu umjetne inteligencije u zdravstvu trebala biti prilagođena njegovim specifičnostima kao sektoru visokog rizika, zaključila je Šimonović Einwalter.