Društvene znanosti

Tvrtke imaju moralnu dužnost objasniti kako algoritmi donose odluke koje utječu na ljude

L.B.

Tvrtke se sve više oslanjaju na algoritme koji koriste podatke korisnika kako bi donosili odluke koje u konačnici utječu na ljude. Primjerice, Amazon, Google i Facebook koriste algoritme za prilagođavanje sadržaja korisnicima, a Uber i Lyft koriste ih za usklađivanje putnika s vozačima i određivanje cijena.

Imaju li korisnici, kupci, zaposlenici i drugi pravo znati kako tvrtke koje koriste algoritme donose svoje odluke? Analiza koju su proveli istraživači sa Sveučilišta Carnegie Mellon istražuje moralne i etičke temelje takvog prava.

"U većini slučajeva tvrtke ne nude nikakva objašnjenja o tome kako dobivaju pristup korisničkim profilima, odakle prikupljaju podatke i s kime trguju svojim podacima", objašnjava Tae Wan Kim, izvanredni profesor poslovne etike na Sveučilištu Carnegie Mellon, koji je napisao analizu. "Nije u pitanju samo poštenje, radi se i o povjerenju."

U digitalnoj eri, pišu autori, neki kažu da informirani pristanak - dobivanje prethodnog dopuštenja za otkrivanje podataka uz puno znanje o mogućim posljedicama - više nije moguć zbog kontinuiranosti transakcija. Umjesto toga, autori konceptualiziraju informirani pristanak kao jamstvo povjerenja za nepotpune algoritamske procese.

Dobivanje informiranog pristanka, posebno kada tvrtke prikupljaju i obrađuju osobne podatke, etički je potrebno, osim ako se on prethodno poništi iz specifičnih, prihvatljivih razloga, tvrde autori. Štoviše, informirani pristanak u kontekstu algoritamskog odlučivanja, posebno za nekontekstualne i nepredvidive svrhe, nepotpun je bez osiguranja povjerenja.

U tom kontekstu, zaključuju autori, tvrtke imaju moralnu dužnost pružiti objašnjenje ne samo prije nego što se dogodi automatizirano donošenje odluka, već i nakon toga, tako da se objašnjenje može odnositi i na funkcionalnost sustava i na obrazloženje određene odluke.
Autori napominju da su se mnoge tvrtke već uhvatile u koštac s ovim izazovima. Neki od njih tako zapošljavanju ‘tumače podataka’, odnosno ljude koji premošćuju rad informacijskih znanstvenika i onih na koje utječu odluke kompanija.

Izvor: Carnegie Mellon University

Možda će vas zanimati