Amnesty je istraživao funkcioniranje Socijalne karte u balkanskoj republici Srbiji. Ta metoda socijalne provjere uvedena je prošle godine uz potporu Svjetske banke. Istraživanje je pokazalo da su posebno romska zajednica i osobe s invaliditetom ozbiljno pogođene korištenjem ovog algoritma.
Jedna od mana je da službenici za kontakt s klijentima provode više vremena na provjeru i unos podataka umjesto na razgovore s klijentom, navodi se.
Izvještaj postavlja pitanja o globalnoj upotrebi algoritama u donošenju odluka u socijalnim uslugama. Amnesty naglašava nužnost transparentnosti i etike u takvim sustavima.
Istraživanje Amnestyja opisuje, između ostalog, slučaj romske majke kojoj je ukinut socijalni dodatak jer je dobrotvorna organizacija sudjelovala u pokrivanju troškova sprovoda njezine kćerke. U Nizozemskoj poznati su slučajevi socijalnih službi koje su prekidale ili smanjivale naknade jer je velikodušni donator ili član obitelji darovao 'torbu namirnica'.
Prema istraživanju, mnogi ljudi gube pregled kada ulože u računalno vođene procedure, kao što je to prije bilo slučaj u Nizozemskoj sa slučajevima dječjeg dodatka. Čini se da algoritam dodatno čini ranjivima socijalno ugrožene umjesto da ih, kako je prvotno bilo zamišljeno, podržava.
Organizacija za ljudska prava poziva vlasti da preispitaju sustav i osiguraju da bude pošten i pravičan za sve građane, bez obzira na njihovu pozadinu ili invaliditet.