Amnesty undersøkte i Balkanrepublikken Serbia hvordan den Sosiale Kort-metoden fungerer. Denne metoden for sosial kontroll ble innført der i fjor – med støtte fra Verdensbanken. Undersøkelsen viste at særlig Roma-samfunnet og personer med funksjonsnedsettelser blir hardt rammet av bruken av denne algoritmen.
En av ulempene er at kontaktansatte bruker mer tid på å kontrollere og registrere data, i stedet for å ha samtaler med klientene, blir det hevdet.
Rapporten reiser spørsmål om den globale bruken av algoritmer i beslutningsprosesser innen sosiale tjenester. Amnesty understreker nødvendigheten av åpenhet og etikk i slike systemer.
Amnestys undersøkelse beskriver blant annet saken til en romakvinne som mistet sin sosiale ytelse fordi en veldedig organisasjon hadde bidratt med betaling av begravelseskostnadene til hennes lille datter. I Nederland er det kjent tilfeller hvor Sosialtjenesten har stoppet eller redusert ytelser fordi en gavmild giver eller et familiemedlem hadde gitt «en pose med dagligvarer».
Undersøkelsen viser at mange mister oversikten når de havner i datastyrte prosedyrer, slik det tidligere har skjedd i Nederland med barnebidragsprosesser. Det ser ut til at algoritmen gjør sosialt vanskeligstilte enda mer sårbare, i stedet for å støtte dem slik det opprinnelig var ment.
Menneskerettighetsorganisasjonen oppfordrer myndighetene til å gjennomgå systemet og sørge for at det er rettferdig og rettmessig for alle borgere, uavhengig av deres bakgrunn eller funksjonsnedsettelser.