Amnesty undersøgte i Balkanrepublikken Serbien funktionen af det Sociale Kort. Denne metode til social vurdering blev indført sidste år – med støtte fra Verdensbanken. Undersøgelsen viste, at især romasamfundet og personer med handicap bliver hårdt ramt af brugen af dette algoritme.
En af ulemperne er, at sagsbehandlere bruger mere tid på at kontrollere og indtaste data end på samtaler med klienten, lyder det.
Rapporten rejser spørgsmål om den globale anvendelse af algoritmer i beslutningstagning vedrørende sociale ydelser. Amnesty understreger nødvendigheden af gennemsigtighed og etik i sådanne systemer.
Amnestys undersøgelse beskriver blandt andet en sag om en romamoder, hvis sociale ydelse blev inddraget, fordi en velgørenhedsorganisation havde bidraget til begravelsesomkostningerne for hendes lille datter. I Nederland er der kendte tilfælde, hvor sociale tjenester har stoppet eller skåret i ydelser, fordi en gavmild donor eller et familiemedlem havde givet en 'pose med dagligvarer'.
Undersøgelsen viser, at mange mister overblikket, når de kommer ind i computergestyrede procedurer, som tidligere set i Nederland med børnetilskudsprocesserne. Det synes som om algoritmen gør socialt udsatte endnu mere sårbare i stedet for at støtte dem, som det oprindeligt var meningen.
Menneskerettighedsorganisationen opfordrer myndighederne til at revidere systemet og sikre, at det er retfærdigt og lige for alle borgere, uanset baggrund eller handicap.