Amnesty undersökte i Balkanrepubliken Serbien hur det Sociala Kortet fungerar. Denna metod för social granskning infördes där förra året – med stöd från Världsbanken. Undersökningen visade att särskilt romska samhällen och personer med funktionsnedsättning drabbas hårt av användningen av denna algoritm.
En av nackdelarna är att handläggare lägger mer tid på att kontrollera och mata in data, istället för att ägna tid åt samtal med klienten, enligt rapporten.
Rapporten väcker frågor om den globala användningen av algoritmer vid beslutsfattande inom sociala förmåner. Amnesty betonar behovet av transparens och etik i sådana system.
Amnestys undersökning beskriver bland annat fallet med en romsk mor vars socialbidrag drogs in eftersom en välgörenhetsorganisation bidragit till begravningskostnaderna för hennes dotter. I Nederländerna är det känt att socialtjänster stoppar eller minskar bidrag om någon generös givare eller familjemedlem har donerat ”en påse med matvaror”.
Enligt undersökningen tappar många överblicken när de hamnar i datorstyrda förfaranden, likt vad som tidigare hänt i Nederländerna med barnbidragsprocesserna. Det verkar som att algoritmen gör socialt utsatta ännu mer sårbara, istället för att stötta dem som avsett från början.
Människorättsorganisationen uppmanar myndigheter att se över systemet och säkerställa att det är rättvist och jämlikt för alla medborgare, oavsett bakgrund eller funktionsnedsättning.