„Amnesty“ Balkanuose, Serbijos Respublikoje, tirto Socialinės kortelės veikimą. Ši socialinio vertinimo metodika ten buvo įvesta pernai – su Pasaulio banko parama. Tyrimas parodė, kad ypač Romų bendruomenė ir neįgalūs asmenys yra stipriai paveikti naudojant šį algoritmą.
Viena iš problemų yra ta, kad klientų aptarnavimo pareigūnai skiria daugiau laiko duomenų tikrinimui ir įvedimui, o ne pokalbiams su klientu, kaip teigiama.
Ataskaita kelia klausimų dėl algoritmų naudojimo pasauliniu mastu socialinių paslaugų sprendimų priėmimui. „Amnesty“ pabrėžia skaidrumo ir etikos svarbą tokiuose sistemose.
„Amnesty“ tyrimas aprašo, pavyzdžiui, Romų motinos atvejį, kurios socialinė pašalpa buvo nutraukta, nes labdaros organizacija dalyvavo jos mažosios dukters laidotuvių išlaidų padengime. Nyderlanduose žinomos situacijos, kai socialinės tarnybos nutraukė arba sumažino pašalpas, nes dosnus rėmėjas ar šeimos narys buvo padovanojęs „maišą maisto produktų“.
Tyrimas rodo, kad daugelis žmonių praranda kontrolę atsidūrę kompiuterizuotose procedūrose, kaip anksčiau Nyderlanduose buvo atvejis su vaikų išmokų procesais. Atrodo, kad algoritmas dar labiau pažeidžiamus socialiai žmones daro silpnesnius, o ne teikia paramą, kaip iš pradžių buvo numatyta.
Žmogaus teisių organizacija ragina valdžios institucijas peržiūrėti sistemą ir užtikrinti, kad ji būtų sąžininga ir teisinga visiems piliečiams, nepriklausomai nuo jų kilmės ar negalios.