Amnesty je v balkanski državi Srbiji preučil delovanje Socialne karte. Ta metoda socialnega preverjanja je bila tam lani uvedena z podporo Svetovne banke. Iz raziskave je razvidno, da so predvsem romska skupnost in osebe s posebnimi potrebami močno prizadete zaradi uporabe tega algoritma.
Ena od slabosti je, da uradniki, ki imajo stik s strankami, porabijo več časa za preverjanje in vnos podatkov, namesto za pogovore z uporabniki, navajajo.
Poročilo odpira vprašanja o svetovni uporabi algoritmov pri odločanju v socialnih storitvah. Amnesty poudarja potrebo po transparentnosti in etiki v takšnih sistemih.
Promotion
Raziskava Amnesty opisuje tudi primer romske matere, ki so ji odvzeli socialni prejemek, ker je humanitarna organizacija prispevala k pogrebnim stroškom njene hčerkice. Na Nizozemskem so znani primeri, ko so socialne službe ustavile ali znižale prejemke, ker je velikodušen darovalec ali družinski član podaril 'vrečko živil'.
Iz raziskave je razvidno, da mnogi ljudje izgubijo pregled, ko se znajdejo v računalniško vodenih postopkih, kot je bilo predhodno na Nizozemskem v primeru otroških dodatkov. Zdi se, da algoritem socialno šibke še dodatno ranljivih, namesto da bi jih podpiral, kot je bilo prvotno načrtovano.
Organizacija za človekove pravice poziva oblasti, naj sistem preučijo in zagotovijo, da je pravičen in pošten do vseh državljanov, ne glede na njihovo ozadje ali omejitve.