Az Amnesty a balkáni Szerbiában vizsgálta a Szociális Kártya működését. Ezt a szociális ellenőrzési módszert tavaly vezették be, a Világbank támogatásával. A vizsgálat kimutatta, hogy különösen a roma közösséget és a fogyatékkal élő embereket érinti súlyosan az algoritmus használata.
Az egyik hátrány, hogy az ügyintézők több időt töltenek az adatok ellenőrzésével és bevitelével, ahelyett, hogy tényleges beszélgetéseket folytatnának az ügyféllel – áll a jelentésben.
A jelentés kérdéseket vet fel a döntéshozatalnál világszerte alkalmazott algoritmusok használatával kapcsolatban a szociális ellátórendszerekben. Az Amnesty hangsúlyozza a transzparencia és az etika fontosságát az ilyen rendszerekben.
Az Amnesty vizsgálat többek között egy roma anya esetét is bemutatja, akinek visszavonták a szociális juttatását, mert egy jótékonysági szervezet hozzájárult a kislánya temetési költségeihez. Hollandiában is ismertek olyan esetek, amikor a Szociális Szolgálatok megszüntették vagy csökkentették a támogatásokat, mert egy nagylelkű adományozó vagy családtag „egy zsák bevásárlócsomagot” adott.
A vizsgálat szerint sokan elveszítik az áttekintést, amikor számítógép vezérelt eljárásokba kerülnek, ahogy korábban Hollandiában a gyermekjuttatási ügyekben történt. Úgy tűnik, hogy az algoritmus a szociálisan hátrányos helyzetűeket még sebezhetőbbé teszi, ahelyett hogy támogatná őket, amint azt eredetileg tervezték.
Az emberi jogi szervezet arra ösztönzi a hatóságokat, hogy vizsgálják felül a rendszert, és biztosítsák, hogy az minden állampolgár számára igazságos és méltányos legyen, függetlenül a hátterüktől vagy fogyatékosságaiktól.