Амнести разгледа функционирането на Социалната карта в балканската република Сърбия. Този метод за социално осигуряване беше въведен миналата година – с подкрепата на Световната банка. От изследването стана ясно, че особено ромската общност и хората с увреждания са сериозно засегнати от използването на този алгоритъм.
Един от недостатъците е, че служителите по връзка с клиентите отделят повече време за проверка и въвеждане на данни, вместо за разговори с клиента, се посочва в доклада.
Докладът повдига въпроси за световната употреба на алгоритми при вземане на решения в социалните услуги. Амнести подчертава необходимостта от прозрачност и етика в такива системи.
Изследването на Амнести описва и случая на ромска майка, на която социалната помощ е била отменена, защото благотворителна организация е покрила част от разходите за погребението на нейното дете. В Нидерландия са известни случаи, в които социалните служби прекъсват или редуцират помощи, защото щедър дарител или член на семейството е подарил „пакет с хранителни продукти“.
Според изследването много хора губят контрол, когато попаднат в компютъризирани процедури, както беше и по-рано в Нидерландия при процесите около детските надбавки. Изглежда, че алгоритъмът прави социално слабите още по-уязвими, вместо да ги подкрепя, както беше първоначално предвидено.
Организацията за човешки права призовава властите да преразгледат системата и да гарантират, че тя е справедлива и честна за всички граждани, независимо от тяхното потекло или увреждания.