Amnesty досліджувала у балканській країні Сербія функціонування Соціальної карти. Цей метод соціальної перевірки було впроваджено там минулого року за підтримки Світового банку. Дослідження показало, що зокрема ромська спільнота та люди з інвалідністю серйозно постраждали через використання цього алгоритму.
Однією з недоліків є те, що працівники, які спілкуються з клієнтами, витрачають більше часу на перевірку та введення даних замість безпосереднього спілкування з клієнтом, йдеться у звіті.
Звіт ставить питання про світове використання алгоритмів у прийнятті рішень щодо соціальних послуг. Amnesty підкреслює необхідність прозорості та етики у таких системах.
В дослідженні Amnesty описано випадок ромської матері, у якої було скасовано соціальну допомогу через те, що благодійна організація частково оплатили похоронні витрати її доньки. У Нідерландах відомі випадки, коли соціальні служби припиняли або скорочували виплати, бо щедрий благодійник або член родини подарували «пакунок із продуктами».
Згідно з дослідженням, багато людей втрачають орієнти знаючись у комп’ютеризованих процедурах, як це раніше сталося у Нідерландах під час процесів із отриманням дитячої допомоги. Схоже, що алгоритм робить соціально вразливих ще більш вразливими, замість того, щоб підтримувати їх, як було задумано спочатку.
Правозахисна організація закликає владу переглянути систему та забезпечити її справедливість і рівність для всіх громадян, незалежно від їхнього походження чи обмежень.