Amnesty przeprowadziła badanie działania Karty Społecznej w serbskiej republice bałkańskiej. Metoda oceny społecznej została tam wprowadzona w zeszłym roku – przy wsparciu Banku Światowego. Z badań wynika, że szczególnie społeczność romska oraz osoby niepełnosprawne są poważnie dotknięte stosowaniem tego algorytmu.
Jednym z minusów jest to, że urzędnicy kontaktujący się z klientami spędzają więcej czasu na sprawdzaniu i wprowadzaniu danych, zamiast prowadzić rozmowy z klientem, jak podkreślono.
Raport stawia pytania o globalne użycie algorytmów w podejmowaniu decyzji dotyczących świadczeń socjalnych. Amnesty podkreśla konieczność przejrzystości i etyki w takich systemach.
Badanie Amnesty opisuje między innymi przypadek romskiej matki, której odebrano świadczenie socjalne, ponieważ organizacja charytatywna współfinansowała koszty pogrzebu jej córeczki. W Holandii znane są przypadki, gdy urzędy socjalne wstrzymywały lub obniżały wypłaty, ponieważ hojny darczyńca lub członek rodziny „podarował torbę zakupów”.
Według badań dużo osób traci orientację, gdy trafiają do procedur sterowanych komputerowo, jak wcześniej miało to miejsce w Holandii przy procesach dotyczących dodatków na dzieci. Wygląda na to, że algorytm czyni osoby społecznie słabsze jeszcze bardziej wrażliwymi, zamiast ich wspierać, jak to pierwotnie zamierzono.
Organizacja praw człowieka wzywa władze do przeglądu systemu i zapewnienia, że będzie on sprawiedliwy i uczciwy dla wszystkich obywateli, niezależnie od ich pochodzenia czy niepełnosprawności.