Amnesty ha esaminato nella repubblica balcanica della Serbia il funzionamento della Carta Sociale. Questo metodo di verifica sociale è stato introdotto lo scorso anno con il sostegno della Banca Mondiale. Dall'indagine è emerso che in particolare la comunità rom e le persone con disabilità sono gravemente penalizzate dall'uso di questo algoritmo.
Uno degli svantaggi è che gli assistenti ai clienti trascorrono più tempo a controllare e inserire dati, anziché parlare direttamente con il cliente, si afferma.
Il rapporto solleva interrogativi sull'uso globale degli algoritmi nelle decisioni sulle prestazioni sociali. Amnesty sottolinea la necessità di trasparenza ed etica in questi sistemi.
Lo studio di Amnesty descrive, tra l'altro, il caso di una madre rom a cui è stata revocata la prestazione sociale perché un'organizzazione benefica aveva contribuito alle spese funebri della sua bambina. Nei Paesi Bassi sono noti casi di Servizi Sociali che hanno sospeso o ridotto le prestazioni perché un generoso donatore o un familiare aveva donato "una borsa di generi alimentari".
Dall'indagine emerge che molte persone perdono il controllo quando si trovano a dover affrontare procedure gestite da computer, come era già successo in precedenza nei Paesi Bassi con i processi per le detrazioni per figli a carico. Sembra che l'algoritmo renda le persone socialmente svantaggiate ancora più vulnerabili, invece di supportarle come inizialmente previsto.
L'organizzazione per i diritti umani invita le autorità a rivedere il sistema e a garantire che sia equo e giusto per tutti i cittadini, indipendentemente dal loro background o dalle loro disabilità .