Η Amnesty εξέτασε στη βαλκανική δημοκρατία της Σερβίας τη λειτουργία της Κοινωνικής Κάρτας. Αυτή η μεθοδολογία κοινωνικού ελέγχου εισήχθη πέρυσι εκεί – με τη στήριξη της Παγκόσμιας Τράπεζας. Από την έρευνα προέκυψε ότι ιδιαίτερα η κοινότητα των Ρομά και άτομα με αναπηρία επηρεάζονται σοβαρά από τη χρήση αυτού του αλγορίθμου.
Ένα από τα μειονεκτήματα είναι ότι οι υπάλληλοι επικοινωνίας με τους πελάτες αφιερώνουν περισσότερο χρόνο στον έλεγχο και την καταχώριση δεδομένων, αντί να έχουν συνομιλίες με τον πελάτη, όπως αναφέρεται.
Η έκθεση θέτει ερωτήματα σχετικά με τη χρήση αλγορίθμων παγκοσμίως στη λήψη αποφάσεων για κοινωνικές παροχές. Η Amnesty τονίζει την ανάγκη για διαφάνεια και ηθική σε τέτοια συστήματα.
Η έρευνα της Amnesty περιγράφει μεταξύ άλλων την περίπτωση μιας μητέρας Ρομά, της οποίας το κοινωνικό επίδομα ανακλήθηκε επειδή ένας φιλανθρωπικός οργανισμός είχε συνεισφέρει στα έξοδα κηδείας της μικρής της κόρης. Στην Ολλανδία είναι γνωστές περιπτώσεις υπηρεσιών κοινωνικής πρόνοιας που διέκοψαν ή μείωσαν επιδόματα επειδή ένας γενναιόδωρος δωρητής ή ένα μέλος της οικογένειας είχε δωρίσει «μια τσάντα με ψώνια».
Σύμφωνα με την έρευνα, πολλοί άνθρωποι χάνουν την εποπτεία όταν εμπλέκονται σε διαδικασίες που ελέγχονται από υπολογιστή, όπως συνέβη παλαιότερα στην Ολλανδία με τις υποθέσεις παιδικού επιδόματος. Φαίνεται πως ο αλγόριθμος καθιστά τους κοινωνικά ευάλωτους ακόμη πιο ευάλωτους, αντί να τους στηρίζει όπως αρχικά προοριζόταν.
Η οργάνωση ανθρωπίνων δικαιωμάτων καλεί τις αρχές να επανεξετάσουν το σύστημα και να διασφαλίσουν ότι θα είναι δίκαιο και δίκαιο για όλους τους πολίτες, ανεξάρτητα από το υπόβαθρό τους ή τις αναπηρίες τους.