Amnesty untersuchte in der Balkanstaat Serbien die Funktionsweise der Sozialkarte. Diese Methode zur sozialen Prüfung wurde dort im vergangenen Jahr – mit Unterstützung der Weltbank – eingeführt. Aus der Untersuchung ging hervor, dass insbesondere die Roma-Gemeinschaft und Menschen mit Behinderungen durch die Verwendung dieses Algorithmus schwer betroffen sind.
Ein Nachteil ist, dass Mitarbeiter im Kundendienst mehr Zeit mit der Überprüfung und Eingabe von Daten verbringen, anstatt Gespräche mit den Klienten zu führen, so heißt es.
Der Bericht wirft Fragen zur weltweiten Verwendung von Algorithmen bei Entscheidungen in sozialen Einrichtungen auf. Amnesty betont die Notwendigkeit von Transparenz und Ethik in solchen Systemen.
Die Amnesty-Untersuchung beschreibt unter anderem den Fall einer Roma-Mutter, deren Sozialleistung gestrichen wurde, weil eine Wohltätigkeitsorganisation an den Bestattungskosten ihrer kleinen Tochter mitbezahlt hatte. In den Niederlanden sind Fälle bekannt, in denen soziale Dienste Leistungen eingestellt oder gekürzt haben, weil ein großzügiger Spender oder ein Familienmitglied „eine Tüte Lebensmittel“ geschenkt hatte.
Der Untersuchung zufolge verlieren viele Menschen den Überblick, wenn sie in computergesteuerte Verfahren geraten, wie es zuvor in den Niederlanden bei den Kindergeldverfahren der Fall war. Es scheint, als mache der Algorithmus sozial Schwächere noch verletzlicher, anstatt sie, wie ursprünglich vorgesehen, zu unterstützen.
Die Menschenrechtsorganisation ruft die Behörden dazu auf, das System zu überarbeiten und sicherzustellen, dass es für alle Bürger fair und gerecht ist, unabhängig von ihrer Herkunft oder ihren Einschränkungen.