アムネスティはバルカンのセルビア共和国で社会カードの機能を調査しました。この社会審査の手法は昨年、世界銀行の支援を得て導入されました。調査の結果、とりわけロマコミュニティや障害者がこのアルゴリズムの使用によって深刻な影響を受けていることが明らかになりました。
デメリットの一つとして、クライアント接触担当者がクライアントとの対話よりもデータの確認や入力に多くの時間を割いていることが指摘されています。
この報告書は、社会保障の意思決定における世界的なアルゴリズム利用に疑問を投げかけています。アムネスティは、そのようなシステムの透明性と倫理の重要性を強調しています。
アムネスティの調査は、チャリティ団体が故人の葬儀費用を一部負担したことを理由にロマの母親の社会給付が停止された例なども紹介しています。オランダでは、寛大な寄付者や家族が「一袋の食料品」を贈ったことで福祉サービスが給付を停止または削減した事例も知られています。
調査によると、多くの人々はコンピューター制御の手続きに入ると状況把握が困難になり、過去にオランダの児童手当問題で見られたようなケースが生じています。このアルゴリズムは社会的弱者を支援するはずが、むしろ彼らをより脆弱にしている可能性があります。
人権団体は当局に対し、システムを見直し、背景や障害の有無にかかわらずすべての市民にとって公平で正義にかなったものとするよう求めています。