Amnesty melakukan penelitian di Republik Balkan Serbia mengenai fungsi Kartu Sosial. Metode penilaian sosial ini diperkenalkan tahun lalu di sana dengan dukungan dari Bank Dunia. Penelitian tersebut menunjukkan bahwa terutama komunitas Roma dan penyandang disabilitas sangat terdampak negatif oleh penggunaan algoritme ini.
Salah satu kerugian adalah bahwa petugas kontak klien menghabiskan lebih banyak waktu untuk memeriksa dan memasukkan data, ketimbang melakukan percakapan dengan klien, demikian pernyataan dalam laporan tersebut.
Laporan ini menimbulkan pertanyaan tentang penggunaan algoritme secara global dalam pengambilan keputusan di fasilitas sosial. Amnesty menekankan pentingnya transparansi dan etika dalam sistem semacam ini.
Penelitian Amnesty memaparkan, antara lain, kasus seorang ibu Roma yang tunjangan sosialnya dicabut karena sebuah organisasi amal ikut membiayai biaya pemakaman anak perempuannya. Di Belanda, terdapat kasus-kasus Dinas Sosial yang menghentikan atau memotong tunjangan karena seorang dermawan atau anggota keluarga ‘memberikan sebungkus bahan makanan’.
Berdasarkan penelitian tersebut, banyak orang kehilangan gambaran utuh saat mereka harus berhadapan dengan prosedur berbasis komputer, seperti yang pernah terjadi di Belanda dengan proses tunjangan anak. Tampaknya algoritme membuat kelompok sosial yang rentan menjadi lebih lemah, bukan membantu mereka seperti yang semula diharapkan.
Organisasi hak asasi manusia itu mendesak pihak berwenang untuk meninjau kembali sistem tersebut dan memastikan agar sistem itu adil dan tidak memihak bagi semua warga, tanpa memandang latar belakang atau keterbatasan mereka.