عفو بینالملل نحوه عملکرد کارت اجتماعی را در جمهوری بالکان، صربستان، بررسی کرده است. این روش ارزیابی اجتماعی، سال گذشته با حمایت بانک جهانی در آنجا معرفی شد. از تحقیق مشخص شد که بهویژه جامعه روم و افراد معلول به شدت تحت تأثیر استفاده از این الگوریتم قرار گرفتهاند.
یکی از معایب آن این است که مأموران تماس با مشتریان وقت زیادی را صرف بررسی و وارد کردن دادهها میکنند، به جای اینکه با خود مراجعهکننده گفتگو کنند، طبق گزارش ارائه شده.
این گزارش پرسشهایی در مورد استفاده جهانی از الگوریتمها در تصمیمگیری مربوط به خدمات اجتماعی مطرح میکند. عفو بینالملل بر ضرورت شفافیت و اخلاق در چنین سیستمهایی تأکید دارد.
مطالعه عفو بینالملل وضعیت مادری از جامعه روم را شرح میدهد که کمک اجتماعیاش قطع شد، چون یک سازمان خیریه در هزینههای مراسم خاکسپاری دختر کوچکش مشارکت مالی کرده بود. در هلند نیز مواردی گزارش شده که ادارات خدمات اجتماعی پرداختیها را به دلیل اینکه یک خیر یا یکی از اعضای خانواده «کیف خرید» اهدا کرده بود، متوقف یا کاهش دادهاند.
براساس تحقیق، بسیاری از افراد هنگامی که با فرآیندهای مبتنی بر کامپیوتر روبرو میشوند، کنترل اوضاع را از دست میدهند، همانطور که قبلاً در پروندههای یارانه کودک در هلند مشاهده شده بود. به نظر میرسد الگوریتم، به جای حمایت، افراد آسیبپذیر را شکنندهتر میکند، برخلاف هدف اولیه خود.
این سازمان حقوق بشری از مقامات میخواهد سیستم را بازنگری کنند و اطمینان حاصل شود که برای تمام شهروندان، صرفنظر از پیشینه یا محدودیتهایشان، عادلانه و منصفانه است.