أجرت منظمة العفو تحقيقًا في جمهورية صربيا في البلقان حول كيفية عمل بطاقة الضمان الاجتماعي. تم اعتماد هذه المنهجية لاختبار الأهلية الاجتماعية هناك العام الماضي – بدعم من البنك الدولي. وأظهر التحقيق أن جماعة الغجر والأشخاص ذوي الإعاقات يتأثرون بشدة باستخدام هذا الخوارزم.
من العيوب المذكورة أن موظفي الاتصال مع العملاء يقضون وقتًا أطول في مراجعة وإدخال البيانات بدلاً من إجراء المحادثات مع العملاء، على ما جاء في التقرير.
يثير التقرير تساؤلات حول الاستخدام العالمي للخوارزميات في اتخاذ القرارات المتعلقة بالخدمات الاجتماعية. وتشدد منظمة العفو على ضرورة الشفافية والأخلاقيات في هذه الأنظمة.
يصف تحقيق العفو حالة أم من الغجر تم سحب مساعدتها الاجتماعية لأن منظمة خيرية ساهمت في دفع تكاليف جنازة ابنتها الصغيرة. وفي هولندا تم تسجيل حالات لدوائر الخدمات الاجتماعية التي أوقفت أو قلصت المساعدات بسبب تبرع سخٍ أو تقديم أحد أفراد العائلة "كيس مشتريات".
وكما يظهر التحقيق، يفقد كثير من الناس السيطرة عندما يدخلون في إجراءات تحكمها الحواسيب، كما حدث سابقًا في هولندا مع قضايا إعانات الأطفال. يبدو أن الخوارزمية تجعل الضعفاء اجتماعيًا أكثر هشاشة بدلاً من دعمهم كما كان الهدف في الأصل.
تدعو منظمة حقوق الإنسان السلطات إلى مراجعة النظام وضمان أنه عادل ومنصف لجميع المواطنين بغض النظر عن خلفياتهم أو إعاقاتهم.