एमनेस्टी ने बाल्कन गणराज्य सर्बिया में सोशल कार्ड की कार्यप्रणाली की जांच की। यह सामाजिक परीक्षण की विधि पिछले साल विश्व बैंक के समर्थन से वहाँ लागू की गई थी। जांच में पता चला कि विशेषकर रोमा समुदाय और विकलांग लोगों को इस एल्गोरिदम के उपयोग से गंभीर प्रभावित किया जा रहा है।
अध्ययन के अनुसार, ग्राहक-सम्पर्क अधिकारियों को डेटा जांचने और दर्ज करने में अधिक समय लगाना पड़ता है, जिससे ग्राहक से संवाद के लिए कम समय बचता है।
रिपोर्ट सामाजिक सेवाओं में निर्णय-प्रक्रिया में एल्गोरिदम के वैश्विक उपयोग पर सवाल उठाती है। एमनेस्टी इस प्रकार की प्रणालियों में पारदर्शिता और नैतिकता की आवश्यकता पर जोर देता है।
एमनेस्टी के अध्ययन में एक रोमा मां का उदाहरण शामिल है, जिसकी सामाजिक सहायता वापस ले ली गई क्योंकि एक चैरिटी संगठन ने उसकी बेटी के अंतिम संस्कार की लागत में सहयोग किया था। नीदरलैंड में ऐसे मामले सामने आए हैं जहाँ सोशल सर्विसेज ने व्यय रोक दिया या कम किया क्योंकि किसी उदार दाता या परिवार के सदस्य ने "एक थैला राशन" दिया था।
जांच से पता चलता है कि जब लोग कंप्यूटर संचालित प्रक्रियाओं में फंस जाते हैं, जैसे पहले नीदरलैंड में चाइल्ड बेनिफिट मामलों में हुआ था, तो वे अक्सर स्थिति से बाहर हो जाते हैं। ऐसा लगता है कि यह एल्गोरिदम सामाजिक रूप से कमजोर लोगों को और अधिक असुरक्षित बना रहा है, बजाय इसके कि वे मूल रूप से जिन समर्थन के लिए बनाए गए थे, उन्हें प्रदान करे।
मानवाधिकार संगठन अधिकारियों से इस प्रणाली का पुनः परीक्षण करने और यह सुनिश्चित करने का आग्रह करता है कि यह सभी नागरिकों के लिए निष्पक्ष और न्यायसंगत हो, चाहे उनकी पृष्ठभूमि या अक्षमताएँ कुछ भी हों।