Amnesty đã tiến hành nghiên cứu về hoạt động của Thẻ Xã hội tại Cộng hòa Balkan Serbia. Phương pháp đánh giá xã hội này được triển khai ở đó vào năm ngoái - với sự hỗ trợ của Ngân hàng Thế giới. Nghiên cứu cho thấy đặc biệt cộng đồng người Roma và người khuyết tật bị ảnh hưởng nghiêm trọng bởi việc sử dụng thuật toán này.
Một trong những nhược điểm là cán bộ tiếp xúc khách hàng phải dành nhiều thời gian hơn để kiểm tra và nhập dữ liệu, thay vì tập trung vào cuộc trò chuyện với khách hàng, theo báo cáo.
Báo cáo đặt ra những câu hỏi về việc sử dụng thuật toán trong các quyết định về dịch vụ xã hội trên toàn thế giới. Amnesty nhấn mạnh sự cần thiết của tính minh bạch và đạo đức trong các hệ thống như vậy.
Nghiên cứu của Amnesty mô tả trường hợp một người mẹ người Roma bị cắt trợ cấp xã hội vì một tổ chức từ thiện đã đóng góp chi phí mai táng cho con gái nhỏ của bà. Ở Hà Lan đã ghi nhận các trường hợp Dịch vụ Xã hội ngừng hoặc cắt giảm trợ cấp vì một nhà hảo tâm hoặc thành viên gia đình đã tặng 'một túi hàng hóa'.
Theo nghiên cứu, nhiều người mất phương hướng khi đối mặt với các quy trình điều khiển bằng máy tính, như từng xảy ra trong các vụ việc trợ cấp trẻ em ở Hà Lan. Có vẻ thuật toán làm cho người yếu thế về xã hội trở nên dễ tổn thương hơn thay vì hỗ trợ họ như mục đích ban đầu.
Tổ chức nhân quyền kêu gọi các nhà chức trách xem xét lại hệ thống và đảm bảo rằng nó công bằng và đúng đắn cho tất cả công dân, bất kể xuất thân hay khuyết tật của họ.