Amnistía investigó en la república balcánica de Serbia el funcionamiento de la Tarjeta Social. Este método de evaluación social fue implementado allí el año pasado – con apoyo del Banco Mundial –. La investigación reveló que, en particular, la comunidad romaní y las personas con discapacidad se ven gravemente afectadas por el uso de este algoritmo.
Una de las desventajas señaladas es que los empleados en contacto con los clientes pasan más tiempo verificando e introduciendo datos, en lugar de tener conversaciones con el beneficiario, según se afirma.
El informe plantea interrogantes sobre el uso global de algoritmos en la toma de decisiones relacionadas con prestaciones sociales. Amnistía enfatiza la necesidad de transparencia y ética en tales sistemas.
La investigación de Amnistía describe, entre otros casos, el de una madre romaní cuya prestación social fue cancelada porque una organización benéfica contribuyó a los gastos del funeral de su hija pequeña. En Países Bajos, se conocen casos de Servicios Sociales que han suspendido o reducido prestaciones porque un donante generoso o un familiar había regalado "una bolsa de compras".
Según la investigación, muchas personas pierden el control cuando entran en procedimientos gestionados por ordenador, como fue el caso anteriormente en Países Bajos con los procesos de subsidios para hijos. Parece que el algoritmo hace a los más vulnerables socialmente aún más frágiles, en lugar de apoyarlos como se pretendía originalmente.
La organización de derechos humanos insta a las autoridades a revisar el sistema y garantizar que sea justo e imparcial para todos los ciudadanos, sin importar su origen o sus discapacidades.