Amnistía investigó en la república balcánica de Serbia el funcionamiento de la Tarjeta Social. Este método para la evaluación social se implementó allí el año pasado, con el apoyo del Banco Mundial. La investigación reveló que, en particular, la comunidad romaní y las personas con discapacidad se ven gravemente afectadas por el uso de este algoritmo.
Una de las desventajas es que los funcionarios encargados de contactar con los clientes dedican más tiempo a verificar e ingresar datos, en lugar de mantener conversaciones con el usuario, se afirma.
El informe plantea preguntas sobre el uso mundial de algoritmos en la toma de decisiones relacionadas con servicios sociales. Amnistía destaca la necesidad de transparencia y ética en dichos sistemas.
La investigación de Amnistía describe, entre otros casos, el de una madre romaní a quien le retiraron la prestación social porque una organización benéfica había contribuido a los gastos funerarios de su hija pequeña. En Países Bajos se conocen casos de Servicios Sociales que suspendieron o redujeron prestaciones porque un donante generoso o un familiar había regalado “una bolsa de la compra”.
Según la investigación, muchas personas pierden el control cuando se enfrentan a procedimientos gestionados por computadoras, tal como ocurrió anteriormente en los Países Bajos con los procesos de subsidio para hijos. Parece que el algoritmo hace a los más vulnerables aún más frágiles, en lugar de apoyarlos como se pretendía originalmente.
La organización de derechos humanos hace un llamado a las autoridades para que revisen el sistema y aseguren que sea justo y equitativo para todos los ciudadanos, independientemente de su origen o discapacidad.