Amnesty, Balkan ülkesi Sırbistan'da Sosyal Kart uygulamasının işleyişini inceledi. Bu sosyal değerlendirme yöntemi geçen yıl Dünya Bankası desteğiyle hayata geçirildi. Araştırmaya göre özellikle Roman topluluğu ve engelli bireyler, bu algoritmanın kullanımından ciddi şekilde olumsuz etkilendi.
Dezavantajlardan biri olarak, danışanlarla görüşmek yerine görevli memurların veri kontrolü ve girişiyle daha çok zaman harcadığı belirtiliyor.
Raporda, sosyal hizmetlerde karar alma süreçlerinde algoritmaların dünya genelinde kullanımına dair sorular gündeme getiriliyor. Amnesty, bu tür sistemlerde şeffaflık ve etik gerekliliğini vurguluyor.
Amnesty'nin araştırması, bir Roman annenin sosyal yardımının, bir hayır kuruluşunun kızının cenaze masraflarına katkıda bulunması nedeniyle kesilmesini örnek olarak veriyor. Hollanda'da ise Sosyal Hizmetlerin, cömert bir bağışçı veya aile üyesi 'bir torba market alışverişi' bağışladığı için yardımları durdurduğu veya kısalttığı vakalar biliniyor.
Araştırmaya göre, bilgisayar destekli süreçlere giren pek çok kişi durumu kavramakta zorlanıyor; bu durum daha önce Hollanda'da çocuk ödeneği davalarında da yaşanmıştı. Algoritmanın asli amacının aksine sosyal olarak dezavantajlıları daha savunmasız hale getirdiği görülüyor.
İnsan hakları örgütü, yetkililere sistemi yeniden gözden geçirme ve tüm vatandaşlar için, geçmişleri veya engelleri ne olursa olsun, adil ve hakkaniyetli olmasını sağlama çağrısında bulunuyor.