Amnesty a investigat în Republica Balcanică Serbia funcționarea Cardului Social. Această metodă de evaluare socială a fost introdusă anul trecut – cu sprijinul Băncii Mondiale – în această țară. Din investigație a reieșit că mai ales comunitatea romă și persoanele cu dizabilități sunt grav afectate de utilizarea acestui algoritm.
Unul dintre dezavantaje este că funcționarii care au contact cu clienții petrec mai mult timp verificând și introducând date, în loc să poarte discuții cu clientul, se afirmă.
Raportul ridică întrebări cu privire la utilizarea la nivel mondial a algoritmilor în luarea deciziilor privind serviciile sociale. Amnesty subliniază necesitatea transparenței și eticii în astfel de sisteme.
Investigația Amnesty descrie printre altele cazul unei mame rome căreia i-a fost suspendat ajutorul social deoarece o organizație caritabilă a contribuit la plata costurilor înmormântării fetiței ei. În Olanda sunt cunoscute cazuri în care Serviciile Sociale au oprit sau redus ajutoarele pentru că un donator generos sau un membru al familiei a oferit „o plasă de cumpărături”.
Conform investigației, multe persoane își pierd perspectiva atunci când ajung în proceduri computerizate, cum a fost cazul anterior în Olanda cu procesele privind alocația pentru copii. Se pare că algoritmul face persoanele social vulnerabile și mai sensibile, în loc să le sprijine, cum a fost intenția inițială.
Organizația pentru drepturile omului face apel către autorități să revizuiască sistemul și să se asigure că este corect și just pentru toți cetățenii, indiferent de backgroundul lor sau de dizabilitățile pe care le au.