Amnesty varnar för algoritmer inom socialbidrag

Människorättsorganisationen Amnesty International varnar för användning av riskprofiler och algoritmer i bedömningen av sociala förmåner. Enligt Amnesty kan socialt utsatta personer förlora sitt sociala stöd på grund av felaktig tolkning av uppgifter. 

Amnesty undersökte hur den sociala kartan fungerar i Serbien på Balkan. Denna sociala bedömningsmetod introducerades där förra året – med stöd av Världsbanken. Forskningen visade att det romska samhället och i synnerhet personer med funktionsnedsättning påverkas allvarligt av användningen av denna algoritm. 

En av nackdelarna är att klientkontakttjänstemän lägger mer tid på att kontrollera och lägga in uppgifter, snarare än att prata med klienten, heter det.

Rapporten väcker frågor om den globala användningen av algoritmer i beslutsfattande inom socialtjänsten. Amnesty betonar behovet av transparens och etik i sådana system.

Amnestyutredningen beskriver bland annat fallet med en romsk mamma vars socialbidrag drogs in på grund av att en välgörenhetsorganisation hjälpt till att betala för hennes dotters begravningskostnader. I Nederländerna finns det fall där socialtjänsten stoppar eller minskar bidragen på grund av att en generös donator eller en familjemedlem hade donerat "en påse matvaror".

Forskningen visar att många tappar koll när de hamnar i datorstyrda procedurer, som tidigare var fallet i Nederländerna med barnbidragsprocesserna. Det verkar som att algoritmen gör de socialt utsatta ännu mer sårbara, istället för att stödja dem som det ursprungligen var tänkt.

Människorättsorganisationen uppmanar myndigheter att se över systemet och se till att det är rättvist och rättvist för alla medborgare, oavsett bakgrund eller funktionsnedsättning.