Mensenrechtenorganisatie Amnesty International waarschuwt voor het gebruik van risicoprofielen en algoritmes bij de beoordeling van sociale uitkeringen. Volgens Amnesty kunnen sociaal-zwakkeren hun sociale ondersteuning kwijtraken door onjuiste interpretatie van data.
Amnesty onderzocht in Balkanrepubliek Servië het functioneren van de Sociale Kaart. Die methodiek voor sociale toetsing is daar vorig jaar – met steun van de Wereldbank – ingevoerd. Uit het onderzoek bleek dat met name de Roma-gemeenschap en mensen met een beperking ernstig getroffen worden door het gebruik van dit algoritme.
Eén van de nadelen is dat cliënt-contact-ambtenaren meer tijd besteden aan het controleren en invoeren van data, in plaats van gesprekken met de cliënt, zo wordt gesteld.
Het rapport werpt vragen op over het wereldwijd gebruik van algoritmes bij besluitvorming in sociale voorzieningen. Amnesty benadrukt de noodzaak van transparantie en ethiek in dergelijke systemen.
Het Amnesty-onderzoek beschrijft onder meer het geval van een Roma-moeder van wie de sociale uitkering werd ingetrokken omdat een liefdadigheidsorganisatie had meebetaald aan de begrafeniskosten van haar dochtertje. In Nederland zijn gevallen bekend van Sociale Diensten die uitkeringen stopzetten of korten omdat een gulle gever of een familielid ‘een tas boodschappen’ had geschonken.
Blijkens het onderzoek raken veel mensen het overzicht kwijt als ze in computergestuurde procedures terechtkomen, zoals eerder in Nederland het geval was met de kindertoeslag-processen. Het lijkt erop dat het algoritme sociaal-zwakkeren nog kwetsbaarder maakt, in plaats van hen te ondersteunen zoals oorspronkelijk was bedoeld.
De mensenrechtenorganisatie roept autoriteiten op om het systeem te herzien en ervoor te zorgen dat het eerlijk en rechtvaardig is voor alle burgers, ongeacht hun achtergrond of hun beperkingen.