Амнести исследовала работу Социальной карты в балканской Республике Сербии. Этот метод социального тестирования был внедрен там в прошлом году при поддержке Всемирного банка. В ходе исследования выяснилось, что применение данного алгоритма особенно сильно затрагивает ромское сообщество и людей с ограниченными возможностями.
Одним из недостатков является то, что сотрудники, работающие с клиентами, тратят больше времени на проверку и ввод данных, а не на общение с самими клиентами, отмечается в отчёте.
Доклад вызывает вопросы по поводу глобального использования алгоритмов в принятии решений в сфере социальных услуг. Амнести подчеркивает необходимость прозрачности и этичности в таких системах.
В исследовании Амнести описан случай ромской матери, у которой отобрали социальное пособие из-за того, что благотворительная организация оплатила похороны её дочери. В Нидерландах известны случаи, когда Социальные службы прекращали или сокращали выплаты из-за того, что щедрый даритель или родственник подарил «сумку с продуктами».
Согласно исследованию, многие люди теряют ориентацию, сталкиваясь с компьютеризированными процедурами, как это ранее происходило в Нидерландах в случаях с детскими пособиями. Похоже, что алгоритм делает социально уязвимых ещё более уязвимыми, вместо того чтобы поддерживать их, как это было задумано изначально.
Правозащитная организация призывает власти пересмотреть систему и обеспечить её справедливость и честность для всех граждан, независимо от их происхождения или ограничений.