|
继本周早些时候Follow the Money网站的调查后，荷兰警方决定将立即停止使用预测某人是否会表现出暴力行为的算法。
Follow the Money揭示了警方正在使用一种专家认为在伦理和统计上都很差的系统，来选择可能会表现出暴力行为的人，以进行个人化的有针对性的干预。
被选入“Risicotaxatie Instrument Geweld（RTI-G）”计划的人可能会面临警方的镇压措施。这可能包括更频繁的逮捕和搜身、没收金钱和贵重物品，以及让社会工作者参与进来，以免兄弟姐妹“重蹈覆辙”。FTM称。
该算法基于诸如年龄和性别、犯罪记录和与警方的以往接触等因素。然而，没有进行任何检查来评估该系统是否不带偏见，以确保居住在某些地区或有少数族裔背景的人不会被不公平地过度代表，FTM称。
警方称他们已于2017年停止使用该系统的早期版本，该版本自动将具有安的列斯、摩洛哥和索马里背景的人列为比荷兰人更高风险的人。
Erasmus大学教授Marc Schuilenburg告诉FTM，修订后的系统仍然是“毫无根据的”，“完全不可接受”。他表示，在国外没有成功的个体层面预测性执法技术的例子。
警方最初告诉FTM他们将审查该算法，但现在已经决定停止使用，因为对其可行性存在“疑虑”，这家调查网站称。
近年来，荷兰遭受了一系列涉及歧视特定群体的算法丑闻，数据保护监督机构Autoriteit Persoonsgegevens（AP）已开始监督其使用。
其中一例是荷兰税务局未受监管地使用算法创建潜在福利欺诈者的风险概况，导致数千人错误地被要求偿还福利。
学生财务机构Duo也卷入了一起民族定位丑闻，Investico揭示出具有少数族裔背景的学生“明显更常”被算法指控学生贷款或助学金欺诈。
今年5月，有消息透露外交部自2015年以来一直在使用一个配置文件系统来分析申请申根地区短期停留签证的人的风险。
来源：dutchnews.nl
| 
登录
