佛州警方用算法预测居民犯罪机率 媒体跟踪调查半年发现有严重缺陷

日期:2020-09-11
来源:上游新闻
在斯皮尔伯格 2002 年的科幻电影《少数派报告》中,片中的警察可以预测犯罪细节,提前赶到现场,制止犯罪。在美国佛罗里达州,警方也建立了这样一种算法,旨在预测辖区内的哪些人将来有可能犯罪。但是,根据《坦帕湾时报》本周发表的为期六个月的跟踪调查显示,警方部署的高科技工具并没有减少暴力犯罪行为,相反,该算法依赖于可疑的数据做出武断的决定,导致21个家庭在没有任何具体犯罪证据的情况下遭到警方连环骚扰。
 
据《坦帕湾时报》报道,在2019年9月,警方代表出现在15岁的里约·沃伊特奇基的家门口,因为根据警方的算法,他已被确定里约是该州最有可能犯罪的“前五名”成员之一。
 
在此之前,里约仅被捕过一次,他被指控偷偷溜进车棚偷电动自行车,事后警方安排了一位少年犯监督官负责对他教导。里约的母亲告诉《坦帕湾时报》,算法开始执行以来,从9月份的那次探访开始,警察至少21次出现在里约家中。
 
报告说,在一月份的一次警方盘问后不久,里约开始出现呼吸困难症状,随后倒在家中。他的母亲叫了一辆救护车,急诊室的一名医生后来发现里约正遭受极端焦虑情绪的影响。但是,警方对他家的骚扰并没有停止。
 
《坦帕湾时报》的报道使用了法庭记录、警方随身摄像头的镜头、AI算法针对的数十人的描述,以及对警长办公室前雇员的采访。根据这篇报道,这种预测性警务工具依赖于可疑的数据源并做出了武断的决定。
 
警长办公室前雇员表示,人们的犯罪记录,包括后来被撤销的指控,被一一输入到算法中,以确定当事人未来犯罪的可能性。警员接到指示,去拜访算法选择的人的家,并可以以任何可能的理由逮捕他们。据坦帕湾时报报道,这些违规的逮捕随后也会被反馈到算法中。
 
近年来,由于对公平性和有效性的担忧,包括洛杉矶和弗吉尼亚州里士满在内的主要城市的警察部门停止了其预测性警务计划。
 
早在2018年,英国政府也斥资1000万英镑宣布要打造一套像电影《少数派报告》中一样通过人工智能和视频监控来分析对象犯罪几率的系统,然而在执行过程中算法远远没有达到他们的期待,准确性太差,英国也不得不于近日正式宣布这套系统研发失败。