您的位置:首页 >科技 >

德国一州禁用“预测犯罪”软件,称其加剧歧视和隐私安全风险 世界今日报

2023-02-23 15:57:43    来源:互联网

文|杨博雯


【资料图】

2月16日,德国联邦宪法法院正式宣布:禁用一项名为Hessendata的“预测犯罪”的软件。

这一软件自2017年起在德国黑森州(Hesse)投入使用,由美国数据分析公司Palantir提供技术支持,系统会通过来自社交媒体、警方数据库、各类监控、公共记录等数据来调查潜在的犯罪分子。

对于软件Hessendata,目前尚未有更多技术层面的公开资料,不过黑森州保守派内政部长彼得 (全名Peter Beuth)曾表示,Hessendata不会自动筛选社交媒体档案或互联网,也不会使用人工智能技术,而更像是一个整合已有数据的平台。

“只有当我们把所有具有威胁性的拼图拼在一起,威胁才能被识别出来。”彼得这样说。

但由于公众长久以来对这一软件知之甚少,加之有数据显示,Hessendata一年被警察使用1.4万余次,越来越多的声音开始质疑其使用过程中存在数据安全、侵犯隐私、种族歧视等问题。

图示:黑森州警方现场图

于是,去年12月,11名德国民权协会代表向法院提起诉讼,他们提出,软件Hessendata在犯罪发生之前利用数据创建嫌疑人档案,这种预测性的警务增加了执法部门出错和歧视的风险。同时,授权使用这一软件的法律也并未明确警方可以使用哪些来源,通过何种理由进行数据挖掘。

原告方中的一位律师表示,尽管警方提供了“侵犯隐私”的理由(即为了预防犯罪而收集信息),但事实就是,有在收集了数据之后才能判断这种收集是否合理,而这时,公民的个人隐私已经被侵犯了。

对此,一位黑森州政府官员在法庭上举例展示Hessendata的使用流程:在逮捕了一个ATM机抢劫案嫌疑人后,警察可以利用Hessendata分析他的车辆导航设备,并确定其附近曾发生过其他的ATM抢劫案。“这表明使用该软件‘非常接近传统的警察工作’。”这位官员称。

软件的技术提供商,Palantir负责战略和通信的执行副总裁也站出来表示,Palantir把软件带到数据中,而不是把数据带到软件中。其副总裁表示“我们的客户会决定哪些数据与调查有关”。

最终,在2月16日上周四,法院驳回了部分授权黑森州警方通过自动化数据分析、存储个人数据的法案,并认为法案中提到的这些自动化处理系统已经侵犯了信息自决(指信息主体对个人信息内容的自我决定权)的权利,违反了宪法。因此要求正在使用软件的黑森州必须在9月30日之前改革相关法案,在此之前,Hessendata将持续受到限制。

法院在一份声明中还补充道,只有在保护特别重大的法律利益——如生命、肢体安全或人身自由时,使用自动化措施干涉公民权利才可被允许。

原告方法律团队的负责人认为,这一案件将产生更广泛的影响:

“今天,联邦宪法法院禁止警方‘预测未来’,并制定了警务工作中使用智能软件的严格指导方针,这些非常重要——因为我们都知道,警务自动化只是个开始。”

标签: 数据分析 社交媒体 们都知道

相关阅读