德国一州禁用“预测犯罪”软件，称其加剧歧视和隐私安全风险 世界今日报

文|杨博雯

【资料图】

2月16日，德国联邦宪法法院正式宣布：禁用一项名为Hessendata的“预测犯罪”的软件。

这一软件自2017年起在德国黑森州（Hesse）投入使用，由美国数据分析公司Palantir提供技术支持，系统会通过来自社交媒体、警方数据库、各类监控、公共记录等数据来调查潜在的犯罪分子。

对于软件Hessendata，目前尚未有更多技术层面的公开资料，不过黑森州保守派内政部长彼得 （全名Peter Beuth）曾表示，Hessendata不会自动筛选社交媒体档案或互联网，也不会使用人工智能技术，而更像是一个整合已有数据的平台。

“只有当我们把所有具有威胁性的拼图拼在一起，威胁才能被识别出来。”彼得这样说。

但由于公众长久以来对这一软件知之甚少，加之有数据显示，Hessendata一年被警察使用1.4万余次，越来越多的声音开始质疑其使用过程中存在数据安全、侵犯隐私、种族歧视等问题。

图示：黑森州警方现场图

于是，去年12月，11名德国民权协会代表向法院提起诉讼，他们提出，软件Hessendata在犯罪发生之前利用数据创建嫌疑人档案，这种预测性的警务增加了执法部门出错和歧视的风险。同时，授权使用这一软件的法律也并未明确警方可以使用哪些来源，通过何种理由进行数据挖掘。

原告方中的一位律师表示，尽管警方提供了“侵犯隐私”的理由（即为了预防犯罪而收集信息），但事实就是，有在收集了数据之后才能判断这种收集是否合理，而这时，公民的个人隐私已经被侵犯了。

对此，一位黑森州政府官员在法庭上举例展示Hessendata的使用流程：在逮捕了一个ATM机抢劫案嫌疑人后，警察可以利用Hessendata分析他的车辆导航设备，并确定其附近曾发生过其他的ATM抢劫案。“这表明使用该软件‘非常接近传统的警察工作’。”这位官员称。

软件的技术提供商，Palantir负责战略和通信的执行副总裁也站出来表示，Palantir把软件带到数据中，而不是把数据带到软件中。其副总裁表示“我们的客户会决定哪些数据与调查有关”。

最终，在2月16日上周四，法院驳回了部分授权黑森州警方通过自动化数据分析、存储个人数据的法案，并认为法案中提到的这些自动化处理系统已经侵犯了信息自决（指信息主体对个人信息内容的自我决定权）的权利，违反了宪法。因此要求正在使用软件的黑森州必须在9月30日之前改革相关法案，在此之前，Hessendata将持续受到限制。

法院在一份声明中还补充道，只有在保护特别重大的法律利益——如生命、肢体安全或人身自由时，使用自动化措施干涉公民权利才可被允许。

原告方法律团队的负责人认为，这一案件将产生更广泛的影响：

“今天，联邦宪法法院禁止警方‘预测未来’，并制定了警务工作中使用智能软件的严格指导方针，这些非常重要——因为我们都知道，警务自动化只是个开始。”

标签： 数据分析 社交媒体 们都知道