律师协会法律和监管政策总监Sophia Adams Bhatti构思了在刑事司法系统中使用AI的想法的一年后,该协会发布了最终报告,该报告发现临时使用复杂算法面对司法系统需要紧急监督“令人担忧的缺乏监督或框架。”

由法律协会主席兼专员克里斯蒂娜·布莱克劳斯(Christina Blacklaws)领导的技术和法律公共政策委员会于去年成立,以审查如何使用人工智能以及其对道德和法治的影响。

该报告进行了约121次采访,主要发现是:

在英格兰和威尔士,对于在刑事司法中使用算法系统,缺乏明确的标准,最佳实践以及公开性或透明度。

在这些系统有可能更深刻地改变法律发展本质的背景下,存在着偏见和歧视,不透明和正当程序,连贯性,可审查性,有效性,无视定性和背景因素等重大挑战。 。委员会建议应建立国家算法系统注册簿,作为进一步开放,跨部门学习和审查的重要初始框架。

刑事司法系统中的某些系统和数据库操作算法(例如警务中的面部识别)和移动设备提取的某些用途缺乏明确和合法的依据。报告发现:“必须对此进行紧急检查,必要时进行公开澄清和纠正。” “尽管与世界上许多其他国家相比,英国在算法系统方面有更为明确的规定,但这些规定存在重大遗漏和漏洞,需要联合考虑。”

需要对数据保护法规,采购法规,信息自由法,平等义务以及法定监督和审查机构进行一些澄清和更改,以为数字时代的刑事司法公正提供关键保障。

“针对商业领域算法系统提出的许多高度个性化的法律保护措施,例如个人解释权,在刑事司法中不太可能有很大帮助,因为在这种司法中,权力失衡可能会非常严重,而法律援助的水平不断下降会加剧这种情况,报告说。

“必须将社会,系统的监督置于该领域算法系统的最前沿,这将需要创新和世界领先的政策。联合王国拥有机会之窗,成为信守良好使用技术的司法系统的灯塔,该系统具有社会执照并可以运作,并符合支撑刑事司法的价值观念和人权。现在必须采取积极主动的步骤来抓住那扇窗户。”

尽管许多部署处于试验或试验阶段,但委员会注意到,所部署的技术并不是技术新颖,以至于多学科团队无法对其有效性,对现实挑战的顺应性以及无意中的潜力进行严格评估。和不良的副作用,尤其是从针对某个问题的某些目标或方面进行优化以至于损害其他方面。

报告发现:“关键是要建立和保留内部能力,以监督和指导这些系统,并在整个司法系统中进行协调,以确保这种能力是世界一流的。”

为了帮助决定“载有高价值的选择”和紧张关系,将需要广大利益相关者广泛参与民间社会,学术界和科技公司以及司法系统的参与。

该委员会已发布了一个互动地图(请参见下面的链接),使公众能够第一次看到使用算法来辅助英格兰和威尔士整个司法系统决策的概述。

该报告建议:

监督–应建立和加强一系列新的机制和制度安排,以改善对刑事司法系统中算法的监督。

加强数据保护中的算法保护–应阐明和加强《 2018年数据保护法》第3部分中与算法系统有关的保护。

超越数据保护的保护–有关算法系统的司法领域活动的公平性和透明性的现行法规应得到加强。

采购–刑事司法系统中的算法系统必须允许最大程度的控制,修正和面向公众的透明度,并就相关的人权考虑进行测试和监视。

合法性–刑事司法系统中所有算法系统的合法基础必须明确并事先明确声明。

分析能力和能力–必须进行大量投资以支持公共机构了解算法系统的适用性以及在适当的情况下如何负责任地部署它们的能力。

布莱克劳斯说:“警察,监狱和边防部队正在不断创新,以帮助他们管理和使用他们持有的有关人员,地点和事件的大量数据。”

“复杂的算法正在处理数据,以帮助官员对各种各样的事情做出判断,包括从哪里发动殴打到谁有可能成为家庭暴力的受害者或作案者;谁来挑选人群,假释或审查哪些签证申请。

“虽然明显有效率方面的优势,但令人担忧的是缺乏监督或框架来减轻一些巨大的风险-非法部署,歧视或偏见,运营商可能会不加掩饰。

“由于公共机构之间缺乏透明度,集中协调或系统的知识共享,这些危险更加严重。尽管在使用算法方面有些力量公开,但这绝不是统一的。”

您可以在此处完整阅读该报告:文件: http://www.nurturedmoms.com//wp-content/uploads/2019/06/algorithms-in-criminal-justice-system-report-2019.pdf

查看哪些警察正在使用算法以及针对什么: //www.lawsociety.org.uk/support-services/research-trends/algorithms-in-the-justice-system/