类别
最新消息

“警方在筒仓中创新”:在司法系统中使用算法需要“紧急监督”

在法律社会的法律和监管政策总监索菲亚亚当斯·巴蒂构思了对刑事司法系统使用委员会的想法,该社会发表了最终报告,这发现复杂算法的临时使用在司法系统中需要紧急疏忽“令人担忧的缺乏监督或框架。”

在法律社会的法律和监管政策总监索菲亚亚当斯·巴蒂构思了对刑事司法系统使用委员会的想法,该社会发表了最终报告,这发现复杂算法的临时使用在司法系统中需要紧急疏忽“令人担忧的缺乏监督或框架。”

该技术和法律公共政策委员会去年举办了审查AI的使用方式以及由法律社会主席和克里斯蒂娜黑人士领导的伦理和法治的伦理和规则。

在121左右进行了121次访谈,该报告的主要结果是:

关于在英格兰和威尔士刑事司法中使用算法系统缺乏明确的标准,最佳实践和开放性或透明度。

偏见和歧视,不透明度和适当的过程,持续性,审查,效果,无视定性和上下文因素的一致性挑战,反对这些系统更深入地改变了法律演变的性质的背景下的背景。委员会建议将算法系统的国家登记作为一个关键的初始脚手架,以进一步开放,跨部门学习和审查。

一些系统和数据库在刑事司法系统中运行算法,如面部识别和移动设备提取的一些用途缺乏明确合法的基础。 “如果有必要,必须迫切地审查,公开澄清和纠正,”该报告发现。 “虽然英国具有比世界上许多其他地方的算法系统更明确的规定,但这些包含了需要加入考虑的重要遗漏和漏洞。”

需要对数据保护立法,采购规范,信息法自由,平等职责和法定监督和审查机构的几个澄清和变化,以便为数字时代刑事司法诚信提供关键保障。

“许多严重个性化的法律保障在商业领域中的算法系统,例如个人解释权,不太可能对刑事司法非常有帮助,其中权力的不平衡可能是极端的,并且被Dwwindling的法律援助水平加剧, “该报告说。

“社会,系统监督必须以本行业的算法系统的最前沿置于,这将需要创新和世界领先的政策。联合王国有一个机会窗口,成为司法系统的信标,可靠地使用技术,具有社会许可来运营,并符合支撑刑事司法的价值观和人权。现在必须采取积极主动的步骤来抓住该窗口。“

虽然许多部署处于飞行员或实验阶段,但委员会指出,正在部署的技术并非如此技术上是新颖的,即他们不能通过多学科团队来评估他们的有效性,它们符合真正的挑战,以及他们的意外潜力和不良的副作用,特别是优化出现问题的一些目标或方面,以损害他人。

“这是监管和留下这些系统的监督和转向这些系统的关键,并且在司法系统中发生协调,以确保此容量是WorldClass,”该报告发现。

为了帮助决定“有价值的选择”和紧张局势,将需要广泛利益攸关方在民间社会,学术界和技术公司以及司法系统中的参与。

委员会发布了一个互动地图(见下面的链接),允许公众首次参见算法概述的首次,算法用于协助跨英格兰和威尔士的司法系统决策。

该报告建议:

监督 - 应创建和加强一系列新机制和机构安排,以改善刑事司法系统中的算法的监督。

加强数据保护中的算法保护 - 应澄清和加强数据保护法第3部分算法系统的保护。

超越数据保护 - 应加强关于司法部门的公平和透明度的现有法规,应加强与算法系统相关。

刑事司法系统的采购 - 算法系统必须允许最大控制,修改和公开的透明度,并进行相关人权考虑因素进行测试和监测。

合法性 - 刑事司法系统中所有算法系统的合法基础必须清除并明确宣布提前宣布。

分析能力和能力 - 必须进行大量投资,以支持公共机构了解算法系统的适当性以及适当的情况,如何负责任地部署它们。

“警察,监狱和边防部队正在孤立的创新,帮助他们管理和利用他们对人,地方和活动的大量数据,”Branklaws说。

“复杂的算法正在巩固数据,以帮助官员判断出各种各样的事情 - 从哪里发送鲍比的击败,谁面临着家庭暴力的受害者或犯罪者的风险;谁挑选出人群,释放假释或签证申请审查。

“虽然有明显的效率胜利,但仍然缺乏监督或框架,以减轻一些不法部署,歧视或可能由运营商无意中内置的歧视或偏见的风险。

“这些危险因在公共机构之间没有透明度,集中协调或系统知识共享而加剧了。虽然有些力量对他们使用算法的使用,但这绝不是均匀的。“

您可以在此处阅读报告:文件: http://www.nurturedmoms.com//wp-content/uploads/2019/06/algorithms-in-criminal-justice-system-report-2019.pdf

查看哪些警察部队正在使用算法,以及以下内容: //www.lawsociety.org.uk/support-services/research-trends/algorithms-in-the-justice-system/