英格兰和威尔士法律协会今天(6月14日)启动了一项公共政策委员会对技术和数据对人权与正义的影响的审查。根据新的律师协会副主席兼专员克里斯蒂娜·布莱克劳斯(Christina Blacklaws)的说法,此次审查将研究无意识的偏见,道德和权利问题,以及要求什么样的监督以及如果算法倾斜会带来什么样的财务和社会成本。该委员会将首先研究警察和监狱服务部门在法律实践和社会中对人工智能的使用,其中以下示例‘new technology’ are in use:

–达勒姆警察局(Durham Constabulary)已使用人工智能系统为是否拘留嫌疑人提供决策依据。他们使用一种算法来评估低,中和高再犯风险–这样就可以使被预测为中等风险的被捕者有资格参加旨在减少再犯的计划

–美国的数学家和社会科学家与洛杉矶警察局合作开发了一种犯罪预测工具。肯特警方现已将“ PredPol”用于犯罪预测热点地图绘制

–大都会警察和南威尔士警察在公共活动,音乐节和游行中使用面部识别技术来交叉引用已经在监视列表中的人员。

Blacklaws表示:“大数据和算法已经增强了人类进行分析和预测的能力,这超出了前几代人的想象。他们的使用可以– and sometimes does –确保我们更安全,保留稀缺资源并扩大执法范围日益扩大的范围。

“但是,设计,销售和使用算法以伸张正义或维护安全性也引发了有关无意识偏见,道德和权利的问题。当算法由专注于利润的企业而不是专注于伸张正义的组织开发时,可能会出现进一步的潜在风险。”

律师会专员将从技术,政府,学者,商业行为者以及法律和人​​权专家那里获得口头和书面证据,以探讨一个总体性问题:使用大数据和算法的哪种框架可以保护人权和对司法的信任系统?

Blacklaws补充说:“我们将探讨的问题包括:如果算法出现偏差,财务和社会成本将是多少?什么时候适合使用算法和大数据?我们需要什么样的监督?我们如何确保所使用的数据正确无误?而且,我们如何确保决策可以访问,审查或提出上诉?”