来自萨里大学的专家对算法风险评估工具的使用日益增多进行了批判性的研究，算法风险评估工具在越来越多的刑事案件中充当了专家科学证据的一种形式。

审查认为，由于开发者的偏见和人工智能预测性能的统计证据薄弱等几个问题，法官应该充当把关人，严格审查是否应该使用这种工具。

本文概述了法官应该考虑的三个步骤：

合适性，即考虑使用人工智能工具是否与案件有任何关系；

准确性，即了解该工具是否能真正区分重犯和非重犯；

可靠性，即要求法官仔细审查该工具的结果在实践中是否值得信赖。如果法官发现人工智能在前两个步骤中的一个步骤中存在不足，则不需要这一阶段。

论文作者、萨里大学法学院法律和刑事司法专业的读者梅丽莎-汉密尔顿博士说。"这些新兴的人工智能工具有可能为法官提供量刑方面的好处，但需要密切关注它们是否值得信赖。如果不小心使用这些工具，将对接受的被告人造成伤害。"