政讯通中心

人工智能与刑事司法：从各执一词到多元平衡

　　早在20世纪80年代，作为信息社会表征的资讯技术就已经在刑事司法中得到应用。进入21世纪之后，各种自动化和人工智能技术在刑事司法中的应用更为深入。从目前的情况来看，人工智能在刑事司法中的应用主要集中在犯罪预测、犯罪侦查、审前羁押与保释、量刑、假释与罪犯矫正等领域。

　　与其他国家和地区相比，我国人工智能的应用更为广泛，除了上述领域之外，还包括证据的审查判断、法律文书的生成、检察机关的诉讼监督等领域。可以预见，未来人工智能在刑事司法中的应用范围还会逐步扩大，比如可能应用于制作诉讼笔录、提供外语或者少数民族语言翻译、为当事人寻找合适的律师提供帮助、对证人证言的真假进行判断，等等。

　　刑事司法中人工智能的应用前景

　　人工智能具有强大的数据收集和分析能力，在刑事司法中具有广阔的应用前景。从世界范围来看，人工智能在刑事司法中的应用引发了广泛的关注和争论。赞成者有之，反对者亦有之。

　　赞成者认为，人工智能的应用具有以下优势：一是一些国家面临着严重的案件积压，人工智能的应用对于解决“诉讼爆炸”而言是一个很好的工具，由于减少了诉讼拖延，当事人因为诉讼拖延而遭受的不公正对待也会相应减轻；二是人工智能的应用有助于克服人为的偏见，人工智能不会被主观情感所左右，有利于案件得到客观公正的处理；三是人工智能具有科学性和专业性，操作起来也方便快捷，有利于提高司法人员的办案质效。

　　反对者认为，人工智能的应用会带来以下问题：一是准确性问题，人工智能作为一个风险评估工具，它在准确性方面并不一定优于其他方法；二是公平性问题，人工智能建立在收集大量数据和设计算法的基础上，大数据中包含大量个人信息，可能引发种族偏见和歧视风险；三是透明度问题，一些设计算法的公司拒绝公开算法所考量的一些因素，导致出现算法黑箱；四是影响被追诉人的权利保障，如警方使用预测模型，可能导致从事后出警向事前出警转变，有违无罪推定原则。

　　理性看待泾渭分明的两种立场

　　在我国，学者对于人工智能在刑事司法中的应用大多持乐观态度，主要原因是看到了人工智能应用所带来的巨大优势，主要包括有利于提高侦查机关的侦查能力，有利于打击犯罪；类案检索有助于促进量刑均衡，有利于同案同判；通过人工智能辅助办案，可以减少司法人员阅卷、进行证据梳理以及撰写诉讼文书的时间，有助于提高诉讼效率。但也有部分学者对此持保留甚至反对的态度，认为人工智能在刑事司法中的应用挤压了司法人员的自由裁量权，可能导致机械司法；背离了司法的亲历性原则，使得司法人员办案变成了机器裁判；可能会造成冤错案件，破坏司法公正；人工智能辅助办案时，对于证据采信、事实认定和法律适用均无法说明理由，同时算法黑箱使得公众对司法的处理结果可能产生不信任；在大量收集涉及个人信息的大数据过程中，可能侵犯公民隐私权；人工智能辅助办案，将会模糊司法责任，一旦出现错判，承担司法责任的主体将会不明确等。

　　上述争论表明，对于人工智能在刑事司法中的应用，存在着泾渭分明的两种立场，即积极主义立场与消极主义立场（或曰保守主义立场）。综合分析论辩双方的观点，在理论层面，可将人工智能对于刑事司法所带来的挑战和冲击概括为五个方面：其一是合法性问题，由于法律发展滞后于技术发展，导致司法实践中，人工智能的应用面临着合法性赤字或合法性质疑，许多国家和地区的刑事诉讼法尚未对人工智能的应用进行规制，通过解释现有的法条来容纳人工智能的应用，容易导致合法性争议。其二是公正性问题，譬如将人工智能应用于犯罪预测和犯罪侦查，导致侦查办案的模式从回应性侦查走向了预防性侦查，警察在获知犯罪预测的结果之后，对于所谓的“犯罪热区”进行特别干预，部署警力集中打击某类犯罪，警察更倾向于在“犯罪热区”发动盘查，甚至还采取一些限制人身自由的强制措施，并且在办案时会自觉或不自觉地降低证明标准，这样会导致生活在“犯罪热区”的居民，其人身自由和隐私权更容易受到限制或者侵害。其三是民主性问题，人工智能在刑事司法中的应用是否符合法治社会的民主原则，主要看它是否具有透明性和可问责性。人工智能的应用有两大黑匣子，一个是法律黑匣子，另一个是技术黑匣子，这两个黑匣子对刑事司法的透明性和可问责性带来巨大挑战，由于算法比司法人员自由裁量具有更为不透明的特性，导致对于司法决策的监督和审查变得更加困难。大数据侦查通过相关性原理来进行分析和预测，难以对其中的因果关系进行具体说明，运用人工智能系统决策，一旦出错，算法的责任难以追查，人的责任难以追究。其四是有效性问题，如果依靠人工智能决策可以有效地避免司法人员的偏见，而且所作出的裁判结果在公正性方面明显优于人类所作裁判，那么人工智能的应用无疑具有可接受性，但目前并没有实证研究表明人工智能的应用具有如此效果。其五是伦理性问题，无论人工智能的功能有多么强大，为了确保人类的情感与尊严，将刑事司法的决策权完全移交给机器，这是人类所不能接受的。因此，任何国家或地区都只是将人工智能作为刑事司法中的辅助性工具加以使用。

　　在此情况下，目前所要解决的关键性问题就是司法人员如何与机器进行合作，即人机协同问题。

　　寻求法治主义与技治主义的有效结合

　　对于人工智能在刑事司法中的应用，不同国家的处理模式存在差异。

　　欧盟采取严格监管模式，以统一立法、强调安全、事先规制为特点；美国采取渐进规制模式，以逐步立法、强调开放、事后救济为特点；我国采取发展优位模式，积极推进人工智能在刑事司法中的应用，由于不断拓展人工智能在刑事司法中的应用领域，导致出现了人工智能的应用似乎有些泛化的局面，并因此引发了不少理论和实践争议。

　　对于人工智能在刑事司法中的应用，需要注意以下三点：第一，应当认识到，在刑事司法这样一个特殊领域，人工智能的应用具有较大局限性。以量刑智能辅助系统而言，设计科学的量刑智能辅助系统存在不少困难，包括案件信息数字化、结构化的困难，案件信息数字化转换存在的技术障碍，以及刑罚适用的统一性与个别性的矛盾难以调和等。第二，对于刑事司法中人工智能应用的规制，应当从数据治理、算法治理和应用系统治理三个基本层面展开。这三个层面就是人工智能系统所包含的三个主要元素。从数据治理的角度看，应当保障资料的全面性、准确性和合法性；从算法治理的角度看，应当保障算法的科学性、透明性和公正性；从应用系统治理的角度看，应当保障应用系统的安全性、有效性和诉讼主体使用该系统的平等性。第三，应当坚守司法人员在刑事司法中的主体地位，实行规则指导与智能辅助相结合。司法人员在规则指导与智能辅助下决策，要兼顾实然与应然，作为人工智能系统基础的大数据，来源于司法人员过去的办案情况，如果在过去的执法司法中存在偏差，人工智能系统将会固化这种偏差。因此，需要通过规则指导来纠正过去执法司法中的偏差，并且回应社会公众对合理执法、公正司法的期待。

　　人类社会从农业社会、工业社会到信息社会的演进过程中，互联网、大数据、人工智能由浅入深地进入刑事司法，使得法治主义与技治主义的结合成为数字时代刑事司法的显著特征。为了构建可信赖的人工智能应用体制机制，防止产生新的人权保障风险，需要对人工智能在刑事司法中的应用进行规则治理。由于人工智能在刑事司法中的应用涉及法律问题和技术问题，笔者认为，应当同时从法律和技术两个层面对其进行规则治理，人工智能系统的研发和有关规则的制定应当由法律专家和技术专家共同组成的专家咨询委员会进行审查。

　　总体而言，人工智能在刑事司法中的应用应当趋利避害、扬长避短，妥善处理安全与自由、公正与效率、实然与应然的关系，达到多元法律价值的兼顾与平衡。

　　（作者为中国政法大学诉讼法学研究院院长、教授）

原文链接：https://www.spp.gov.cn/spp/llyj/202305/t20230524_614789.shtml
[免责声明] 本文来源于网络转载，仅供学习交流使用，不构成商业目的。版权归原作者所有，如涉及作品内容、版权和其它问题，请在30日内与本网联系，我们将在第一时间处理。