-2025-
07/08
18:05
游劝荣:人工智能赋能新时代审判工作高质量发展的机遇、挑战及应对
(本文刊载于《中国应用法学》2025年第3期,第1-15页,本文是最高人民法院2024年度司法研究重大课题“司法服务保障发展新质生产力研究”课题组的阶段性研究成果。)
文|游劝荣 (湖北省高级人民法院党组书记、院长,二级大法官)
内容提要:
人工智能在司法领域的深度应用为审判工作高质量发展提供了新的技术路径。当前,人工智能通过重构司法流程、优化裁判决策、平衡多元价值,在提升司法效率、统一法律适用、保障司法公正、践行司法为民理念以及推动基层社会治理现代化等方面展现出显著优势。然而,这一进程也面临诸多挑战,包括技术逻辑与司法逻辑存在潜在冲突、法官主体性可能受到削弱、人工智能“幻觉”导致司法误判、公众司法信任面临考验以及数据安全与隐私保护问题。针对这些挑战,需坚持人工智能辅助审判的基本定位,强化法治保障与制度供给,推进技术应用规范化建设,同时注重提升司法人员的技术应用能力。关键词:人工智能司法应用审判工作高质量发展审判质效人机协同
文章目录
一、人工智能促推审判工作高质量发展的重大意义
(一)推进人工智能司法应用是实现“努力让人民群众在每一个司法案件中感受到公平正义”的现实需要
(二)推进人工智能司法应用是深入贯彻习近平总书记关于加快发展新质生产力重要论述的实际行动
(三)推进人工智能司法应用是“数字中国”“网络强国”战略实践的应有之义
(四)推进人工智能司法应用是实现人民法院工作高质量发展的有力支撑
二、人工智能促推审判工作高质量发展的时代机遇
(一)促进司法公正:进一步夯实公平正义之基
(二)提升司法效率:进一步解放司法生产力
(三)践行司法为民:进一步增进民生福祉
(四)做实定分止争:助推基层社会治理现代化
三、人工智能促推审判工作高质量发展面临的风险挑战
(一)人工智能的技术逻辑与司法逻辑存在冲突
(二)人工智能司法应用可能削弱法官办案主体地位
(三)人工智能的“幻觉”特性可能导致司法误判
(四)裁判预测功能可能影响公众司法信任
(五)不受管控的应用引发信息数据安全风险
四、人工智能促推审判工作高质量发展的完善路径
(一)准确把握人工智能司法应用的原则要求
(二)加强人工智能法治保障供给
(三)推进司法人工智能规范化建设
(四)提升司法审判工作人员人工智能运用能力
结语
党的十八大以来,以习近平同志为核心的党中央准确把握时代大势,紧抓科技创新的战略机遇,作出一系列促进人工智能发展的重要部署。我国人工智能快速发展、数据和算力资源日益丰富、应用场景不断拓展,以人工智能为引擎的新质生产力加速形成。习近平总书记在2019年1月召开的中央政法工作会议上要求,“推动大数据、人工智能等科技创新成果同司法工作深度融合”,人工智能技术正以颠覆性力量重塑司法领域的实践逻辑。面对以人工智能促推审判工作高质量发展的种种机遇和挑战,如何进一步平衡技术创新与伦理风险,不断完善算法治理框架,推动人工智能司法应用向更高水平迈进,为法治中国建设注入持久动能,是当前亟待解决的一项重大课题。
一、人工智能促推审判工作高质量发展的重大意义
在人工智能技术深刻重构社会生产生活方式的当下,司法领域的智能化转型已成为中国式法治现代化进程中的关键命题。人工智能促推审判工作高质量发展的核心动因在于,其通过技术赋能重构司法流程、数据驱动实现决策优化、制度革新保障价值平衡,有助于实现“数字正义”与司法公信的双重目标。
(一)推进人工智能司法应用是实现“努力让人民群众在每一个司法案件中感受到公平正义”的现实需要
党的二十大报告指出,要“加快建设公正高效权威的社会主义司法制度,努力让人民群众在每一个司法案件中感受到公平正义”。这既是习近平法治思想中“以人民为中心”在司法领域的具体体现,也是“中国特色社会主义司法制度和法治建设的要义宗旨、基本特征和活力源泉”。当前,人民法院在满足人民群众日益增长的司法公正需要方面还存在一些问题,比如案件总量持续增大、矛盾纠纷更为复杂情况下,定分止争、维护公正的司法能力、素质有待进一步增强;公正司法体制机制还不够健全,一些影响司法公正、制约司法效能的深层次问题亟须深化改革促进解决。
人工智能是推动新一轮科技革命的关键技术,推进人工智能司法应用,将对司法运行带来内嵌式、技术性变革。有学者认为,推动司法过程由场域转向场景,让人民群众获得“可视正义”;推动司法规则代码化,能够克服自由裁量权不当行使带来的负面影响,让人民群众更容易接近实质正义;推动实现司法决策建模化,裁判尺度不统一和“类案不同判”等广受诟病的问题将会得到有效根治;推动司法服务管理智慧化、透明化,实现“服务群众诉讼全方位、全天候、零距离、无障碍”的目标。因此,推动人工智能与司法工作深度融合,必将有力破解制约司法公正、制约司法效能提升的难题,有利于推动司法审判工作高质量发展,有利于更好满足人民群众日益增长的对公平正义的法治需求。
(二)推进人工智能司法应用是深入贯彻习近平总书记关于加快发展新质生产力重要论述的实际行动
习近平总书记指出,“新质生产力是创新起主导作用,摆脱传统经济增长方式、生产力发展路径,具有高科技、高效能、高质量特征,符合新发展理念的先进生产力质态”。党的二十届三中全会通过《中共中央关于进一步全面深化改革推进中国式现代化的决定》,要求“健全因地制宜发展新质生产力体制机制”。把握发展新质生产力机遇,深入推进人工智能司法应用,更好释放数字司法生产力,是人民法院加快推进审判工作现代化的有效抓手和“必答之题”。近年来,随着语音识别、图像识别、机器学习等专用人工智能技术愈发成熟并已经深度应用到社会生活的方方面面,中国的“智慧法院”建设也从以数据统计、辅助管理、无纸化办案为代表的人民法院信息化1.0版向以大数据分析、智能辅助裁判为代表的人民法院信息化2.0版发展,并步入以“人机协作”“人机共融”为代表的人民法院信息化3.0版。《人民法院信息化建设五年发展规划(2021-2025)》则明确提出,在“十四五”期间,建设综合运用互联网、大数据、人工智能、区块链、5G等信息技术的人民法院信息化4.0版。
人工智能技术突破传统“司法产品”生产的要素组合方式,核心在于将裁判规则与尺度通过整理为具体规则、转化为算法语言的方式嵌入到办案系统中去。与此同时,机器学习算法实现决策辅助,为法官提供服务。这种技术赋能使“司法产品”生产从个体化的经验依赖转向群体化的数据驱动,形成“数据—算法—决策”的新质生产力链条。因此,推进人工智能司法应用是人民法院在数字化时代推动审判工作高质量发展的实际行动,也是贯彻落实习近平总书记关于加快发展新质生产力重要论述的具体体现。通过人工智能技术的应用,人民法院能够更好地适应新时代的发展需求,为法治中国建设注入新的动能。
(三)推进人工智能司法应用是“数字中国”“网络强国”战略实践的应有之义
当前,以互联网、大数据、云计算、人工智能、区块链等为代表的新一代信息技术日新月异,“传统社会加速向以网络化、扁平化、数字化、高效化、智慧化为主要特征的全新社会结构转型”,数字技术引领高质量发展成为必须回答的时代课题。党的二十大报告深刻指出,要加快建设网络强国、数字中国。党的二十届三中全会明确提出,要加强网络空间法治建设,健全网络生态治理长效机制。《中华人民共和国国民经济和社会发展第十四个五年规划和2035年远景目标纲要》设专篇对“加快数字化发展、建设数字中国”作出部署。2023年2月,中共中央、国务院印发《数字中国建设整体布局规划》,为“数字引擎”助推中国式现代化作出了顶层设计。由此可知,推进人工智能司法应用的整体布局和制度规划愈发明晰。一方面,推进人工智能司法应用是“数字中国”“网络强国”战略实践的必然要求。从当前的内外部环境看,数字技术与实体社会深度融合已势不可挡,“谁尽早实现了数字化转型,谁就掌握了新一轮发展的主动权”。“数字中国”“网络强国”建设要求将数字化思维贯穿国家治理各领域,司法作为国家治理体系的重要组成部分,其数字化转型具有战略示范意义和引领带动作用,人工智能司法应用也就应时、应势而出。另一方面,推进人工智能司法应用也是当前实施“数字中国”“网络强国”战略的重要任务和重点工作。从20世纪90年代起,我国司法机关就开始了信息化的初步探索。当前,以数字法院、数字检察为主要内容的数字司法已经成为数字中国总体战略的一部分。具体而言,人工智能司法应用的本质是治理工具的范式革新,既通过技术标准输出标准化的数字裁判规则,也为网络空间治理提供新范式。例如,电子证据存证、智能合约执行等技术的应用使司法活动突破物理空间限制,实现“线上—线下”双轨并行,重构了数字时代纠纷解决机制;区块链技术可确保电子证据的真实性和不可篡改性,辅助法官准确认定法律责任,同时提升网络空间治理效能。
(四)推进人工智能司法应用是实现人民法院工作高质量发展的有力支撑
当前,“案多人少”已经成为制约影响人民法院工作高质量发展的最突出矛盾。面对巨大的办案压力和日益紧张的司法资源,单纯依靠动员投入更多人力来保证审判质效,在事实上已难以为继。司法资源紧张所导致的司法质效问题,在传统审判模式下难以找到出路,必须通过科技赋能予以解决。同时,对裁判不当、法律适用不统一、自由裁量权行使不规范等情况,人民法院依靠常规手段已经很难做到及时精准识别判断,针对个案开展案件质量评查的模式,已经无法适应对海量诉讼案件进行全流程监督管理的需求,亟待人工智能技术辅助。
对此,最高人民法院于2022年12月出台《关于规范和加强人工智能司法应用的意见》(以下简称《人工智能司法应用意见》),提出“加快推进人工智能技术与审判执行、诉讼服务、司法管理和服务社会治理等工作的深度融合,规范司法人工智能技术应用,提升人工智能司法应用实效”。2024年12月,最高人民法院发布《人民法院第六个五年改革纲要(2024—2028年)》,明确要求深入拓展数字技术司法应用场景,加强审判领域技术自主创新,强化智能算法、大语言模型、数字模型等技术应用,充分发挥人工智能技术辅助办案、集约事务、防控风险、方便诉讼等作用。上述两份文件从制度层面为人工智能深度融入审判执行、诉讼服务等工作提供了明确指引,推动人工智能司法应用从技术探索迈向规范化、体系化发展阶段。可以预见的是,人工智能在司法领域的应用将势不可挡,发展前景毋庸置疑。人民法院应拥抱新变化,接受新课题,积极应对人工智能技术给司法审判工作带来的机遇和挑战,进一步推动人工智能和司法工作的深度融合,全方位助力司法审判体系和审判能力现代化。
二、人工智能促推审判工作高质量发展的时代机遇
在移动互联网、大数据、超级计算机、脑科学等新理论新技术以及经济社会发展强烈需求的共同驱动下,人工智能加速发展,呈现深度学习、跨界融合、人机协同、群智开放、自主操控等新特征,正在引发链式突破,推动经济社会各领域从数字化、网络化向智能化加快跃升。抓住人工智能发展机遇,推进人工智能司法应用,必将加速推进审判工作高质量发展。
(一)促进司法公正:进一步夯实公平正义之基
公正是司法的生命和灵魂。人工智能凭借海量数据解析能力和高效的模式识别特性,能够为裁判者、监管者提供强有力的信息支持,势必进一步促推司法公正。
1.推动类案裁判统一
受法官能力素质、认识分歧、配套机制不健全等因素影响,“类案不同判”问题一定程度存在,影响了人民群众的司法满意度。虽然人民法院办案系统有类案检索功能,但目前的类案检索平台主要依赖字段输入与数据库数据匹配,智能匹配能力不足,推送的案例与法官预期差距较大,需要进一步人工筛选,普遍存在耗时长、使用不便等问题。随着人工智能快速发展特别是生成式人工智能大模型的发展,可以在对电子卷宗深度挖掘、历史裁判文书深度比对的基础上,实现类案精准匹配、自动推送,将有力推动类案裁判统一。深圳中院于2024年6月在全国率先上线人工智能辅助审判系统,通过整合人民法院案例库、法答网、法信等海量高质量法律专业“语料”进行大模型训练,实现法律条文、法答、类案一次性智能推送,有利于规范法官自由裁量权行使,统一法律适用标准,确保“类案同判”。
2.弥补认知判断的局限性
审判权的本质是判断权,但法官作出裁判除了依据相关法律规定之外,不可避免地受到自身价值观、性别、人格、人生阅历等个人特点影响,难免发生判断偏差。人工智能作为技术工具,能够对大数据进行汇聚分析进而得出单一化的结论,从而拓展人类知识能力,减少法官的认识偏见。某发达国家在人工智能辅助量刑方面,开发了用于罪犯矫正替代性制裁分析管理系统COMPAS和量刑计算系统ASSYST。前者通过大数据分析,对被告人再犯可能性进行预测评估,协助法官量刑;后者根据量刑指南进行预测向法官提供量刑建议。
3.监测预警办案风险
生成式人工智能大模型基于算法建模,在大数据分析、推理方面具有明显优势,能够发现隐藏在数据中的某些规律,实现对办案风险的全面监管。如上海法院在推进数字法院建设过程中,对发现的个别代理人代理案件缓刑适用率远高于正常水平的情况,通过场景建模,系统自动将异常代理人纳入监测名单,将相关信息推送院庭长,提示院庭长重点阅核,防范廉政风险。江苏高院针对“套路贷”虚假诉讼较多的实际情况,研发了基于大数据、智能算法的智能预警系统,能够对民间借贷等案件中的风险人员、风险案件进行智能识别,对涉嫌“套路贷”的虚假诉讼进行自动预警提示,为法官依法认定及后续打击提供有力支持。
4.重塑审判管理方式
随着人工智能技术的深入应用,法院审判管理正从传统的“人盯人”模式向智能化、精准化、动态化转型。当前,司法案件评查、文书评查、终本案件核查主要采用传统的人工评查模式,普遍存在评查覆盖面窄、评查效率低、评查认定标准不统一、被动式评查流于形式等问题。而人工智能在大数据分析、文本比对等方面具有先天优势,通过人工智能建模既可以自动检索重要流程、关键节点下的必需文书和必填案件信息项等程序性事项,实现每案必评、随结随查,确保案件办理的程序规范性;也可以通过设定标准对一审、二审、再审以及指导性案例、案例库案例、上级法院典型案例进行对比分析,形成疑点案例库,同步推送人工重点评查,确保裁判标准统一。
(二)提升司法效率:进一步解放司法生产力
迟到的正义非正义,司法效率也是司法工作的重要追求。随着“人工智能+”战略实施,人工智能将深度融入审判执行全流程,在事务性工作执行、协助庭审、生成文书等方面带来革命性变化,释放法官工作潜能,提升司法效率。
1.简化事务性工作
司法办案流程环节多、程序性要求高,导致事务性工作占据了法官大量精力。人工智能的应用可以在以下几个方面帮助法官减轻事务性工作压力。一是人工智能辅助立案。利用人民法院自身积累的历史数据对人工智能大模型进行训练,根据当事人提供的诉状、证据等信息,能够实现案件信息自动回填、案由甄别、繁简案标识、校准涉案数据、立案标准审核等事项,立案人员只需审核确认,可以降低人工审核工作量。二是人工智能辅助分案。目前的随机分案系统存在分案因素单一、分案功能简单机械、无法平衡工作饱和度等问题。人工智能大模型可以综合考量案件类型、案件难易、法官特长、办案风险、工作量均衡等因素,并在此基础上开发智能化分案系统,实现均衡分案、公平分案,减少因分案引起的不必要内耗。此外,人工智能大模型还在支持电子卷宗自动分类归目、送达地址及方式自动推荐、司法活动笔录自动生成、执行财产查控辅助、电子卷宗自动归档等领域有着广阔的应用前景。湖北高院在全省法院统筹建设编目质检中心、集约送达中心,全面推行无纸化办案,推进“一键归档”、上诉(再审)案件线上移送、刑事指定管辖线上流转、电子公告送达网上提交、自然人身份信息核查、文书网上公开自动推送等创新应用工作,进一步解放司法生产力。
2.推动庭审高效化
庭审是审判活动的关键环节,法官必须全程亲历,但传统的阅卷模式、记录模式、质证模式效率低、耗时长、容易遗漏,而随着人工智能的推广应用,法官参与庭审将步入优质高效快车道。在人工智能加持下,法官只需点击一键阅卷,系统将会根据原被告诉辩意见、提交的证据进行智能分析,归纳争议焦点,智能生成阅卷报告并可提供溯源比对,让法官对庭审重点难点心中有数。在庭审记录中,可全面推行智能语音识别和自然语言处理技术,实现庭审内容的实时转写与要点提炼,提升庭审记录的准确性和效率。在质证环节,当事人或律师可以提交基于人工智能辅助生成的“示意证据”(多以文本、图形、音频、视频、数字空间等形式呈现),从而帮助法官更好地还原案发现实场景,提升证据认定的精准性。
3.辅助生成文书
以前的裁判文书自动生成主要基于符号主义的弱人工智能逻辑,覆盖要素相对固定的类型化案件,无法基于证据材料认定事实,更无法辅助裁判文书说理。以ChatGPT、DeepSeek为代表的新一代人工智能的出现改变了这一局面,主要体现在三个方面:一是能够自主学习法律知识库,自动分解法律条款中的构成要件;二是能够智能分析证据材料,将案件事实与法律要件精准匹配;三是能够生成包含说理性内容的文书初稿,帮助法官梳理裁判思路。这种“人机协同”模式正在重塑裁判文书生成流程,使法官能将更多精力投入核心裁判环节。
(三)践行司法为民:进一步增进民生福祉
习近平总书记指出:“要加强人工智能同保障和改善民生的结合,从保障和改善民生、为人民创造美好生活的需要出发,推动人工智能在人们日常工作、学习、生活中的深度运用,创造更加智能的工作方式和生活方式。”随着人工智能司法应用场景逐渐丰富,人民群众司法福祉必将进一步拓展。
1.便利获取法律知识
随着我国社会主要矛盾变化,人民群众权利意识、法治意识不断增强,法律知识需求旺盛,人工智能大模型的出现,极大地增强了人民群众获取法律知识的可及性。用户只需要在大模型平台输入需要咨询的问题,平台可在较短时间内给出相关建议。对于一些简单的纠纷如民间借贷、金融借款、劳动争议等,平台系统甚至在几秒内就能给出较为准确的解决方案,甚至提供类案参考。这种以人工智能普法的模式,不受时间、空间限制,可随时随地发起,且基本不收费,显著降低了人民群众的经济负担。
2.服务当事人参与诉讼
一是人民群众利用人工智能模型降低诉讼成本。人工智能大模型特别是法律专业大模型的出现,能够给当事人提供诉讼指引,包括但不限于立案条件、诉讼流程、诉讼材料准备、证据收集、管辖选择、当事人确定等事项;还可以根据最高人民法院发布的起诉状、答辩状示范文本自动生成相关法律文书。这将为部分简单案件当事人自主参与诉讼提供有效帮助,免除聘请律师成本。二是人民法院利用人工智能发展成果优化诉讼服务。如湖北法院着力打造诉讼服务网、在线法院、12368服务热线、自助终端、律师服务平台、调解平台、互联网庭审、服务企业“法小二”、服务乡村振兴“E法官”、收转发中心等线上线下立体化诉讼服务体系,全天候全时空方便人民群众进行法律咨询、案件查询、纠纷调解、网上立案、材料提交、诉讼服务等各类事项办理,真正实现诉讼服务一站通办、一网通办、一号通办、一次通办,满足人民群众日益增长的多元司法需求。
3.诉讼预期辅助评估
人工智能司法应用技术可以根据用户案情陈述和用户需求,发现潜在的模式和关联规律,向用户提供权威类案指引、诉讼策略选择、诉讼风险分析、诉讼结果预判等法律服务,并可以根据纠纷解决所需耗费的时间、金钱等成本向当事人提供建议,引导当事人合理选择调解等纠纷解决方式。诉讼预期评估还可以最大限度地消除信息不对称,实现诉讼相关信息在当事人与诉讼代理人之间的公开、透明、共享,促进诉讼代理人工作朝着更加规范化、精细化、高效化方向发展。
(四)做实定分止争:助推基层社会治理现代化
司法数据作为经济社会发展的“风向标”“晴雨表”,在社会治理中具有重要价值。随着大数据处理和分析技术的出现,管理者可处理以往难以掌控的数量巨大、变化迅速、形式复杂的数据,并从中找到高度精准、极有价值的信息模式和知识结构,这将为司法服务推动社会治理创新提供强大动力。
1.预警经济社会发展风险
一是辅助生成综合治理类司法建议。如湖北法院建设的司法统计分析与决策平台,集成各业务统计分析模块、大数据专题分析,创设社会治理司法指数,深入分析审判执行活动与区域经济、社会、生态、文化等方面的关联关系,探索辅助生成综合类司法建议,助力党委、政府科学决策,为社会治理提供司法智慧。二是辅助生成区域、行业、企业体检报告。如北京门头沟法院依托辖区人工智能产业优势,上线“数智枫景”法治地图云平台,能够对各镇街案件数、万人起诉率、收案趋势、重点案由分布等情况进行精准画像。武汉东湖高新区法院打通审判执行系统与工商企业系统数据壁垒,通过人工智能数据比对自动生成企业数字法治体检报告,按照涉诉数量分等级发出预警提示,最大限度把各类风险消灭在萌芽状态。
2.助力矛盾纠纷实质性化解
基于人工智能强大的算力、巨大的数据存储计算分析能力以及独具的技术理性,其在推进矛盾纠纷实质性化解方面具有巨大应用潜力。当下,人工智能推进纠纷化解主要是为调解员开展调解工作提供支持,如深圳中院人工智能辅助审判系统通过对案件中212项关键数据进行智能化提取,对当事人特性、纠纷特点、各方利益诉求等要素进行剖析,能够预判调解难点,向调解员智能推送法律知识和典型案例,推动纠纷非诉化解。未来,还可以开发人工智能调解员系统,该系统可采用“AI预调解+人类调解员决定”模式,具有自我意识、情感理解的整合系统,拥有“对话+推理”的认知识别体系,具有案情分析员、情感疏导师、对账会计师、方案策划师等多种角色,能够发挥人工智能的自主能动性推动调解有序进行,这将有效提升解纷效率、促进社会公正。
三、人工智能促推审判工作高质量发展面临的风险挑战
人工智能正以颠覆性、扩散性、渗透性方式深度融入法治现代化建设之中,在提升审判质效,促进社会公平正义,推动社会治理方面发挥了重要作用。但也要看到,任何事物都具有两面性,人工智能基于技术发展特性、技术应用的扩展以及与法律适用逻辑的不协调等因素,也给审判工作高质量发展带来了前所未有的挑战,需要慎重应对。
(一)人工智能的技术逻辑与司法逻辑存在冲突
人工智能基于技术特性的算法偏见与司法维护公平正义的目标存在冲突。算法是人工智能的大脑,算法由人设计,但受到个人或群体的局限很难避免算法设计的偏见。大模型训练从公共网络获取的海量数据,也很难避免认知错误或者偏见。例如,从用户使用人工智能大模型输入指令到大模型输出结果,中间的处理步骤和决策依据无法轻易理解和验证。人工智能大模型开发者基于商业秘密保护、安全防护等原因不愿公开算法源码,即使公开,普通用户也很难理解。正是由于算法的不公开以及不可解释性,形成算法“黑箱”,这与司法公开的要求是相背离的。
虽然人工智能大模型具有出色流畅的文本生成能力,但其对生成内容的意义无法感知,只是根据指令完成了任务而已。其生成原理在于算法作用机理下,基于海量数据自主学习分析语义文本相关性基础上的概率拟合的统计学推断,它不能像法官一样进行因果关系分析、价值判断、法律解释、法律论证、法律推理。如果说人工智能大模型辅助司法决策对形式正义还可能有所助益的话,那么它对实质正义将很难有所帮助,这也导致了人工智能技术理性与司法审判价值理性的冲突。
(二)人工智能司法应用可能削弱法官办案主体地位
鉴于人工智能大模型在数据检索分析方面的显著优势,辅助法官办案已经在全球不少国家应用开来。荷兰一名法官在审理邻里之间采光权纠纷时,就如何精准掌握太阳能电池板的平均寿命以及平均电价,向ChatGPT进行了提问并得到以下回答:“从2009年开始,太阳能电池板的平均寿命在25年至30年”,法官据此将太阳能电池板的平均寿命确定为27.5年。哥伦比亚一名法官在处理有关免除自闭症儿童相关治疗费的案件中,为增加说理依据,将使用ChatGPT提问的部分法律问题及回答纳入判决书。就我国司法审判工作现状而言,对于何谓“辅助”需要进一步探讨。既然人工智能要辅助法官,则人工智能必然要参与办案,但参与程度的标准未定。如果人工智能过多参与,法官只需审核确认,可能会导致法官对于人工智能的过度依赖,即使有“司法责任最终由法官承担”的刚性制度约束,但基于人性的弱点,法官的主观能动性可能会降低,进而削弱法官办案的主体地位。
(三)人工智能的“幻觉”特性可能导致司法误判
人工智能的“幻觉”特性,是指人工智能模型在生成文本、数据或其他形式的信息时,可能会输出表面上合理,但实质上错误甚至是虚构事实的内容。这一特性的产生,主要源于人工智能模型在数据训练和推理环节所固有的局限性。具体而言,当前主流的人工智能模型主要依赖于大规模数据集合的统计学习,通过对海量数据的模式识别与概率计算来生成输出内容。然而,这种基于统计概率的方法使得人工智能模型缺乏对信息背后深层逻辑和真实语义的真正理解,在面对复杂多变的自然语言和逻辑推理任务时,极易一本正经地胡说八道,从而产生“幻觉”现象。在人工智能模型赋能司法审判工作中,不能忽视其固有的“幻觉”特性带来的不利影响。
比如,在人工智能司法应用过程中,人工智能可能存在生成虚假法律法规、提供过时法律条文、杜撰司法案例等行为,由此导致司法工作人员错误判断。特别是在疑难复杂案件中,案件事实与法律适用存在模糊性与争议性,人工智能的错误判断可能误导审判人员,使其在事实认定与法律适用上出现偏差。由于人工智能模型可能提供不准确的信息或建议,审判人员需额外投入时间精力核实甄别。如在证据审查环节,人工智能模型可能错误识别证据的相关性与证明力,审判人员需重新审查,这不仅增加工作量,还因“幻觉”的隐蔽性,需多次反复核查,以致降低审判效率。此外,美国曾经发生过这样的案例,在“马塔诉阿维安卡公司案”中,原告律师施瓦茨由于对联邦法律、相关公约等不熟悉,利用ChatGPT检索形成了根本不存在的案例,在提交法庭的法律意见书中予以引用,被被告律师发现,法官对原告律师进行了制裁。这一案例也发出警示,诉讼参与人也可能提供人工智能生成的虚假诉讼资料,影响甚至误导法官判断。
(四)裁判预测功能可能影响公众司法信任
人工智能通过算法模型对历史案例的深度学习生成裁判结果,从而实现司法裁判预测的功能,当预测结果和法院裁判结果一致时,有助于帮助当事人形成合理预期,提高裁判接受度,促进案结事了政通人和。但技术应用的复杂性决定了其影响的非单向性。系统的预测效能高度依赖提问者输入人工智能系统的数据、提问方式以及人工智能系统本身数据质量,任何一个环节的变化都会引起预测偏差的“蝴蝶效应”。在具体操作层面,当事人可能因法律认知局限,在输入案情时出现关键证据遗漏、法律关系认定不当等问题,这种“残缺叙事”可能导致预测结果失真。更有甚者,个别诉讼参与人可能通过精心设计提问策略、选择性提供证据等手段进行“数据投毒”,刻意诱导系统生成偏离实际的裁判预测,由此引发公众对司法确定性的质疑,从而进一步影响公众司法信任。
除此之外,更深层次的风险还在于社会认知风险。随着人工智能大模型的普及使用,部分公众可能形成“技术至上主义”的认知偏差,将算法输出结果简单等同于司法真理。这种认知一旦与失真的预测结果相结合,别有用心者可能利用社会公众对生成式人工智能盲目迷信的情绪,以科技之名借助舆论“捆绑”审判,甚至煽动社会公众对裁判结果的不满,引发对司法公信力的质疑。
(五)不受管控的应用引发信息数据安全风险
人工智能系统的数据密集型特征与司法信息的敏感性之间形成的冲突,正在催生新型信息安全危机。审判机关在应用智能辅助系统过程中,涉及公民隐私、商业秘密乃至国家机密的海量数据流转,若缺乏有效技术规制与制度约束,可能引发数据泄露、算法篡改与系统失控等复合型风险。一是存在数据泄露风险。我国已建成世界上最大的司法审判信息资源库,人民法院大数据管理和服务平台汇集案件信息量巨大,如2023年司法知识服务平台管理知识点的数量达11.4亿项,为全国法院提供卷宗分类编目、立案智能辅助、类案智能推送等一体化智能服务78亿次。然而,基层法院普遍存在的技术防护短板,使得数据生命周期管理存在漏洞。更具隐蔽性的是算法层面的数据泄露,可能使包含个人生物特征、通讯记录等敏感信息的案件数据在模型训练过程中发生不可控扩散。二是合规困境加剧数据治理难度。司法数据的多元属性导致监管标准冲突。刑事案件的侦查数据涉及国家安全,民事案件的电子证据包含商业秘密,执行信息涉及个人征信,这种混杂性使得《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》与《中华人民共和国网络安全法》的交叉适用出现监管真空。欧盟《通用数据保护条例》(General Data Protection Regulation)第10条禁止司法数据的自动化处理,但我国智慧法院建设却依赖此类数据处理。这种制度错位导致数据跨境流动风险,如涉外民商事案件的电子卷宗存储于境外云服务器时,可能触发他国司法长臂管辖。
四、人工智能促推审判工作高质量发展的完善路径
在人工智能与司法审判深度融合的背景下,如何充分发挥司法职能作用,促推在法治轨道上加强和完善人工智能治理,是人民法院共同面临的时代课题、必须回答的时代之问。探索促推审判工作高质量发展的完善路径,需在遵循原则要求的基础上,从法治保障、规范化建设和人员能力提升三方面协同发力。
(一)准确把握人工智能司法应用的原则要求
《人工智能司法应用意见》明确提出,人工智能技术应用须坚持辅助审判原则,确保裁判职权始终由审判组织行使,司法责任由审判人员承担。换言之,人工智能在司法应用中应当始终处于提供技术辅助的地位,法官始终主导法律适用、价值判断等核心审判环节,在综合全案证据基础上作出最终裁判。
1.基本定位
法官作为审判工作的核心主体,其专业判断、深厚法律素养以及在裁决中展现的人文关怀,是人工智能无法复制与取代的独特价值。例如,在涉及家庭纠纷、未成年人权益保护等案件中,法官需要综合考量情感因素、社会影响等多重维度作出裁判,这远非算法所能企及。人工智能在审判工作中的基本定位应是辅助工具,通过提供数据支持、案例参考等功能协助法官高效工作,而非替代法官的核心决策力量。这一定位要求我们在构建人工智能司法应用体系时,应充分考虑法官的角色定位和实际需求,确保人工智能技术的合理应用,使其真正成为提升司法效能的得力助手。
2.应用限度
在审判工作中引入人工智能技术时,必须为其应用划定清晰的边界,以有效规避过度依赖及潜在滥用风险。具体而言,需从应用范围和使用条件两个维度进行严格把控。就应用范围而言,应明确界定人工智能技术的适用领域,例如证据审查、法律文书自动生成、庭审流程辅助等事务性工作。这些领域具备标准化程度高、规则明确的特点,适合通过技术手段提升效率。但涉及法律解释、价值判断等核心审判职能的环节,如法律适用争议、证据采信标准、自由裁量权行使等,仍需由具备专业素养的法官进行独立判断,确保司法裁判的权威性和公信力。在适用条件设定方面,应建立分级分类的适用机制。针对简单重复性案件(如小额诉讼、交通事故等),可在全流程中适度引入智能辅助系统;对于复杂疑难案件,则需严格限制技术介入的深度,仅允许在信息检索、案例比对等环节提供支持。同时,需根据审判阶段特性设定使用规则,例如在证据审查阶段可侧重数据校验功能,在量刑建议阶段则需限制算法模型的权重影响,确保技术始终处于辅助地位。通过这种双维度管控机制,既能发挥人工智能在提升审判效率、优化资源配置方面的技术优势,又能坚守司法裁判的人文属性和价值导向,实现科技赋能与司法公正的有机统一。
3.重点领域
人工智能在审判工作中的重点领域应聚焦于提高审判效率、保障司法公正、提升司法公信力等方面。具体而言,可通过人工智能技术实现类案裁判标准自动比对(如针对民间借贷纠纷案件,系统可快速调取同类判决并提示裁判差异点)、案件质量全流程智能监管(如自动筛查证据链完整性、法律适用准确性等关键节点)、诉讼预期智能评估(如基于历史数据为当事人提供诉讼风险分析)等功能,以减轻法官事务性工作压力,提升审判质量和效率。同时,还可利用人工智能技术构建庭审直播智能解析平台(如自动生成庭审重点摘要供公众查阅)、裁判文书可视化系统(如通过图表呈现裁判逻辑)等,加强司法公开和透明,提升司法公信力,满足人民群众对公平正义的期待。
(二)加强人工智能法治保障供给
1.加强法律法规供给
针对人工智能司法应用领域,为系统规范人工智能在审判场景的应用,需从立法层面双轨推进:确立人工智能技术司法应用的法律定位,例如通过立法确认算法决策的合法性基础;制定技术应用标准与操作规范,细化其在证据审查、文书生成、庭审辅助等环节的适用条件及程序要求,为人工智能司法应用确立基准。以深圳中院构建的全国首个司法专用大模型为例,其虽覆盖立案审查、电子卷宗解析、争议焦点提炼、裁判文书生成等85项核心审判环节,极大提升了审判效率,但在实践中也暴露出部分环节标准不明的问题。因此,可以考虑出台“人工智能司法应用条例”等专项法规,从技术准入、数据安全、伦理审查等维度构建全流程监管体系,确保人工智能司法应用符合技术发展规律,恪守司法公正底线。
2.加强司法规则供给
《人工智能司法应用意见》明确要求构建人工智能司法应用规范体系,涵盖数据标准、算法透明度等核心要素。继2021年出台规范“人脸识别”技术的司法解释后,最高人民法院于2024年进一步发布反垄断民事诉讼司法解释,针对互联网平台通过大数据、人工智能、算法等技术手段实施排除、限制竞争的行为作出系统性规制,持续完善人工智能领域的司法裁判规则体系。在推进人工智能司法应用的过程中,司法规则供给需同步强化,既需制定与人工智能技术适配的证据审查规则、裁判标准等具体规范,确保技术应用的合法性与规范性,又需针对技术应用衍生的新型法律问题开展前瞻性研究,通过发布司法解释或指导性案例为司法实践提供明确指引。例如,可针对人工智能证据审查技术制定专项司法解释,明确其适用条件、程序要求及责任认定标准,形成技术赋能与规则约束的良性互动。
3.加强司法案例供给
司法案例作为人工智能司法应用的实践载体,其供给水平直接影响技术赋能审判的深度与精度。在智慧法院建设进程中,各级法院探索形成的智能化办案案例,通过提炼技术应用范式、优化人机协同规则,为人工智能与审判工作的深度融合提供实践样本。例如,北京互联网法院构建的“天平链”电子证据平台,通过区块链技术实现电子证据全流程存证核验,其“技术固化证据—算法验证真实性”的应用模式,为知识产权案件审理提供了可复制的智能化解决方案。面向未来,需进一步强化司法案例的体系化建设:不仅要全面梳理各地法院人工智能应用的典型案例,按照证据存证、智能分案、类案检索等场景分类提炼技术应用标准;还需建立“案例反馈—算法优化”的迭代机制,推动法官在办案中总结技术适用经验,形成兼具司法规律与技术特性的裁判范例。通过案例供给与技术创新的良性互动,既能为人工智能司法应用提供实践指引,亦能推动智慧法院建设向“人机共融”的更高阶段迈进。
(三)推进司法人工智能规范化建设
1.坚持顶层设计与基层探索并重
需通过国家层面的统筹规划与地方实践的双向发力,构建司法人工智能发展的完整生态。例如,最高人民法院在《人工智能司法应用意见》中明确提出,到2025年建成涵盖审判执行全流程的智能化辅助体系。这一顶层设计为各地法院提供了明确方向。在地方层面,杭州互联网法院率先试点“异步审理”模式,通过智能语音转写、证据智能比对等技术,大幅缩短案件平均审理周期,其经验已通过《人民法院在线诉讼规则》向全国推广;广州互联网法院则聚焦“区块链存证”场景,研发“网通法链”系统,实现电子证据全流程可信验证,相关技术标准被纳入《中华人民共和国电子签名法》修订草案。通过顶层规划的引领性与基层实践的创新性有机结合,一方面能够避免重复建设,另一方面又能形成“国家—地方”协同推进的良性循环,为司法人工智能的可持续发展奠定坚实基础。
2.坚持综合性模型与专业化模型并重
在推进人工智能司法应用过程中,构建既具有通用性又具有专业性的模型体系至关重要。这一体系的构建,不仅能够满足司法工作中各个环节的智能化需求,还能够针对特定司法领域和案件类型提供精准的智能化服务。首先,综合性模型的构建是必要的。比如,在立案、审判、执行等各个环节中,可以开发能够自动化处理文档、分析案情、预测审判结果的综合型人工智能模型。这些模型可以利用大量的司法判例和法律法规数据,通过深度学习方法,自动进行法律文书的草拟和审查,提高司法文书处理的效率和准确性。其次,专业化模型的开发同样重要。例如,在刑事、民事、行政等不同司法领域,以及涉及知识产权、金融、环境资源等具体案件类型中,需要开发专门的人工智能模型。这些模型能够深入理解特定领域的法律条文和案件特点,提供个性化的法律分析和判决建议。如此专业化的模型,不仅可以提高司法决策的精确性,还能大大提升法庭审判的效率。
3.坚持安全应用与风险防控并重
司法机关需充分发挥审判职能,从技术变革中提炼司法规律,构建兼具前瞻性与规范性的裁判规则体系。在推动技术创新的同时,需以科技伦理与安全底线为红线,通过规范法律适用平衡自由与秩序、私益与公益的冲突。具体实践中,需建立“全流程安全管控机制”:一方面,通过算法备案、数据分级保护等措施强化技术可靠性,建立算法全生命周期审查机制,从设计、开发、应用等环节进行安全评估,确保人工智能在审判场景中的稳定运行;另一方面,针对算法偏见、数据泄露等潜在风险,制定分级预警与应急响应方案,加强对抗训练提升模型抗干扰能力,严防因算法漏洞带来“幻觉”从而导致司法偏差。唯有将安全保障与风险防控深度嵌入司法应用全链条,才能兼顾技术赋能与法治底线,确保人工智能在法治轨道上安全运行。
(四)提升司法审判工作人员人工智能运用能力
1.加强人工智能教育培训
通过系统化、常态化的教育培训,破解司法人员对人工智能“不敢用、不会用”的困境,真正实现技术工具与司法规律的深度融合。一方面,应聚焦审判场景需求,开发“智能辅助办案系统操作指南”“算法偏见识别与矫正”等专题课程,通过场景化教学强化技术工具的司法适配性;同时需建立“理论—实操—评估”闭环机制,将智能技术考核纳入法官履职能力评价体系,推动司法人员从被动接受转向主动探索,逐步形成“技术赋能思维”。另一方面,应当重视对司法人员进行数据安全知识的培训和宣传,提升其在日常工作中保护数据安全的意识,特别是提升其运用包括生成式人工智能在内的各类数字化工具时审慎处理数据的意识,以应对人工智能应用于司法带来的数据安全方面的风险和挑战。
2.注重人工智能司法应用能力养成
在提升司法审判工作人员人工智能运用能力的过程中,需以审判实践为检验场域,构建“法律逻辑+数据思维”双轮驱动的人才培养机制,推动智能技术从“工具嵌入”向“规则重塑”升级。具体而言,可通过“法律+数据”交叉课程夯实理论基础,依托智慧法院实验室开展实战演练,提升法律从业者从海量裁判文书中提炼规则的能力,例如运用自然语言处理技术自动识别争议焦点;应鼓励法官在文书生成、证据分析等场景中主动调用智能辅助系统,通过“边用边学”深化技术认知;同时建立“实践—反馈—迭代”机制,定期组织跨部门研讨,针对智能量刑建议偏差率、类案推送精准度等指标开展实证分析,提炼出契合司法规律的算法优化路径,最终实现从“技术依赖”到“技术驾驭”的能力跃迁。
结语
在人工智能技术浪潮与司法改革纵深推进的交汇点上,司法审判工作正经历着历史性嬗变。从智慧立案到类案推送,从法律文书自动生成到司法态势预测,技术赋能正在不断重塑司法工作的效率边界。然而,算法偏见、数据安全问题警示我们:技术革新不可突破法治轨道,司法裁判的人文温度始终不可替代。唯有构建“人机协同”的新型治理模式,既以技术释放司法生产力,又以法治锚定创新边界,方能进一步提升司法质效。正如习近平总书记对司法机关的殷殷嘱托“努力让人民群众在每一个司法案件中感受到公平正义”,这或许正是人工智能时代司法工作高质量发展的终极注脚——以科技之智守护法治初心,用创新之力托举公平正义的中国方案。
稿件来源:中国应用法学微信公众号