坚持以人工决策为主、智能辅助为辅，让人工智能在司法程序的约束下审慎前行。
当前人工智能正进入法律职业领域：ChatGPT已能通过美国律师资格考试，国内“法观”大模型也实测通过中国国家统一法律职业资格考试。人工智能与司法的关系，已从“能不能用”进入“在何种边界内用”的阶段。
同时，真正的考验才刚刚开始。2026年3月，最高人民法院工作报告提出，稳慎研发人工智能辅助审判系统，坚持“辅助”定位，司法责任主体只能是法官。唯有坚持以人工决策为主、智能辅助为辅，让人工智能在司法程序的约束下审慎前行，方能既用其长，又防其弊，让公平正义始终掌握在人的手中。
人工智能在司法领域应用现状
从现有能力看，人工智能在标准化、文本密集、结果可核验的法律任务上表现最为稳定。技术虽已深度嵌入法律工作流程，但判断权和责任的归属并未改变，仍在于人。
在司法实践中，AI已用于案件信息提取、类案和法条检索、证据材料整理、文书辅助生成与校核、案件分流等环节，减轻了法官和法官助理在重复检索、机械录入上的事务负担。在法学研究中，大模型改变了资料发现与整理方式，语义检索、观点归纳、变量提取成为研究者的工具，但关键词检索与原文核对仍不可替代；资料处理成本下降，问题意识、研究设计和证据评价的重要性反而上升。在法律教育中，AI可用于知识问答、案例研讨与模拟咨询，但考试成绩不等于职业胜任力，真实执业所需的事实认定、程序组织、利益权衡与沟通说理能力，仍需通过开放材料分析、过程性评价以及对AI答案的核验与纠错来培养。
评价一项人工智能辅助结果，不能只看表述是否流畅，还要看依据能否追溯、过程能否被质疑、结论是否经过有权主体的独立审查。
司法人工智能面临的风险与挑战
强调审慎对待和以人工决策为主，不是对技术持保守态度，而是因为司法人工智能同时面临技术可靠性、程序正当性和权力责任承担三个层面的约束。司法审判不是简单的逻辑推演和条文匹配，而是兼具法律理性、社会理性和人文温度的公共决策。
首先是可靠性风险。生成式人工智能按照概率生成文本，可能虚构法条、判例和事实，也可能混淆法律层级、适用地域与生效时间。司法又高度依赖个案：事实材料不完整、证据相互冲突、法律概念具有开放性，都可能让模型在语言上给出确定答案，在法律上却缺乏充分依据。
其次是偏见与不透明风险。训练数据中的历史裁判偏差、样本代表性不足和标注环节的价值选择，都可能反映在模型输出中。更需警惕的是“自动化偏见”：法官面对系统给出的量刑区间、类案排序或风险提示，可能因其技术权威的外观而减少独立审查。问题不只是算法“黑箱”能否打开，而是影响裁判的依据能否被说明、核验和质疑，当事人能否提出异议并获得救济。
再次是数据与程序风险。案件材料可能包含身份、健康、财产、商业秘密等敏感信息，将其输入外部模型，可能造成超范围处理、数据泄露或被用于模型训练。若人工智能输出对事实认定或裁判结论产生实质影响，当事人的知情权、质证权和救济权必须得到保障。
最后是裁判权与责任问题。司法裁判是国家权力的行使，其正当性不仅来自结果准确，还来自法定主体、法定程序、公开理由和可追责性。最高人民法院《关于规范和加强人工智能司法应用的意见》（下称《意见》）要求，人工智能辅助结果只能作为参考，裁判由审判人员作出，司法责任最终由裁判者承担。所谓“以人为主”，不能退化为法官在机器生成的结论上形式签名，而应意味着法官能够理解输出依据、核对关键事实和规范，并在必要时否定系统建议。
因此，司法人工智能应按用途和影响分级管理，并建立权威数据来源、全过程留痕、人工复核、隐私保护、异议救济和责任追溯机制。
坚持人智协同守住人本底线
人工智能与司法的融合，应当坚持以人为主、人机协同。技术可以带来便利，但司法的人本底线不能松动。
替代的边界，不能简单以“事务性工作可以替代、判断性工作不得参与”来划分。案件分流、类案排序、证据摘要看似只是辅助，也会影响法官接触信息的顺序和理解案件的方式；事实认定和法律适用属于核心判断，AI同样可以提供分析意见。更可行的标准，是根据系统输出的用途和法律效果划定权限：AI可以检索、归纳、提示风险和提出备选方案，但不得成为裁判结论的唯一或决定性依据；凡是对当事人权利义务产生实质影响的输出，都应接受有意义的人工审查和程序约束。
这一思路正在制度层面落地。《意见》确立“辅助审判”原则；此后，法答网于2023年7月上线、人民法院案例库于2024年2月向社会开放，为智能辅助办案提供统一的权威知识基础。
域外同样在为司法人工智能划定边界。欧盟《人工智能法案》于2024年8月1日生效，经2026年修订后，多数规则自2026年8月2日起适用；列入高风险（含司法领域）的系统的风险管理、人类监督等义务，推迟至2027年12月2日起适用。2023年6月，美国纽约南区联邦地区法院对两名律师及其律所处以共计5000美元罚款，原因是其提交的诉讼文书中引用了ChatGPT编造的并不存在的判例。各国规则虽有差异，但在“技术可以辅助、裁判责任在人”这一点上取向趋同。
从法律实践上看，人机协同正在成为主流办案方式。简单案件的材料整理、争点提炼和文书制作已高度自动化；疑难案件中，AI可以扩大检索范围、比对类案。但这类应用也可能通过推荐排序、默认选项影响法官的判断顺序和关注重点。因此，评价司法AI不能只看准确率和节省的时间，还要看它是否削弱独立判断、是否遗漏个案差异、错误能否被发现和纠正。
在法律人能力上看，法律人需要把专业能力与人工智能素养结合起来。这种素养不是要求人人编程，而是能够选择工具、保护案件数据、核查引证来源、识别幻觉和偏见，并把模型输出转化为可以接受质证的法律论证。法律教育也应从记忆标准答案，转向证据分析、规范解释、职业伦理以及对AI答案的验证与纠错。
在伦理规范优化上看，应明确使用者的胜任义务、保密义务、核实义务和监督责任。律师和法官不能以“AI生成”为错误免责；是否披露AI使用，应结合其对案件的影响程度、保密要求和程序规则判断，不宜一概而论。对影响实体权利或程序机会的系统，还应保留必要日志和人工复核记录。
在法律研究与完善上看，重点应从“机器能否取代人”的伪命题讨论，转向技术如何影响司法权力与责任分担：模型目标由谁设定，系统在哪个环节影响判断，当事人如何质疑输出，开发者、部署机构和使用者如何承担责任。司法的人本底线，不在于宣称“人比机器更有温度”，而在于案涉当事人及相关利益主体能够了解并质疑影响裁判的技术因素、裁判者能够独立审查并否定系统建议，最终理由由依法授权的人提出并由其担责的资格和能力。
（陈兵系南开大学竞争法研究中心主任、法学院副院长，中国新一代人工智能发展战略研究院特约研究员；徐启迪系南开大学竞争法研究中心研究助理）
