AI 打一场完整官司,没有一个模型全赢
打官司有个常识:律师第一天写下的东西,约束着几个月后庭审的走向。诉状里诉求搭错了、证据列漏了,后面再好的庭上发挥也难翻过来。
AI 打一场完整官司,没有一个模型全赢
打官司有个常识:律师第一天写下的东西,约束着几个月后庭审的走向。诉状里诉求搭错了、证据列漏了,后面再好的庭上发挥也难翻过来。
可现在测 AI 法律能力的基准,大多把这件事拆成一道道独立的题。这道考咨询,那道考写文书,再一道考判例检索,各答各的。已有的法律模拟器也差不多:每个场景从同一份标准答案重新开局,前一阶段的失误不会流到后一阶段。
复旦和西北政法的一篇论文换了个做法,叫 LegalWorld,编号 arXiv 2606.18728。把中国民事诉讼做成一条首尾相连的链:法律咨询、庭前文书、一审庭审、上诉、二审,五个阶段、七个子场景。后一阶段吃前一阶段的产出——草稿写错,错误一路带到庭上。数据底座是 75,309 对一审配二审判决,覆盖五百多个案由。环境里跑三类 agent:当事人、律师、法官,各有记忆、各有可见范围、各有工具库,事实和立场随案件推进保持一致。
环境本身先过一道人的检验
模拟器可信吗?217 位法律背景的评审看了轨迹,打了 18,992 个分:阶段真实感 8.96/10,角色一致性 8.98/10。机器评分员也参与了——人类平均比 LLM 评分严 0.67 分,64.4% 的项两边差在一分以内。人是略严的裁判,但两个裁判基本同意。
五个模型,各守一段
在 LongJud-Bench 上跑五个主流模型,总分挤在一起:Kimi-K2.5 得 0.67,GPT-5.2 得 0.63,Qwen3.5-Plus 和 DeepSeek-V4-Flash 各 0.62,GLM-4.7 是 0.54。名次没什么可讲的,拆开看才有东西。
Kimi-K2.5 的文书最稳,庭上立场也最不漂移。GPT-5.2 正相反:文书格式是五个模型里最弱的(0.53),但一审举证和法理推理是最强的——弱在纸面,强在庭上。Qwen3.5-Plus 最会搭诉求。没有一个模型全赢。
论文最狠的一个发现:庭上对抗是所有模型的公共短板。立场一致性、举证、法理推理这三项对抗能力,全面低于文书类能力,模型越弱差距越大。多轮对抗要边听对方说、边翻自己的记忆、边回应法官,这是目前最难的环节。另一头,格式类技能已经饱和——二审阶段有一审判决垫着底,主体识别几乎拉不开差距。真正筛掉模型的,全在推理那一栏。
还有个反直觉的细节:多数能力到了二审反而变强,因为有一审判决可以参考;唯独证据整理会掉——在二审找新证据,比复用一审已经固定的证据记录更难。
案子跑完,经验变成一条规则
论文藏了个彩蛋。案子结束后,让律师 agent 复盘整条轨迹,提炼成一条技能笔记:什么条件下触发、适用哪个阶段、纠错原则是什么、产出要满足什么约束。同案由的下一场官司,同一个模型带着笔记上场。
三个高频案由(离婚后财产、民间借贷、劳动争议)试了试:平均分从 61.56 涨到 65.29,加 3.73 分。更有意思的是没参与写笔记的新案子也涨了 2.34 分——经验有迁移,不是背题。轨迹不只是考卷,还是训练数据。
一句诚实备注
论文写的是资源将公开发布。它六月十七日挂上 arXiv,到今天项目页还是 404,代码和数据尚未上线。视频标题说「复旦为 AI 打造律所模拟器」,这部分属实。
把一条链跑通,比做对十道独立的题难。五个模型挤在 0.54 到 0.67 之间,差距不在文书,全在庭上那一栏。