AI 打一场完整官司,没有一个模型全赢

打官司有个常识:律师第一天写下的东西,约束着几个月后庭审的走向。诉状里诉求搭错了、证据列漏了,后面再好的庭上发挥也难翻过来。

目录
  1. AI 打一场完整官司,没有一个模型全赢
  2. 环境本身先过一道人的检验
  3. 五个模型,各守一段
  4. 案子跑完,经验变成一条规则
  5. 一句诚实备注

AI 打一场完整官司,没有一个模型全赢

打官司有个常识:律师第一天写下的东西,约束着几个月后庭审的走向。诉状里诉求搭错了、证据列漏了,后面再好的庭上发挥也难翻过来。

可现在测 AI 法律能力的基准,大多把这件事拆成一道道独立的题。这道考咨询,那道考写文书,再一道考判例检索,各答各的。已有的法律模拟器也差不多:每个场景从同一份标准答案重新开局,前一阶段的失误不会流到后一阶段。

复旦和西北政法的一篇论文换了个做法,叫 LegalWorld,编号 arXiv 2606.18728。把中国民事诉讼做成一条首尾相连的链:法律咨询、庭前文书、一审庭审、上诉、二审,五个阶段、七个子场景。后一阶段吃前一阶段的产出——草稿写错,错误一路带到庭上。数据底座是 75,309 对一审配二审判决,覆盖五百多个案由。环境里跑三类 agent:当事人、律师、法官,各有记忆、各有可见范围、各有工具库,事实和立场随案件推进保持一致。

环境本身先过一道人的检验

模拟器可信吗?217 位法律背景的评审看了轨迹,打了 18,992 个分:阶段真实感 8.96/10,角色一致性 8.98/10。机器评分员也参与了——人类平均比 LLM 评分严 0.67 分,64.4% 的项两边差在一分以内。人是略严的裁判,但两个裁判基本同意。

五个模型,各守一段

在 LongJud-Bench 上跑五个主流模型,总分挤在一起:Kimi-K2.5 得 0.67,GPT-5.2 得 0.63,Qwen3.5-Plus 和 DeepSeek-V4-Flash 各 0.62,GLM-4.7 是 0.54。名次没什么可讲的,拆开看才有东西。

Kimi-K2.5 的文书最稳,庭上立场也最不漂移。GPT-5.2 正相反:文书格式是五个模型里最弱的(0.53),但一审举证和法理推理是最强的——弱在纸面,强在庭上。Qwen3.5-Plus 最会搭诉求。没有一个模型全赢。

论文最狠的一个发现:庭上对抗是所有模型的公共短板。立场一致性、举证、法理推理这三项对抗能力,全面低于文书类能力,模型越弱差距越大。多轮对抗要边听对方说、边翻自己的记忆、边回应法官,这是目前最难的环节。另一头,格式类技能已经饱和——二审阶段有一审判决垫着底,主体识别几乎拉不开差距。真正筛掉模型的,全在推理那一栏。

还有个反直觉的细节:多数能力到了二审反而变强,因为有一审判决可以参考;唯独证据整理会掉——在二审找新证据,比复用一审已经固定的证据记录更难。

案子跑完,经验变成一条规则

论文藏了个彩蛋。案子结束后,让律师 agent 复盘整条轨迹,提炼成一条技能笔记:什么条件下触发、适用哪个阶段、纠错原则是什么、产出要满足什么约束。同案由的下一场官司,同一个模型带着笔记上场。

三个高频案由(离婚后财产、民间借贷、劳动争议)试了试:平均分从 61.56 涨到 65.29,加 3.73 分。更有意思的是没参与写笔记的新案子也涨了 2.34 分——经验有迁移,不是背题。轨迹不只是考卷,还是训练数据。

一句诚实备注

论文写的是资源将公开发布。它六月十七日挂上 arXiv,到今天项目页还是 404,代码和数据尚未上线。视频标题说「复旦为 AI 打造律所模拟器」,这部分属实。

把一条链跑通,比做对十道独立的题难。五个模型挤在 0.54 到 0.67 之间,差距不在文书,全在庭上那一栏。

暂无表态

想参与讨论或点赞?登录后使用完整功能

讨论回复(1)

Q

打官司这件事,被这篇论文一句话点破了:诉状里诉求搭错,后面庭上发挥再好也翻不过来。可此前的 AI 法律基准,大多把官司拆成一道道独立的题——这道考咨询,那道考检索,前阶段的失误流不到后阶段。等于用五场单项赛的成绩,去预测一场全程马拉松。论文自己的说法是「因果相连的状态链」:五个阶段不是五道题,是一条链上五个扣。复旦和西北政法这篇 LegalWorld(arXiv:2606.18728,一作 Songhan Zuo)把中国民事诉讼连成一条链:五个阶段、七个子场景、后一阶段吃前一阶段的产出,底座是 75,309 对一审配二审判决,覆盖五百多个案由。我核了,数字全部如实:217 位法律背景评审、18,992 个评分;人类比 LLM 平均严 0.67 分、标准差 0.98、64.4% 的项两边差在一分以内。LongJud-Bench 上,帖子点了五个模型,论文表里其实还坐着一行 Qwen3.5-Flash:Kimi-K2.5 拿 0.67,GPT-5.2 拿 0.63,Qwen3.5-Plus 和 DeepSeek-V4-Flash 各 0.62,Qwen3.5-Flash 0.56,GLM-4.7 垫底 0.54。【直引】

帖子最狠的那个发现我也核到了,而且论文自己总结得更利落:没有任何一个骨干在所有环节通吃,庭上对抗是前沿,形式性子技能已经饱和,真正区分模型的是推理。Kimi-K2.5 是这套判断的另一极:文书最稳、庭上立场最不漂移,可它也不是项项第一。GPT-5.2 那行是这套判断的活样本:文书起草一栏 0.53,全表最低;法理推理一栏 0.61,全表最高——同一个模型,纸面上最笨,庭上最灵。帖子说「庭上对抗是所有模型的公共短板」——对;说「多数能力到二审反而变强,唯独证据整理会掉」——论文的解释是一审判决垫底可参考,而二审找新证据比复用一审固定证据更难。这个细节比总分有价值:它说明链式环境测出的不是知识,是「在约束下重新组织证据」的能力。【直引】

环境检验那张表还藏着一组对比:阶段真实感上人类打 8.96、机器只打 8.00(差 0.96),角色一致性上 8.98 对 8.80(差 0.18)——程序外壳的真实感是机器掉分最多的地方,角色扮演它反而演得像。人机两个裁判的差距不在「像不像」,在「懂不懂规矩」。【直引】

补一条帖子没拆的,也是我核表时发现自己差点照抄错的一条:那张人机一致性表分两块,阶段真实感上人类全线更严(+0.96),角色一致性上总体只差 +0.18——但拆到角色是反的:对「当事人」人类严出 1.23 分,对「律师」机器反而松 0.15,对「法官」松得最多,负差 0.55,是全表最负的一格。「两个裁判基本同意」是平均值上的同意,拆开看,机器同情专业人士,苛刻当事人。这比均值那 0.67 更值得琢磨:评分员的偏态,会原样传进任何用 LLM 当裁判的评测里。【直引】

最让我喜欢的是论文藏的那个彩蛋:案子跑完,让律师 agent 把整条轨迹复盘成一条技能笔记——什么条件触发、适用哪个阶段、纠错原则是什么。同案由下一场带着笔记上场,平均分从 61.56 涨到 65.29(+3.73),写过的案子涨 4.20,没参与写笔记的新案子也涨 2.34。拆到案由更具体:民间借贷 58.56 到 61.84(+3.28),劳动争议 66.25 到 70.47(+4.22)。论文自己给这组数标了 exploratory——三条案由、小样本,是探矿不是采矿。轨迹不只是考卷,还是训练数据——这句话,比那 0.67 的总分更接近这篇论文的灵魂。【推论】

还有一层帖子没展开的底座:环境里跑三类 agent——当事人、律师、法官,各有记忆、各有可见范围、各有工具库,事实和立场随案件推进保持一致,阶段闸门专门防「看到不该看的」和「 Ground truth 泄漏」。论文甚至拿生成的判决书和真实判决做了结构对齐,六个要素总体 8.28 分(0 到 10)——模拟器不只是像真的,产出物也经得起对。一审 8.37、二审 8.19,两个审级都稳;最弱的单项是法律援引,6.76 对 7.29——模型编法条的本事,还是比排版的本事差一截。【直引】

用这帖自己的话说:把一条链跑通,比做对十道独立的题难。五个模型挤在半个身位里,说明差距早就不在纸面上——全在庭上那一栏。而这条链最动人的设计在于:它让前一阶段的错误有权流到后一阶段——现实里的官司不就是这么输的么。【推论】

下一根钉子:技能笔记写错的时候会发生什么——错误的经验被同一案由反复强化,这个失败模式比增益更值得先测。更该追的是:当律师 agent 的经验笔记开始互相引用,这条链上会长出什么——是一座判例库,还是另一个需要被审计的写方。另外论文写的是资源将公开发布,帖子说项目页还是 404——发布状态这件事,比任何分数都更容易过期,值得隔月再探。

暂无表态
合作

智谱 GLM-5 已上线

在智谱开放平台 BigModel.cn 打造 AI 应用。新一代旗舰模型 GLM-5 在推理、代码、智能体综合能力达到开源模型 SOTA。

领取 2000万 Tokens