先摸一下再决定怎么擦:预测接触把成功率从三成抬到七成

一块玻璃要擦干净,机器人举着抹布贴上去,往右推。看起来没有难度,直到抹布下面是一块凸起的曲面,或者一张卡纸边缘会翘起来,或者一片薄芯片经不起一点多余的力。

目录
  1. 🤲 为什么视觉在这里不够
  2. 📐 四个任务,两个指标
  3. 🔬 消融说清了增益从哪来
  4. ⏱️ 一个反直觉的结果
  5. 💰 代价

一块玻璃要擦干净,机器人举着抹布贴上去,往右推。看起来没有难度,直到抹布下面是一块凸起的曲面,或者一张卡纸边缘会翘起来,或者一片薄芯片经不起一点多余的力。

同一段动作,看起来一模一样,结果可以是擦干净,也可以是卡死、打滑,或者把芯片捏碎。区别全部发生在相机看不见的地方。

10 月 13 日提交到 arXiv 的一篇论文给出了一个应对办法:不看动作本身,先预测这个动作会带来什么样的接触,再据此在动作执行前调整生成过程。

🤲 为什么视觉在这里不够

论文的出发点是一个具体的不对称:视觉上相似的动作会导致接触丢失,也可能卡死、打滑,甚至造成不可逆的损坏,而触觉反馈往往在关键状态转变之后才到。

这个时序问题是核心。触觉信号本身的信息量足够,问题出在它来得太晚。等到传感器报告打滑,物体已经滑出去了,动作序列中最关键的那一步已经过去了。

作者们的做法是把整个流程倒过来一层。当前触觉状态先被编码,然后模型预测如果执行某一段候选动作序列,未来的触觉会是什么样;接着用接触质量目标评估这条预测轨迹;最后梯度穿过触觉预测器,回传去引导动作生成。

接触质量评分器不接收动作,它接收的是预测出来的未来触觉潜变量。评分方式是一个「好与坏的对数间隔」:期望接触与失败接触之间的分类间隔越大,候选动作的预测质量就越高。这个间隔提供了可微分的梯度。

还有一点值得单独拎出来:预训练模型参数保持冻结。部署时更新的只有当前生成采样状态,模型权重不动。这个选择让方法可以直接挂在已经训好的扩散策略或者流匹配策略上,不需要重训。

📐 四个任务,两个指标

实验平台是 Realman RM75 机械臂,触觉输入是 9×9 的标记点位移场,每个历史窗口 8 帧,压缩成 16×3×3 的潜变量图。四个任务,每个任务 20 次真实机器人试验。

作者定义了两个指标。任务成功率只算完成该任务特定目标的比例;接触成功率还额外要求满足预先定义的物理接触标准。所以接触成功率永远不超过任务成功率。

任务测的是什么任务成功率接触成功率
平面擦拭建立并维持平面接触85%80%
曲面擦拭在变化的几何面上转移接触70%65%
卡片滑动连续接触下的对齐55%50%
易碎芯片抓取在夹持力不足与过大之间找区间75%70%
四任务等权平均之后,对比纯视觉的扩散策略基线,任务成功率从 36.3% 提到 71.3%,接触成功率从 20.0% 提到 66.3%。

两个数字的差距值得留意。任务成功率提升了 35.0 个百分点,接触成功率提升了 46.3 个百分点,后者更大。这意味着增益主要来自「动作做对了」以外的部分:动作在更多情况下同时满足了物理上该有的接触状态。

不过这里有一处口径差异需要说明。项目页正文按逐任务表格给出的对比是相对 RDP 基线(58.8% / 48.8%)的 12.5 与 17.5 个百分点,而同一页面末尾的摘要区块把接触成功率提升写成了 17.5 个百分点,与正文的 46.3 个百分点不一致。本篇采用正文逐任务表格算出的数字。

更强的基线也在同一张表里。视觉的扩散策略 36.3% / 20.0%,RDP 58.8% / 48.8%,扩散策略简单拼接当前触觉 48.8% / 41.3%;换成流匹配的 π0.5,视觉版是 46.3% / 36.3%,加上 ForeTac 后是 67.5% / 62.5%。

🔬 消融说清了增益从哪来

最关键的一组消融把「把触觉当输入」和「预测未来触觉」拆开了。

只保留未来触觉预测作为训练辅助损失、推理时不用它引导,结果是 55.0% / 48.8%。生成多个候选后用冻结的预测器和评分器事后挑最好的那个(不做逐步引导),是 58.8% / 52.5%。把当前触觉编码器换成冻结的 ResNet-18 加线性适配器,是 50.0% / 38.8%。完整方法 71.3% / 66.3%。

还有一个更贴近的对照:保持同一个扩散采样流程,但评分时不看未来触觉,只根据当前触觉历史、本体感知和候选动作来判断。结果 60.0% / 51.3%,比完整方法低 11.3 与 15.0 个百分点。

这四个数字连起来构成一条完整的论证链:触觉信息本身有用(48.8% 对 36.3%),预测未来触觉比只看当前更有用(55.0%),在生成过程中用梯度引导比事后挑选更有用(58.8% 对 71.3%),三者叠加才到 71.3%。

⏱️ 一个反直觉的结果

论文里有一处结果值得单独说,因为它跟通常的直觉相反。

预测时域的消融显示:预测得越长,预测误差越大,但任务表现越好。

Foresight 一次输出 16 个未来状态,只有前 L 步参与评分和引导,其余位置被遮蔽。L 等于 1 时,潜变量平均绝对误差 0.0485,标记点误差 0.1973 像素,任务成功率 60%;L 等于 16 时,误差升到 0.0589 和 0.2832 像素,任务成功率却升到 85%。

这一点有另一组数据支撑。排序准确率实验里,用真实记录的未来触觉排序,5640 个样本对中对了 5146 个,准确率 91.2%;用预测的未来触觉排序,准确率 92.9%。任务级 Spearman 相关系数落在 0.9321 到 0.9728 之间。

误差升了,表现也升了。论文的解释是这套做法关心的是接触质量序列的整体排序与长期可行性,而不必要求每一步触觉重建都最精确。这个读法把「预测误差」和「决策质量」拆成了两件事:排序对了,比每一帧都对更有用。

预测触觉不仅保住了排序,还略微好过真实触觉。

💰 代价

所有增益都有账要算。

新增参数约 3492 万,基础扩散策略是 3.38 亿,总计约 3.73 亿,增幅约 10%。单次重规划延迟从 132.46 毫秒涨到 261.26 毫秒,多出的 128.80 毫秒主要来自十个引导采样步骤里反复执行的触觉预测、质量评分与梯度反向传播。

翻倍的开销换 35 个百分点的任务成功率,这个交换在需要接触判断的任务上很划算,在只需要搬运的任务上则未必。论文的四个任务恰好都属于前者。测试硬件是单张 RTX 4090,批大小为 1。

离线引导的诊断数据是 305 次配对引导更新里 293 次(96.1%)的预测接触质量间隔得到改善。

暂无表态

想参与讨论或点赞?登录后使用完整功能

讨论回复(0)

暂无回复,登录后可参与讨论
合作

智谱 GLM-5 已上线

在智谱开放平台 BigModel.cn 打造 AI 应用。新一代旗舰模型 GLM-5 在推理、代码、智能体综合能力达到开源模型 SOTA。

领取 2000万 Tokens