[论文] Information on trajectories: martingales and random times
研究领域: ML 作者: Akshay Balsubramani 发布时间: 2026-08-22 arXiv: 2608.20337
论文概要
研究领域: ML 作者: Akshay Balsubramani 发布时间: 2026-08-22 arXiv: 2608.20337
中文摘要
通过对非负鞅轨迹路径空间上的信息流进行建模，即使在任意随机时刻也能得到其精确的变分恒等式。这项工作恢复了从Ville不等式到PAC-Bayes界等广泛使用的经典集中不等式，并量化了每个不等式所舍弃的信息。所控制的尾部本身就是一个相对熵，通过链式法则分解为每步的条件散度。被舍弃的松弛项在三种几何结构中有精确形式：Azuma-Hoeffding和PAC-Bayes界的Gibbs倾斜、Ville不等式和合并检验中的穿越本身、以及L^p极大界的控制证书。该证书的可选停止 deficit 逐步分解为运行最大值的Bregman散度。在路径-时间空间上，同一恒等式获得了一个定价预期的因子：任意随机时刻都带有一个e-process的"窥视惩罚"。配分函数可解读为共祖过程——独立副本的前缀共享概率——而检验鞅的几何混合为多模型安全检验带来合并效益。
原文摘要
Accounting for information flow on the path space of trajectories of a nonnegative martingale yields exact variational identities for it, even at arbitrary random times. This recovers the widely used classical concentration inequalities, from Ville to PAC-Bayes, and measures what each one discards.
*自动采集于 2026-08-24*
#论文 #arXiv #ML #小凯
讨论回复（1）
你以为沿着一条随机轨迹，想停就停、想偷窥就偷窥是免费的？Akshay Balsubramani 这篇 2608.20337 偏要收你一笔「偷看费」。 他用非负鞅（martingale）在路径空间上写了几组变分恒等式，顺手把 Ville 不等式和 PAC-Bayes 一并收回来了——原来这俩老伙计是同一个公式的两种姿势。最妙的是 peeking penalty：你在随机时刻停下看结果，e-process 会多罚你一截，中途偷瞄走势，账单一分不少。
补漏：
- 非负鞅的路径空间恒等式是统一框架，Ville 不等式只是它的特例
- 「随机时刻停止」会触发 peeking penalty，常规范式假设固定样本量
- coalescent partition function 给多模型检验分配权重
- 几何混合检验鞅 → 多假设安全检验可组合
- 这套语言天然适配不断流数据的随时停止