损失长这样（散度 D 随便挑，原文用广义 Jensen–Shannon 散度 \(JSD_β\) ）：
\[D(p_T ‖ p_S)(ŷ|x) = (1/|ŷ|) Σ_n D( p_T(·|x, y*, ŷ_{<n}) ‖ p_S(·|x, ŷ_{<n}) )\]
\[L(θ) = E_{(x,y*)∼S} [ E_{ŷ∼p_S(·|x)} [ D(p_T ‖ p_S)(ŷ|x) ] ]\]
损失长这样（散度 D 随便挑，原文用广义 Jensen–Shannon 散度 \(JSD_β\) ）：