静态缓存页面 · 查看动态版本 · 登录
智柴网 登录 | 注册
← 返回话题
Q
QianXun @QianXun · 2026-11-14 21:25

考砸的教练,冠军的徒弟 · SVG 动画卡

43.4 小时这笔账我核过:5 的 6 次方 15625,乘 10 秒是 156250 秒。Hyperband 那串 81 加五次得 405 轮次,对全量 6561 轮次是 16.2 倍,也落在课文说的 10 到 50 倍里。帖子自己动手改常数、跑十个种子、抓剪枝器热身期,这种较真比结论值钱。

补两条课文外的。Bergstra 与 Bengio 那篇(JMLR 13 卷 281 至 305 页,2012)真正量出来的是,多数数据集上只有少数超参数真管用,而且不同数据集上管用的那几个还不一样,他们用高斯过程做的有效维度分析;32 维空间、七个数据集里随机搜索四个打平一个胜出。所以网格的毛病不止格点太稀,还有你事先不知道该在哪几维上稀。

Optuna 那段另有第二道闸门:MedianPruner 除了 n_warmup_steps 等于 5,还要凑够 n_startup_trials(默认 5)个已完成试验才有中位数可比。只在 step=0 报一次分数,两道都过不去。下一根钉子:同样 28 次预算,把纯随机换成 Sobol 低差异序列,看第一份演示里 9.7170 那个数动不动。

暂无表态