热点事件观察中
提出 Length Self-Distillation
1 篇报道1 个报道来源2 天前更新
先了解这件事
AI 综述
2026 年 9 月 30 日,Hugging Face Daily Papers 报道了 Length Self-Distillation(LSD)方法。该方法针对 RL 后训练中的 Length-Scaling Tax 问题,用在线策略蒸馏来减少模型在已解决问题上产生的冗长回答。报道称,LSD 以在线策略的指数移动平均作为教师,不需要外部模型。在实验结果中,单轮推理场景的 LST 从 19.0% 降至 -3.7%,多轮智能体任务中的 LST 从 31.4% 降至 13.7%。目前报道仅给出了方法机制与上述评测结果。
AI 根据报道生成 · 3 小时前更新
最新进展9月30日 08:00
LSD 被报道可在无外部教师模型下缓解 Length-Scaling Tax。报道时间线
沿着报道,了解事件的不同侧面。
9月30日
- Hugging Face Daily PapersLength Self-Distillation 用在线蒸馏缓解 Length-Scaling Tax
Length Self-Distillation(LSD)在 RL 后训练中用在线策略蒸馏缓解 Length-Scaling Tax,减少已解决问题的冗长回答。LSD 以在线策略的指数移动平均作为教师,无需外部模型;单轮推理中 LST 从 19.0% 降至 -3.7%,多轮智能体任务中从 31.4% 降至 13.7%。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。