跳到正文
热点事件观察中

提出 Length Self-Distillation

1 篇报道1 个报道来源2 天前更新

先了解这件事

AI 综述

2026 年 9 月 30 日,Hugging Face Daily Papers 报道了 Length Self-Distillation(LSD)方法。该方法针对 RL 后训练中的 Length-Scaling Tax 问题,用在线策略蒸馏来减少模型在已解决问题上产生的冗长回答。报道称,LSD 以在线策略的指数移动平均作为教师,不需要外部模型。在实验结果中,单轮推理场景的 LST 从 19.0% 降至 -3.7%,多轮智能体任务中的 LST 从 31.4% 降至 13.7%。目前报道仅给出了方法机制与上述评测结果。

AI 根据报道生成 · 3 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

9月30日
  1. Hugging Face Daily Papers
    Length Self-Distillation 用在线蒸馏缓解 Length-Scaling Tax

    Length Self-Distillation(LSD)在 RL 后训练中用在线策略蒸馏缓解 Length-Scaling Tax,减少已解决问题的冗长回答。LSD 以在线策略的指数移动平均作为教师,无需外部模型;单轮推理中 LST 从 19.0% 降至 -3.7%,多轮智能体任务中从 31.4% 降至 13.7%。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。