跳到正文
热点事件历史事件

SAKI蒸馏方法论文发布

1 篇报道1 个报道来源3 天前更新

先了解这件事

AI 综述

2026年9月29日,Hugging Face Daily Papers 收录并介绍论文《SAKI:用于 on-policy 知识蒸馏的最大耦合路由教师监督》。报道称,SAKI 面向 on-policy 知识蒸馏,将 KL 约束的教师引导 rollout 与最大耦合结合,通过接受/纠正事件来路由 token 级监督。该方法旨在缓解弱学生模型在训练与测试状态之间的错配问题。目前报道仅披露了方法框架与目标,未提供更多实验结果、作者信息或发布渠道细节。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

9月29日
  1. Hugging Face Daily Papers
    SAKI:用于 on-policy 知识蒸馏的最大耦合路由教师监督

    SAKI 将 KL 约束的教师引导 rollout 与最大耦合结合,用接受/纠正事件路由 token 级监督,缓解弱学生的 train-test 状态错配。