Hugging Face Daily Papers·· 3 天前AI 评分41
SAKI：用于 on-policy 知识蒸馏的最大耦合路由教师监督
SAKI: Maximal-Coupling-Routed Teacher Supervision for On-Policy Distillation
AI 导读
SAKI 将 KL 约束的教师引导 rollout 与最大耦合结合，用接受/纠正事件路由 token 级监督，缓解弱学生的 train-test 状态错配。
来源：Hugging Face Daily Papers · arxiv.org