Hugging Face Daily Papers·· 4 天前AI 评分43
SaveRouter:用于经济型 LLM 路由的稀疏监督框架
Routing Should Pay for Itself: Sparse Supervision for Economical LLM Routing
AI 导读
SaveRouter 通过选择性获取模型反馈并在相关查询间共享能力信息,降低 LLM 路由部署前的监督成本。在四个路由 benchmark 中,主设置仅使用约 33--41% 的训练反馈,保持相当或更好的路由质量,并将盈亏平衡部署量较最快传统 router 降低约 1.9--9.5 倍。
来源:Hugging Face Daily Papers · arxiv.org