热点事件观察中
EngramEdit论文发布
1 篇报道1 个报道来源1 天前更新
先了解这件事
报道摘要
EngramEdit 提出通过条件记忆在保持 Transformer 主干固定的情况下更新 LLM 事实知识。它计算目标记忆表示并联合更新共享 n-gram 嵌入,对高频复用嵌入施加更强惩罚以保留无关知识。实验显示其编辑成功率接近完美,更新知识可用于未见表达和多跳推理,CoT 提示下准确率接近最强基线的 3 倍。
摘自 Hugging Face Daily Papers
报道时间线
沿着报道,了解事件的不同侧面。
10月7日
- Hugging Face Daily PapersEngramEdit:通过条件记忆实现 LLM 中的解耦知识更新
EngramEdit 提出通过条件记忆在保持 Transformer 主干固定的情况下更新 LLM 事实知识。它计算目标记忆表示并联合更新共享 n-gram 嵌入,对高频复用嵌入施加更强惩罚以保留无关知识。实验显示其编辑成功率接近完美,更新知识可用于未见表达和多跳推理,CoT 提示下准确率接近最强基线的 3 倍。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。