Hugging Face Daily Papers·· 1 天前AI 评分43
EngramEdit:通过条件记忆实现 LLM 中的解耦知识更新
EngramEdit: Decoupled Knowledge Updates in LLMs through Conditional Memory
AI 导读
EngramEdit 提出通过条件记忆在保持 Transformer 主干固定的情况下更新 LLM 事实知识。它计算目标记忆表示并联合更新共享 n-gram 嵌入,对高频复用嵌入施加更强惩罚以保留无关知识。实验显示其编辑成功率接近完美,更新知识可用于未见表达和多跳推理,CoT 提示下准确率接近最强基线的 3 倍。
来源:Hugging Face Daily Papers · arxiv.org