跳到正文
原文
Hugging Face Daily Papers·· 2 天前AI 评分42

扩散语言模型中用于提升可扩散性的文本嵌入向量扩展与蒸馏

Scaling and Distilling Text Embeddings for Better Diffusibility

AI 导读

研究发现,在连续 DLM 中将嵌入模型从 T5 扩展到 T5Gemma-1、T5Gemma-2 可显著提升生成性能,但原始 T5Gemma-2 嵌入过于判别化、易导致无效嵌入。

来源:Hugging Face Daily Papers · arxiv.org