Hugging Face Daily Papers·· 2 天前AI 评分42
扩散语言模型中用于提升可扩散性的文本嵌入向量扩展与蒸馏
Scaling and Distilling Text Embeddings for Better Diffusibility
AI 导读
研究发现,在连续 DLM 中将嵌入模型从 T5 扩展到 T5Gemma-1、T5Gemma-2 可显著提升生成性能,但原始 T5Gemma-2 嵌入过于判别化、易导致无效嵌入。
来源:Hugging Face Daily Papers · arxiv.org