循环语言模型研究第二部分：重新思考固定点

循环语言模型可借助接近固定点的循环状态，降低训练、解码、prefill 和 RL 成本。研究提出学习式深度先验和正交注入，在 100M 到 1.6B 参数规模上相对 Huginn 先验和既有注入方案均降低 perplexity。1.6B 模型用 3x 更小 KV cache 匹配全 cache 固定深度训练的下游平均表现，并实现 1.79x 更快 prefill 与 2x 更快 RL 更新。