跳到正文
热点事件持续更新

DHSA推理时偏好对齐方法

1 篇报道1 个报道来源8 小时前更新

先了解这件事

AI 综述

2026年10月12日,量子位报道,成都大学等团队提出直接隐状态对齐(DHSA)方法,用于在冻结基座权重的情况下,通过推理时隐状态控制实现偏好对齐。报道称,在ConFiQA、IMDb和TL;DR数据集上,CAST仅启用256—16,384个控制参数,即达到与DPO相竞争的对齐水平。实验覆盖GPT-2-large(0.774B)、GPT-J(6B)、Qwen2(7B)、Llama-3及其LION版本(8B)等模型。报道还称,项目提供可复现代码与可扩展框架。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月12日
  1. 量子位(公众号 · Wechat2RSS)
    DHSA:偏好对齐也能在推理时完成,256—16,384个控制参数达到DPO水准

    成都大学等团队提出直接隐状态对齐(DHSA),在冻结基座权重下通过推理时隐状态控制实现偏好对齐。在ConFiQA、IMDb和TL;DR上,CAST仅启用256—16,384个控制参数,达到与DPO相竞争的对齐水平。实验覆盖GPT-2-large(0.774B)、GPT-J(6B)、Qwen2(7B)、Llama-3及其LION版本(8B)等,项目提供可复现代码与可扩展框架。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。