Apple ML·· 12 天前AI 评分38
Dynamically Scaled Activation Steering:动态缩放的激活引导框架
Dynamically Scaled Activation Steering
AI 导读
Dynamically Scaled Activation Steering(DSAS)通过按层和输入自适应调节引导强度,在检测到不良行为时才强干预。DSAS 可结合现有引导方法,改善毒性缓解与效用保留的 Pareto front,并已应用到文本到图像扩散模型;代码将发布在 Github。
来源:Apple ML · machinelearning.apple.com