跳到正文
原文
Hugging Face Daily Papers·· 16 小时前AI 评分50

AdvSim2Real:在 Web 世界模型中训练 Web 智能体抵御自适应提示注入

AdvSim2Real : Training Web Agents Against Adaptive Prompt Injection in a Web World Model

AI 导读

AdvSim2Real 在冻结的 Web 世界模型中共同演化任务课程、注入对手和智能体,以提升 Web 智能体对自适应提示注入的鲁棒性。模拟器训练让 4B 智能体在有无攻击时完成率均提升,并能抵御未训练过的前沿模型对手。在 150 个 Web 任务上,AdvSim2Real 面对该未见对手的完成率较基础智能体相对提高 33.6%。

来源:Hugging Face Daily Papers · arxiv.org