Prompt Injection

利用 Web 世界模型進行對抗訓練：AdvSim2Real 提升 Web Agent 抵禦適應性提示詞注入之能力

AdvSim2Real: Co-Evolving Web Agents and Adversaries inside a Web World Model

AdvSim2Real 透過在虛擬的 Web 世界模型中協同演化任務課程、注入攻擊者與 Agent，成功在不降低一般任務完成率的前提下，大幅提升 4B 輕量級 Agent 抵禦未見過提示詞注入攻擊的能力。