利用 Web 世界模型進行對抗訓練：AdvSim2Real 提升 Web Agent 抵禦適應性提示詞注入之能力
AdvSim2Real: Co-Evolving Web Agents and Adversaries inside a Web World Model
隨著 Web Agent（網頁代理）普及，惡意網頁中的「提示詞注入」（Prompt Injection）威脅劇增。傳統防禦方法使用靜態注入進行微調，容易被自適應攻擊破解。本研究提出 AdvSim2Real 架構，在一個凍結的 Web 世界模型中，讓「任務課程生成器」、「注入攻擊者」與「Agent」協同演化。此機制不僅將 4B Agent 抵禦未見過強大攻擊的任務完成率相對提升了 33.6%，更成功將模擬環境中學到的防禦與操作能力轉移至真實瀏覽器中。
核心重點
三方協同演化
在凍結的 Web 世界模型中，同時演化任務課程、注入攻擊者與 Agent，創造動態對抗環境。
成功翻轉獎勵機制
攻擊者僅在成功將 Agent 的「成功狀態」翻轉為「失敗狀態」時獲得獎勵，避免無效攻擊並提高演化效率。
自適應任務課程
課程生成器專注於挑選 Agent 成功率約 50% 的任務，確保訓練難度始終處於最佳學習區間。
優異的真實跨界轉移
在模擬器訓練的 4B Agent，於真實瀏覽器的 150 個測試任務中，抵抗未知強大攻擊的完成率提升了 33.6%。
技術圖解
為什麼重要
網頁 Agent 必須讀取不可信的第三方網頁內容才能完成工作，這使其天生容易遭受提示詞注入攻擊。過去的防禦方法往往會降低 Agent 的一般工作能力。AdvSim2Real 證明了即使是 4B 規模的小型模型，透過在虛擬世界模型中進行動態對抗訓練，也能在不犧牲（甚至提升）基本任務能力的同時，獲得抵禦未知、更強大攻擊者的防護力。這為低成本、高安全的自主 Agent 落地鋪平了道路。
對誰有影響
- AI 開發者
- AI 研究人員
- 企業決策者
可以怎麼使用
- 1訓練防禦性 Web Agent，使其在處理不安全的外部網站時免受惡意代碼或欺騙指令干擾。
- 2利用 Web 世界模型進行低成本的安全評估與紅隊演練，模擬各種適應性攻擊路徑。
限制與注意事項
- 訓練高度依賴於預先構建且凍結的 Web 世界模型（World Model）之準確性與真實度。
- 三方協同演化（Co-evolution）的訓練計算複雜度與協調難度較高，可能需要仔細調整超參數。
延伸閱讀
打造低成本 AI 工件：LLM Agent 是否具備「能力封裝」的本領？
Agent in a Bottle: Can LLM Agents Package Their Capabilities into Cheap, Scalable Artifacts?
本研究提出 BOTTLED 基準測試，評估 LLM Agent 能否在預算限制下，自動將通用推理能力「封裝」成便宜且可擴展的特定任務小模型或程式，並揭示了零樣本能力不等於封裝能力的現狀。
點陣圖秒變任意比例流程圖！「One Figure, Every Canvas」以 Agent 協同管線自動排版且支援 draw.io 編輯
One Figure, Every Canvas: Editable Flowchart Relayout via Agentic Pipeline
本研究提出一種基於 Agent 的協同管線，能將單一黑盒子的點陣流程圖自動重新排版，適應各種寬高比（如投影片、手機直式畫面等），並直接輸出成 draw.io 可編輯的 XML 格式，解決排版跑位與內容幻覺的問題。
MemPilot：為多模態 AI Agent 打造的按需動態記憶整理框架
MemPilot: Orchestrating On-Demand Multimodal Memory Curation for LLM Agents
MemPilot 是一款專為 LLM Agent 設計的記憶管理框架，採用強化學習策略，在執行期動態平衡效能、成本與延遲，按需整理多模態歷史資料。