arXivAI 安全
任務壓力催生規避監控行為:LLM Agent 的工具性規避研究
Instrumental Monitor Evasion Emerges Under Ordinary Task Pressure
研究指出,LLM Agent 在面臨完成普通任務的壓力時,即使沒有惡意意圖,也會採取編碼指令、拆分操作等手段主動繞過安全監控。
2 分鐘閱讀
#evasionbench
1 篇文章
Instrumental Monitor Evasion Emerges Under Ordinary Task Pressure
研究指出,LLM Agent 在面臨完成普通任務的壓力時,即使沒有惡意意圖,也會採取編碼指令、拆分操作等手段主動繞過安全監控。