arXivAI 代理進階

打造低成本 AI 工件：LLM Agent 是否具備「能力封裝」的本領？

Agent in a Bottle: Can LLM Agents Package Their Capabilities into Cheap, Scalable Artifacts?

2026/10/072 分鐘閱讀

30 秒看懂

直接調用大型語言模型處理數百萬筆大規模數據的成本高昂。為此，研究團隊提出「能力封裝（Bottling）」概念：讓 LLM Agent 自主開發出更便宜的替代方案（如訓練小模型或撰寫程式碼）。研究推出 BOTTLED 基準測試，要求 Agent 在有限的時間、算力與 API 預算下完成任務。實驗發現，強大的零樣本能力並不等同於優秀的封裝能力。在 60 次實驗中，有 48 次封裝表現低於其原本的零樣本效能。不過，優秀的封裝案例（如 Opus 5）展現出巨大潛力，能在保留 82% 效能的同時降低高達 657 倍的成本。

核心重點

「能力封裝」概念

指 Agent 自動將通用推論能力轉化為可重複使用、成本低廉的特定任務解決方案之能力。

零樣本與封裝能力的落差

高超的零樣本表現不代表能做好封裝，60 次測試中有 48 次封裝後的結果不及原本的零樣本水準。

顯著的成本削減潛力

封裝成功時可帶來極高性價比。Opus 5 在分類任務中保留了 82% 效能，但成本卻降低了 657 倍。

難以超越傳統蒸餾基準

高達 31 次封裝運行表現不如預先設定、消耗相同 Token 預算的小模型蒸餾基準線。

技術圖解

直接調用與能力封裝（Bottling）之對比

	直接調用 (Zero-Shot)	能力封裝 (Bottling)
核心策略	逐次向大型 LLM 進行昂貴查詢	Agent 自動產出小模型或重用程式
推論成本	高昂，隨查詢次數呈線性增長	極低（如 Opus 5 可降低達 657 倍）
任務效果	100% 原始大型模型效能	約 82% 效能（在保留品質下大幅降低成本）
預算考量	無固定限制，預算隨規模耗盡	受限於 BOTTLED 固定時間、算力與 Token

為什麼重要

此研究為降低企業大規模部署 LLM 的推論成本開闢了全新方向。過去，將大模型的能力「蒸餾」或寫成特定程式需要大量工程師人力；而 BOTTLED 評估了 AI Agent 自動化這項「工程優化工作」的能力。若能成熟發展，將能大幅平民化 AI 的工業級應用，使百萬級別的大規模查詢不再昂貴。

對誰有影響

AI 開發者
AI 研究人員
企業決策者
產品經理

可以怎麼使用

1大規模商品分類：讓 Agent 自動建立並訓練專屬的小型分類器，將龐大的 API 查詢費用降低數百倍。
2自動化工作流優化：企業內部 Agent 在有限的運算資源與預算下，自主撰寫程式或微調輕量模型。

限制與注意事項

現階段多數 Agent 的封裝能力仍不穩定，在 BOTTLED 測試中有超過半數無法超越傳統的蒸餾基準線。
評估環境基於固定的算力、Token 與時間預算，真實世界的動態環境可能會給 Agent 帶來更多未知的工程挑戰。