arXivAI 程式開發進階

FrugalEvo：雙模型協作的成本感知型 LLM 程式最佳化演化框架

FrugalEvo: Cost-Aware LLM-Guided Program Evolution via Dual-Model Collaboration

2026/10/032 分鐘閱讀

30 秒看懂

傳統的 LLM 程式演化方法往往只專注於固定迭代次數下的效能，忽略了高昂的 API 呼叫成本。FrugalEvo 引入了成本感知機制，採用雙模型策略：由高成本的強大模型（如 GPT-5.6 Terra）負責高層次的策略探索，再由低成本的輕量模型（如 Luna）進行具體的程式碼實作與反覆迭代。同時，它透過優化提示詞結構來大幅提高 KV 快取重用率，並提出全新指標 BA-AUC 來衡量預算內的優化效率。在圓形裝箱等挑戰性任務中，它僅以 0.55 至 1.68 美元的極低成本，就達到或超越了過去平均需要約 50 美元的基準模型。

核心重點

雙模型協作策略

結合高成本的強大 LLM（探索高階策略）與低成本的輕量 LLM（實作與微調程式碼），在解答品質與 API 預算之間取得最佳平衡。

字首快取最佳化

設計特殊的架構與提示詞結構，最大化不同演化步驟之間的字首（prefix）共享，進一步提升 KV 快取重用率以降低費用。

預算感知評估指標

提出「預算感知曲線下面積（BA-AUC）」指標，專門衡量在累積 LLM 呼叫成本限制下，最優解答隨預算消耗的演化效率。

顯著降低執行成本

在圓形裝箱任務中，僅花費 0.55 至 1.68 美元即超越或追平傳統多代理人方法（平均需 50 美元）的效果。

技術圖解

FrugalEvo 雙模型成本感知最佳化流程

為什麼重要

當前 AI 代理人（Agent）與自動化編程多依賴反覆呼叫 LLM 進行自我最佳化，容易產生高昂的 API 帳單。FrugalEvo 證明了「成本」能作為演化演算法的核心約束，透過異質模型協作與工程快取最佳化，大幅降低自動化程式最佳化（如數學運算、系統配置）的實際落地門檻，讓中小企業也能負擔得起大規模的 AI 程式演化。

對誰有影響

AI 開發者
AI 研究人員
企業決策者
產品經理

可以怎麼使用

1自動化演算法最佳化：在限定預算內，自動最佳化數學或系統工程（如圓形裝箱問題）的程式碼。
2低成本自動化程式設計：利用雙模型架構，將高階邏輯規劃與具體程式碼編寫分離，降低自動化開發成本。

限制與注意事項

極度依賴支援高效字首快取（Prefix Caching）的 LLM API 服務，若 API 無此機制，降本效果將打折扣。
在結構極為複雜、需要強模型進行即時超長脈絡推理的任務中，弱模型可能會遇到程式實作瓶頸。