新增 LoRA 技能唯讀不寫：READ 解決多配接器融合干擾
New LoRA Skills Should Read but Never Write: READ Solves Adapter Fusion Interference
融合多個獨立訓練的 LoRA 配接器通常會因參數空間干擾而導致性能下降。本研究指出其核心原因在於「分解座標」不一致與「雙向耦合」破壞舊技能。對此，提出 READ (Read-only Expansion of Adapter Deltas) 架構：將每個配接器轉換為平衡的標準型式，並限定新技能只能「讀取」舊技能的輸入子空間、不能「寫入」其輸出子空間。在 SuperGLUE 及領域數據集上，READ 分別比最強基準提升了 20 及 7 個百分點。
核心重點
發現干擾根源
發現多個獨立 LoRA 在合併時的干擾來自於任意的分解座標，以及雙向耦合導致舊技能輸出被覆寫的問題。
平衡標準型式
READ 將每個配接器的權重重寫為平衡的標準型式，確保不同配接器之間的交互作用具備一致的座標基準。
單向唯讀耦合
新技能只能讀取舊技能的輸入子空間，嚴禁寫入其輸出子空間，從根本上避免舊技能退化。
零推論成本摺疊
融合後的權重可直接摺疊回基礎模型中，不需要在推論時進行動態路由或額外計算。
技術圖解
| 傳統 LoRA 合併 (Traditional) | READ (本研究方法) | |
|---|---|---|
| 耦合方向 (Coupling Direction) | 雙向耦合（容易互相覆寫與干擾） | 單向唯讀（新技能唯讀舊技能，不干擾舊輸出） |
| 參數表示 (Factorization) | 任意、不一致的座標系統 | 標準化平衡型式 (Balanced Canonical Form) |
| 推論額外開銷 (Inference Cost) | 高（若使用路由/MoE）或 表現不佳（直接相加） | 零成本（可直接摺疊融入基礎模型權重中） |
| 舊技能保存度 (Skill Retention) | 差（技能易在合併過程中流失） | 極佳（舊技能計算路徑完全不受影響） |
為什麼重要
傳統上，要讓大型語言模型同時具備多種微調後的專門技能，必須在多任務資料上進行昂貴的重新訓練，或使用複雜的路由機制（如 MoE）而增加推論延遲。READ 提供了一種優雅的數學解法，讓開發者能以極低成本「熱插拔」或「疊加」新技能，且完全不影響既有技能的表現。這對於需要持續學習、模組化功能擴展的企業級 LLM 部署具有重大價值。
對誰有影響
- AI 開發者
- AI 研究人員
- 企業決策者
可以怎麼使用
- 1模組化 AI 技能疊加
- 2避免災難性遺忘的持續學習
限制與注意事項
- 需要存取並轉換原始 LoRA 的配接器權重
- 主要針對循序式技能新增進行評估，極多併發配接器的極限仍待驗證
延伸閱讀
自我監督信心訓練：免於刻意「學會停止」即可提升 LLM 推理效率
Learning to Stop without Learning to Stop: Self-Supervised Confidence Training Improves Reasoning Efficiency
研究人員發現，透過自我監督讓推理模型在訓練中預測自身答案的信心度，即使不引入長度限制或提前終止機制，也能在推論時自然減少高達 25% 的 token 消耗並保持相同準確度。
逆向擴散的一階駐點性：連結優化與生成採樣的數學機制
First-Order Stationarity of Reverse Diffusions: Bridging Optimization and Sampling
本研究為擴散模型建立了一階優化理論，證明當前向加噪過程為強凸時，基於隨機微分方程（SDE）的逆向擴散能以指數速率收縮，並為非凸數據提供了一階駐點性保證。
黑盒生成式 AI 的統計屬性對齊：透過輸出後處理實現公平與多樣性
Statistical Attribute Alignment for Black-Box Generative AI via Output Post-Processing
本研究提出一種統計後處理演算法，在僅能以「黑盒」方式調用生成式 AI 的情況下，能以最少的查詢次數確保模型輸出（如性別、年齡等屬性）符合使用者指定的目標分佈。