Looped Models

循環語言模型的「定點」重塑：邁向高效訓練、解碼與強化學習的全新架構

Towards Looped Models Done Right: Rethinking at Fixed Points for Efficient Training, Decoding, and RL

本研究探討循環語言模型（Looped Models）在逼近定點時的特性，提出「學習深度先驗」與「正交輸入注入」機制，顯著降低 KV 快取並大幅提升訓練、解碼與強化學習效率。