arXivAI 研究
自我監督信心訓練:免於刻意「學會停止」即可提升 LLM 推理效率
Learning to Stop without Learning to Stop: Self-Supervised Confidence Training Improves Reasoning Efficiency
研究人員發現,透過自我監督讓推理模型在訓練中預測自身答案的信心度,即使不引入長度限制或提前終止機制,也能在推論時自然減少高達 25% 的 token 消耗並保持相同準確度。
2 分鐘閱讀
#metacognition
1 篇文章
Learning to Stop without Learning to Stop: Self-Supervised Confidence Training Improves Reasoning Efficiency
研究人員發現,透過自我監督讓推理模型在訓練中預測自身答案的信心度,即使不引入長度限制或提前終止機制,也能在推論時自然減少高達 25% 的 token 消耗並保持相同準確度。