Allen Institute for AI

Olmo-core 3 登場：開源兆級參數 MoE 模型訓練基礎架構

Introducing Olmo-core 3: Open, Scalable Training Infrastructure for Trillion-Parameter MoEs

Olmo-core 3 是專為兆級參數 Mixture-of-Experts (MoE) 模型打造的開源訓練框架，大幅提升吞吐量並解決分散式訓練中的通訊瓶頸。