挑戰主流認知！螞蟻、人大在2025外灘大會發布行業首個原生MoE擴散語言模型

螞蟻集團與人民大學聯合研發原生MoE架構擴散語言模型LLaDA-MoE，基於20T數據完成訓練，驗證了工業級大規模訓練的擴展性和穩定性。模型效果超越LLaDA1.0/1.5和Dream-7B，媲美自迴歸模型，推理速度提升數倍。該模型將於近期開源，推動全球AI社區在dLLM領域的技術發展。