全新多語種編碼器 mmBERT：超越 XLM-R，提升速度與效率

約翰霍普金斯大學推出多語種編碼器mmBERT，填補自然語言處理領域空白。該模型在多項任務中超越XLM-R，速度提升2-4倍，支持多語種應用研發。提供基礎和小型兩種配置，基礎版含22層變換器，隱藏層維度1152，參數量約3.07億。