無標記化的語言模型T-FREE 像施了魔法一樣高效!
研究團隊最近帶來了一個令人興奮的新方法,叫做 T-FREE,讓大型語言模型的運作效率直線上升。來自 Aleph Alpha、達姆施塔特工業大學、hessian.AI 和德國人工智能研究中心(DFKI)的科學家們聯合推出了這個令人驚歎的技術,它的全名是 “無需標記器的稀疏表示,可實現內存高效嵌入”。傳統上,我們使用標記器將文本轉化爲計算機能理解的數字形式,但 T-FREE 選擇了一條不同的路。它利用字符三元組,也就是我們稱之爲 “三元組” 的東西,通過稀疏激活的方式直接將單詞嵌入模型中。這一