Exo Labs登場!讓Mac M4電腦也能本地運行強大開源AI模型
在生成式人工智能領域,蘋果的努力似乎主要集中在移動設備上,尤其是最新的 iOS18系統。然而,新的 Apple M4芯片在最新發布的 Mac Mini 和 Macbook Pro 中展現出強大的性能,使其能夠有效運行目前最強大的開源基礎大語言模型(LLMs),如 Meta 的 Llama-3.1405B、Nvidia 的 Nemotron70B 和 Qwen2.5Coder-32B。Exo Labs 是一家成立於2024年3月的初創公司,致力於 “民主化人工智能的訪問”,其聯合創始人亞歷克斯・奇馬(Alex Cheema)已經成功地利用多臺 M4設備搭建了一個本地計算集羣。他將四臺 Mac Mini M4(每臺售