Exo Labs登场!让Mac M4电脑也能本地运行强大开源AI模型
在生成式人工智能领域,苹果的努力似乎主要集中在移动设备上,尤其是最新的 iOS18系统。然而,新的 Apple M4芯片在最新发布的 Mac Mini 和 Macbook Pro 中展现出强大的性能,使其能够有效运行目前最强大的开源基础大语言模型(LLMs),如 Meta 的 Llama-3.1405B、Nvidia 的 Nemotron70B 和 Qwen2.5Coder-32B。Exo Labs 是一家成立于2024年3月的初创公司,致力于 “民主化人工智能的访问”,其联合创始人亚历克斯・奇马(Alex Cheema)已经成功地利用多台 M4设备搭建了一个本地计算集群。他将四台 Mac Mini M4(每台售