ह récently, MLX-LM अब Hugging Face प्लेटफॉर्म में सीधे एकीकृत हो गया है। यह इस्तेमाल करने का इस बिंदुगारी अपडेट Apple Silicon डिवाइस (जिसमें M1, M2, M3 और M4 शिपचिप हो) के उपयोगकर्ताओं के लिए नई आसानी प्रदान करता है, जिससे वे 4400 से अधिक बड़े भाषा मॉडल (LLM) को लॉकली चला सकते हैं सबसे तेजी से और कोई भी क्लाउड सेवा या मॉडल कनवर्ट करने की इंतज़ार करने की आवश्यकता नहीं है।
इस एकीकरण ने लॉकल AI विकास के व्यापक होने को और बढ़ावा दिया है, जो विकासकर्ताओं और शोधकर्ताओं के लिए अधिक कुशल और लचीले उपकरण प्रदान करता है।
MLX-LM का Hugging Face के साथ गहरा एकीकरण MLX है Apple के मशीन लर्निंग अनुसंधान टीम द्वारा बनाई गई एक विशेष रूप से Apple Silicon के लिए ऑप्टिमाइज़्ड मशीन लर्निंग फ़्रेमवर्क है, जो M सीरीज़ शिपचिप के न्यूरल इंजिन (ANE) और Metal GPU की शक्ति का पूर्ण लाभ उठाने के लिए डिज़ाइन किया गया है।
MLX-LM इसका एक उप-पैक है, जो बड़े भाषा मॉडल के प्रशिक्षण और अनुमान लगाने पर ध्यान केंद्रित करता है, और इसकी कुशलता और उपयोग की आसानी के कारण अधिकतर लोगों द्वारा जानी जाती है। Hugging Face के साथ एकीकरण के माध्यम से, MLX-LM अब Hugging Face Hub से सीधे मॉडल लोड कर सकता है, अतिरिक्त कनवर्टिंग कदमों की आवश्यकता नहीं होती है, जिससे कार्यप्रवाह काफी सरल हो जाता है।
लिंक: https://huggingface.co/models?library=mlx