14 जुलाई को, Unsloth AI ने घोषणा की कि उन्होंने Moonshot AI के Kimi K2 मॉडल को 1.8 बिट संस्करण में कम करके सफलतापूर्वक संशोधित कर लिया है, जिससे मॉडल के आकार में बहुत अधिक कमी आई और डेप्लॉयमेंट लागत कम हो गई। AIbase के अनुसार, यह तकनीकी प्रगति Kimi K2 के मूल 1.1 टेराबाइट को 245 गीगाबाइट तक कम कर देती है, जिससे आकार में लगभग 80% कमी आई है, लेकिन सभी कोड परीक्षण प्रदर्शन बरकरार रहा। इस कदम को ओपन सोर्स AI क्षेत्र में महत्वपूर्ण प्रगति माना गया है और इसने उद्योग में व्यापक ध्यान आकर्षित किया।
तकनीकी प्रगति: 1.8 बिट क्वांटाइजेशन मॉडल को बहुत अधिक अनुकूलित करता है
Kimi K2 Moonshot AI द्वारा 11 जुलाई 2025 को जारी किया गया एक ओपन सोर्स बड़ा भाषा मॉडल (LLM) है, जिसमें 1 ट्रिलियन पैरामीटर और 3.2 बिलियन सक्रिय पैरामीटर हैं, जो मिश्रित एक्सपर्ट (MoE) आर्किटेक्चर का उपयोग करता है और कोड जनरेशन, तर्क और एजेंट कार्यों में विशेषज्ञता रखता है। AIbase के अनुसार, Unsloth AI अपने नवाचार के डायनामिक 1.8 बिट क्वांटाइजेशन तकनीक के माध्यम से Kimi K2 मॉडल के भंडारण की आवश्यकता को 1.1 टेराबाइट से कम करके 245 गीगाबाइट कर दिया है, जबकि UD_IQ1 से UD-Q5_K_XL जैसे विभिन्न क्वांटाइजेशन संस्करण प्रदान करता है। परीक्षण के अनुसार, क्वांटाइज्ड Q2_K_XL संस्करण (381 गीगाबाइट) जटिल कार्यों जैसे Flappy Bird खेल बनाना या सात भुजा परीक्षण पास करना एक ही उत्पादन में कर सकता है, जिससे उत्कृष्ट प्रदर्शन स्थिरता का पता चलता है।
Unsloth AI कहते हैं कि डायनामिक क्वांटाइजेशन संस्करण मेमोरी अपलोड का समर्थन करता है, जो सीमित हार्डवेयर संसाधनों पर मॉडल चलाने की अनुमति देता है। उदाहरण के लिए, क्वांटाइज्ड Kimi K2 Apple M3Ultra मशीन पर 512 गीगाबाइट RAM के साथ चल सकता है, या बहु-नोड NVIDIA B200 GPU क्लस्टर के माध्यम से उत्पादन डेप्लॉयमेंट के लिए उपयोग किया जा सकता है। यह अनुकूलन काफी हद तक व्यापार और विकासकर्ता की हार्डवेयर लागत कम करता है, जो स्थानीय एआई मॉडल के व्यापक उपयोग के लिए रास्ता बनाता है।
बाजार प्रभाव और उद्योग की प्रतिक्रिया
AIbase के अनुसार, Kimi K2 के ओपन सोर्स गुण और कम लागत वाले डेप्लॉयमेंट की क्षमता OpenAI के GPT-4.1 और Anthropic के Claude Opus4 के लिए एक मजबूत प्रतिस्पर्धी बन गई है। Unsloth AI की क्वांटाइजेशन तकनीक इस फायदे को और अधिक बढ़ा देती है, जिससे छोटे और मध्यम व्यवसाय या व्यक्तिगत विकासकर्ता भी उच्च प्रदर्शन एआई मॉडल डेप्लॉय कर सकते हैं। उद्योग विशेषज्ञों का मानना है कि यह प्रगति ओपन सोर्स एआई पारिस्थितिकी तंत्र के विकास को आगे बढ़ाएगी और संभवतः वैश्विक एआई बाजार के प्रतिस्पर्धा ढांचे को बदल सकती है।
हालाँकि, AIbase ने यह भी बताया कि Kimi K2 के व्यावसायिक अनुप्रयोग निश्चित सीमाओं के भीतर हैं। Moonshot AI ने मांग की है कि जिन व्यावसायिक उत्पादों के मासिक सक्रिय उपयोगकर्ता 1 करोड़ से अधिक हैं या मासिक आय 20 मिलियन डॉलर से अधिक है, उनके उपयोगकर्ता सीमा पर "Kimi K2" स्रोत को स्पष्ट रूप से चिह्नित करना आवश्यक है, ताकि ओपन सोर्स समुदाय की पारदर्शिता और न्याय को सुनिश्चित किया जा सके।
भविष्य के दृष्टिकोण
Unsloth AI के 1.8 बिट क्वांटाइजेशन तकनीक ने Kimi K2 के व्यापक उपयोग के लिए रास्ता खोल दिया है, विशेष रूप से संसाधन-सीमित स्थानीय परिस्थितियों में। AIbase के विश्लेषण के अनुसार, क्वांटाइजेशन तकनीक के आगे के विकास के साथ, ऐसे उच्च प्रदर्शन ओपन सोर्स मॉडल, जैसे Kimi K2, शिक्षा, स्वास्थ्य और रचनात्मक उद्योग क्षेत्रों में अधिक भूमिका निभा सकते हैं। साथ ही, Unsloth AI के नवाचार अन्य बड़े मॉडल के अनुकूलन के लिए एक आदर्श प्रदान करते हैं, जो एआई तकनीक के दोहरे अप्रगति के संकेत देते हैं - दक्षता और पहुंच।