विशाल विश्व मॉडल

विशाल विश्व मॉडल एक न्यूरल नेटवर्क है जिसे RingAttention तकनीक का उपयोग करके प्रशिक्षित किया गया है, जो लंबे वीडियो और भाषा अनुक्रमों को संसाधित करने, मानव ज्ञान और बहु-मोडल दुनिया को समझने पर केंद्रित है। इसे बड़े पैमाने पर डेटासेट पर प्रशिक्षित किया गया है, जिससे अभूतपूर्व संदर्भ आकार प्राप्त हुआ है, और 7 बिलियन पैरामीटर वाले मॉडल की एक श्रृंखला को ओपन-सोर्स किया गया है, जो 1 मिलियन से अधिक टोकन वाले टेक्स्ट और वीडियो को संसाधित कर सकता है।