Mistral AI ने Mistral NeMo जारी किया है, जो NVIDIA के साथ विकसित किया गया एक 12B मॉडल है, जिसमें 128k टोकन संदर्भ विंडो है और यह तर्क, विश्व ज्ञान और कोडिंग सटीकता में उत्कृष्ट है।
मिस्ट्रल नीमो एफपी8 इन्फरेंस का समर्थन करता है बिना प्रदर्शन हानि के, जेम्मा 2 9बी और लामा 3 8बी जैसे मॉडलों से बेहतर प्रदर्शन करता है, और बहुभाषी अनुप्रयोगों के लिए डिज़ाइन किया गया है।
मॉडल एक नए टोकनाइज़र, टेक्केन, का उपयोग करता है और बेहतर निर्देश-अनुसरण, तर्क, बहु-टर्न वार्तालाप, और कोड जनरेशन के लिए उन्नत फाइन-ट्यूनिंग से गुजरा है; वज़न हगिंगफेस पर उपलब्ध हैं।
मिस्ट्रल नेमो, जो एनवीडिया के साथ विकसित किया गया एक 12बी मॉडल है, में 128k टोकन संदर्भ विंडो है और यह तर्क, विश्व ज्ञान और कोडिंग सटीकता में उत्कृष्ट है।
मॉडल Mistral 7B के लिए एक ड्रॉप-इन रिप्लेसमेंट है, बिना प्रदर्शन हानि के FP8 इन्फरेंस का समर्थन करता है, और Apache 2.0 लाइसेंस के तहत उपलब्ध है।
यह एक नए टोकनाइज़र, Tekken, का उपयोग करता है, जिसे 100 से अधिक भाषाओं पर प्रशिक्षित किया गया है, और इसे NVIDIA RTX 4090 जैसी GPUs पर फिट होने के लिए डिज़ाइन किया गया है, जिसमें VRAM आवश्यकताएँ क्वांटाइजेशन के आधार पर 8-40GB तक होती हैं।