IBM ने अपने ओपन-वेट लार्ज लैंग्वेज मॉडल्स के परिवार में नवीनतम मॉडल पेश किए हैं, जिन्हें डाउनलोड करके सेल्फ-होस्ट किया जा सकता है। नए लॉन्च किए गए Granite 4.2 3B, 8B और 30B पैरामीटर वेरिएंट में आते हैं।

पिछले संस्करणों की तरह, IBM यहाँ डिकोडर-ओनली दृष्टिकोण अपना रहा है। ये नए रिलीज़ मूल रूप से 128,000-टोकन कॉन्टेक्स्ट विंडो प्रदान करते हैं। 8B और 30B वेरिएंट (3B नहीं) एजेंटिक रीइन्फोर्समेंट लर्निंग ब्लॉक से भी गुजरते हैं; उन्हें टर्मिनल का उपयोग करने, वेब खोजने या बाहरी टूल का उपयोग करने जैसी विस्तारित क्षमताओं के लिए प्रशिक्षित किया गया था। 3B मॉडल भी टूल का समर्थन करता है, लेकिन विशेष प्रशिक्षण के उसी स्तर के बिना।

इन बदलावों के अलावा, यह रिलीज़ विशेष रूप से उल्लेखनीय है क्योंकि, जैसा कि IBM स्वयं लिखता है, "Granite 4.2 Granite भाषा-मॉडल परिवार का तर्क-केंद्रित रिलीज़ है।"

जब क्षेत्र के शोधकर्ता या डेवलपर कहते हैं कि एक मॉडल तर्क करने में सक्षम है, तो उनका मतलब उसी अर्थ में नहीं होता जैसा हम मानव तर्क के बारे में बात करते समय अक्सर मान लेते हैं; मॉडल समस्या को सचेत रूप से नहीं समझ रहे हैं। इसके बजाय, वे कार्यात्मक तर्क के बारे में बात कर रहे हैं, विशेष रूप से "चेन-ऑफ-थॉट" और कई चरणों में मध्यवर्ती परिणामों को आगे बढ़ाने के माध्यम से।

उपयोगकर्ता के लिए, इसका मतलब है कुछ मामलों में अधिक कठोर और सटीक प्रतिक्रियाएँ, लेकिन अक्सर धीमी प्रतिक्रिया समय और उच्च कंप्यूट मांग।

IBM का Granite मॉडल परिवार शायद ही कभी सबसे तेज़ या सबसे आक्रामक रूप से अभिनव होने के लिए सुर्खियाँ बटोरता है। स्थानीय एंटरप्राइज़ स्पेस में अन्य प्रतिस्पर्धियों, जैसे Nvidia के Nemotron, के सापेक्ष भी, पिच अनुमानित परिनियोजन की लगती है - जो कि इन दिनों IBM से आप उम्मीद कर सकते हैं।

हाल ही में Anthropic या OpenAI जैसी कंपनियों के फ्रंटियर क्लाउड मॉडल के आसपास लागत और कंप्यूट क्रंच के बारे में बहुत अधिक प्रवचन हुआ है। कई डोमेन में, व्यक्तिगत डेवलपर्स और उद्यम संगठन दोनों सस्ते विकल्प के रूप में स्थानीय मॉडल की खोज कर रहे हैं।

इससे मॉडल राउटर में भी रुचि बढ़ी है - AI उपकरण जिनका मुख्य काम उपयोगकर्ता के संकेतों, कार्यों या परियोजनाओं की व्याख्या करना और प्रदर्शन, गति और लागत को संतुलित करने के लिए उन्हें उपयुक्त रूप से स्कोप किए गए मॉडलों तक पहुँचाना है।

इस तरह के मॉडल शौकीनों, AI शोधकर्ताओं और व्यक्तिगत डेवलपर्स के बीच भी लोकप्रिय हैं क्योंकि उन्हें प्रति-टोकन API शुल्क के बिना स्थानीय हार्डवेयर पर टिंकर किया जा सकता है।