एक ऐसे उद्योग में जहाँ "बड़ा ही बेहतर है" लगभग एक धार्मिक सिद्धांत है, अंडरडॉग नामक एक स्टार्टअप ने अकल्पनीय काम किया है: एक स्पीच मॉडल जारी किया है जो केवल 32MB का है। यह उन अधिकांश PDF से भी छोटा है जो आपने गलती से डाउनलोड कर लिए हैं। जहाँ दुनिया भर की AI कंपनियाँ अधिक से अधिक बड़े मॉडल बनाने की होड़ में हैं जिनके लिए भारी मात्रा में प्रोसेसिंग पावर की आवश्यकता होती है, वहीं अंडरडॉग उलटा दांव खेल रहा है - छोटे मॉडल जो आपके फोन या कंप्यूटर जैसे एज डिवाइस पर चलते हैं।

अपने नए वॉइस मॉडल, जिसे वूफ कहा जाता है, का प्रदर्शन करने के लिए अंडरडॉग ने एक गेम बनाया। गेम में एक रेट्रो टेक थीम वाला कमरा, एक टाइपराइटर और एक CRT मॉनिटर है। एक डेस्क लैंप है जो उसके स्विच पर क्लिक करने पर आवाज़ करता है - क्योंकि न्यूनतम AI डेमो को भी एक संतोषजनक क्लिक चाहिए। इंट्रो उपयोगकर्ताओं को शहर में "दखल देने वाले" क्लाउड प्रदाताओं के बारे में चेतावनी देता है, जो कथित तौर पर क्लाउड-आधारित मॉडलों पर एक तंज है। सूक्ष्म, यह नहीं है।

आप टाइपराइटर और एक म्यूजिक ट्यूनर के साथ इंटरैक्ट कर सकते हैं। अपने कीबोर्ड का उपयोग करके टाइपराइटर पर कुछ भी टाइप करें, और गेम उसे वापस बोलेगा। विभिन्न प्रकार के संगीत उत्पन्न करने के लिए ट्यूनर को घुमाएँ। यह सब ब्राउज़र के भीतर अंडरडॉग के स्पीच जनरेशन मॉडल के माध्यम से काम करता है, जिसके बारे में कंपनी का कहना है कि यह बिना किसी इंटरनेट कनेक्शन के अधिकांश उपकरणों पर चल सकता है। मॉडल में 31 मिलियन पैरामीटर हैं और यह सभी के लिए डाउनलोड के लिए खुला है। हाँ, 31 मिलियन - एक संख्या जो GPT-4 को हँसा देगी, अगर GPT-4 में भावनाएँ और श्रेष्ठता की भावना होती।

हालाँकि इतना छोटा मॉडल संभवतः बड़े मॉडलों की जगह नहीं लेगा, फिर भी यह स्थानीय सहायक अनुभवों को चलाने या व्यक्तिगत पॉडकास्ट बनाने के लिए पर्याप्त हो सकता है। क्योंकि कभी-कभी आप बस एक ऐसा पॉडकास्ट चाहते हैं जो ऐसा लगे जैसे किसी महत्वाकांक्षी टोस्टर ने उसे बनाया हो।

यह डेमो अंडरडॉग द्वारा बार्क लॉन्च करने के कुछ हफ्तों बाद आया है, जो 167MB का स्पीच-टू-टेक्स्ट मॉडल है जिसे ट्रांसक्रिप्शन और डिक्टेशन के लिए एज डिवाइस पर चलाने के लिए डिज़ाइन किया गया है। बार्क परिवार का मोटा सदस्य है, जाहिर है।

अंडरडॉग के संस्थापक सिगिल वेन ने टेकक्रंच को बताया कि उन्होंने ऐप बनाना शुरू किया क्योंकि ग्रेनोला जैसे नोटटेकर्स का उपयोग करने के बजाय, वे AI मॉडल के साथ अपना खुद का सिस्टम बनाना चाहते थे जो उपयोगकर्ताओं के उपकरणों पर चल सके और उन्हें अपना डेटा स्वयं रखने दे। "मुझे लगता है कि हम कुछ ही महीनों में आज के सबसे सक्षम मॉडलों को आपके पहले से मौजूद उपकरणों पर चला पाएंगे," उन्होंने कहा। "हम बस सबसे अच्छे ओपन मॉडलों को प्रशिक्षित करना चाहते हैं जो अमेरिकी निर्मित हों, ओपन हों, सक्षम हों और लोगों को निजी AI रखने की अनुमति दें।" वे अपने घोषणापत्र का जिक्र कर रहे थे, जिसमें संभवतः डेस्क लैंप पर कोई अनुभाग नहीं है।

ऊपर उल्लिखित दो वॉइस मॉडलों के अलावा, अंडरडॉग ने 27-बिलियन-पैरामीटर वाला एक मॉडल भी जारी किया है जो लैपटॉप पर चल सकता है, साथ ही एक वेटलिस्टेड ऐप जिसे कंपनी म्यूज़ और इंस्टिंक्ट के स्थानीय-होस्टेड विकल्प के रूप में पेश कर रही है। तो जहाँ बाकी उद्योग कंप्यूट के कैथेड्रल बना रहा है, वहीं अंडरडॉग जेब-आकार के मॉडल और रेट्रो गेम बना रहा है। यह या तो एक क्रांति है या बहुत ही विस्तृत मजाक - और सच कहें तो, हमें यकीन नहीं है कि हम किसके पक्ष में हैं।