سباق تسريع استدلال الذكاء الاصطناعي مشتعل، وقد استقبلت الأسواق شركة Cerebras ورقائقها المصممة خصيصًا بحفاوة في ظهورها الأول في البورصة في مايو. لكن الشركة الفرنسية الناشئة Kog تراهن على أنه يمكن استخراج المزيد من القوة من وحدات معالجة الرسوميات التقليدية.

وصلت الشركة الناشئة إلى الصفحة الأولى لموقع Hacker News في مايو بمعاينة تقنية تهدف إلى إثبات أن "فك التشفير السريع للغاية لطلب واحد ممكن على وحدات معالجة الرسوميات القياسية في مراكز البيانات التي تمتلكها المؤسسات بالفعل" - مثل AMD MI300X و NVIDIA H200 التي استخدمتها في عرضها التجريبي.

كان البعض محبطًا لسماع أن هذا لا يمتد إلى وحدات معالجة الرسوميات في أجهزة الكمبيوتر المحمولة، لكن آخرين رأوا الإمكانات. مع كون سرعة الاستدلال وتكاليفه عنق زجاجة حرجًا الآن، فإن وعد Kog بفتح قدرات جديدة على الأجهزة الحالية من خلال تحسين البرمجيات جذب أكثر من مجرد متفرجين. قال الرئيس التنفيذي غايل ديلالو لموقع TechCrunch: "كان لدينا 200 عميل محتمل ملموس".

بناءً على الملاحظات المبكرة، يتوقع المؤسس الوحيد أن تكون هندسة البرمجيات أول حالة استخدام. مستخدمو Claude Code المخضرمون يدركون جيدًا أنهم يضطرون أحيانًا إلى الانتظار لساعات للحصول على النتائج. تدرك Anthropic نفسها أن السرعة تستحق المال، وتفرض سعرًا مضاعفًا على الوضع السريع في Claude.

تأمل Kog في استهداف العملاء الذين ينفرون من هذه التأخيرات، عادةً لأنهم يعتمدون على سير عمل الذكاء الاصطناعي في المهام المهنية. لكن الشركة الناشئة لديها أيضًا شركاء تصميم يسمحون للمستخدمين بتوليد ألعاب وتطبيقات بأمر نصي، والذين يعني لهم نتيجة أسرع بفضل محرك Kog للاستدلال (KIE) المزيد من الإيرادات، كما قال ديلالو.

تدرك الشركة أن هذا السوق ليس ناضجًا تمامًا بعد. أثناء مراقبة الطلب، تعلمت Kog أن عملاءها المحتملين ليسوا مستعدين لضبط النماذج الصغيرة بدقة. "ولهذا السبب، منذ الإطلاق، ركزنا بالكامل على تسريع تطوير النماذج الأكبر لتلبية الطلب الذي رأيناه".

هذا يترك Kog مع قفزة هائلة لتحقيق وعدها بـ "استدلال أسرع 30 مرة لنماذج اللغة الكبيرة". أظهر عرضها التجريبي 3000 رمزًا في الثانية (TPS) لكل طلب - ولكن بنموذج صغير مصمم خصيصًا يبلغ حوالي 2 مليار معامل، وهو Laneformer 2B مفتوح المصدر الآن.

مخالفًا للمشككين، واثق ديلالو من أن نفس النهج يمكن أن يعمل بشكل جيد مع نماذج اللغة الكبيرة، التي يمكن أن يكون حجمها تحديًا لرقائق الاستدلال. قال: "لوحدات معالجة الرسوميات مستقبل مشرق". بالنسبة للرئيس التنفيذي لشركة Kog، فإن فكرة أنها ليست مناسبة تمامًا لفك التشفير أصبحت مفهومًا خاطئًا؛ وحدات معالجة الرسوميات الأحدث لديها المزيد والمزيد من عرض النطاق الترددي للذاكرة الذي يتوسل فقط ليتم إطلاقه.

ليست Kog وحدها في الاعتقاد بأن تحسين البرمجيات يمكن أن يساعد وحدات معالجة الرسوميات على القيام بأكثر مما هو مكتوب على العلبة. أصدرت ZML، وهي أيضًا من فرنسا، برمجيات غير مرتبطة بالأجهزة تتجاوز CUDA من Nvidia لدعم الاستدلال السريع عبر الرقائق المنافسة. لكن ديلالو قال إن Kog أقرب إلى مختبر Hazy Research بجامعة ستانفورد، مع تركيز أعمق على تسريع وحدات معالجة الرسوميات.

ديلالو نفسه ليس باحثًا، وشركته الناشئة الأولى، Stribe، الحاصلة على جائزة TechCrunch50 2009، لا علاقة لها بشركته الجديدة - باستثناء شريكه السابق في التأسيس الذي تحول إلى مستثمر، كامل زروال، الذي قادت شركته Varsity VC الجولة التأسيسية لـ Kog. لكن التركيز العميق للشركة الناشئة ينبع من خلفيته الفريدة.

بعد دراسة فيزياء الحالة الصلبة في المدرسة المتعددة التقنيات في فرنسا، انتقل إلى العمل في الأمن السيبراني الهجومي - المعروف أيضًا باسم القرصنة الأخلاقية. وفقًا لديلالو، شكلت هذه العقلية التي يشجع فريقه على تبنيها الآن. من الناحية العلمية، "هناك عقلية فهم قوانين الفيزياء، وقوانين وحدة معالجة الرسوميات من أجل تحقيق أقصى استفادة منها".

أما بالنسبة للقرصنة، فقد قال المتأهل للنهائيات أربع مرات في بطولة DEF CON CTF إنها علمته "هندسة عكسية للأشياء على مستوى منخفض جدًا - وصولاً إلى لغة التجميع والكود الثنائي - لفهم كيفية عملها، ومحاولة استخدامها لتحقيق هدف لم تكن مصممة له بالضرورة".

الجانب السلبي لهذا النهج هو أنه عملي جدًا ويستغرق وقتًا طويلاً. "لكل وحدة معالجة رسوميات جديدة، سنكرس عدة أسابيع أو حتى أشهر، للتعمق في التفاصيل و"