في مؤتمر Hot Chips يوم الثلاثاء، كشفت OpenAI أخيرًا النقاب عن رقاقة الاستدلال المخصصة لها، جالابينو، والمفاجأة أنها جيدة جدًا في ما تفعله. عند اختبارها على معيار InferenceX من SemiAnalysis، قدمت جالابينو رموزًا أكثر لكل مستخدم وإنتاجية أعلى لكل كيلوواط من معالجات الاستدلال الأحدث حاليًا. هذه طريقة فاخرة لقول إنها تقدم ذكاءً اصطناعيًا أكثر لكل واط، وهو نوع من الكفاءة الذي يجعل المحاسبين والبيئيين يرقصون رقصة سعيدة.
"خلاصة القول إن النتائج تظهر تقدمًا كبيرًا جدًا في الأداء مقارنة بأحدث التقنيات،" قال ريتشارد هو، رئيس قسم الأجهزة في OpenAI، في مكالمة صحفية. "يمكن لجالابينو تقديم المزيد من أعمال الذكاء الاصطناعي لكل وحدة طاقة، مع إرجاع الردود بسرعة أكبر أيضًا. إنها فعالة جدًا في خدمة عدد كبير من العملاء، ولكنها يمكن أن تكون أيضًا منخفضة الكمون جدًا."
ولكن قبل أن تبدأ في التخطيط لموكب، إليك المفاجأة: هذه المقارنة هي ضد نظام Nvidia Blackwell - والذي، بحلول الوقت الذي تصل فيه جالابينو إلى السوق، قد يكون لديه بعض الحيل الإضافية في جعبته. قدر هو أن جالابينو ستُنشر في نهاية عام 2026 "بكميات صغيرة جدًا،" مع نشر أكثر أهمية في عام 2027. لذا، أمامنا بعض الوقت قبل أن نتذوق النكهة الكاملة.
أُعلن عن جالابينو لأول مرة في أكتوبر الماضي، وطُورت بواسطة OpenAI بالتعاون الوثيق مع Broadcom، مع مساعدة نماذج OpenAI الخاصة في عملية التطوير. تخطط الشركة لجعل جالابينو منصة متعددة الأجيال، مما يسمح بتطوير منتجات الذكاء الاصطناعي والنماذج والرقاقات والذاكرة معًا. بسبب هذا النهج المتكامل، تمكنت OpenAI من معالجة مراحل محددة في عملية الاستدلال التي غالبًا ما تسبب احتكاكًا أثناء معالجة الاستدلال. على وجه الخصوص، صُممت جالابينو لتقليل التأخيرات خلال مرحلتي ما قبل الملء والاتصال في المعالجة، والتي تقول OpenAI إنها غالبًا ما تكون عنق الزجاجة.
"صممنا جالابينو لتقليل حركة البيانات وتأخيرات الاتصال،" قالت الشركة في منشور مدونة يعرض النتائج. "هذا يعني أن حالة النموذج، بما في ذلك ذاكرة التخزين المؤقت KV المستخدمة أثناء توليد الرد، يمكن وضعها صراحةً وإبقائها محلية بينما ينشط النظام المزيج الصحيح من الحوسبة والذاكرة والشبكات لكل مرحلة استدلال." بعبارة أخرى، جعلوا الرقاقة ذكية بشأن مكان وضع الأشياء، حتى لا تضطر إلى الركض بحثًا عنها. ثوري، كما نعلم.
The Good Times
الأخبار في صندوق بريدك.
ملخص ساخر يُسلَّم وفق جدولك. مجاناً. ألغِ الاشتراك متى شئت.
مشترك بالفعل لكننا لا نصل إلى بريدك أبداً؟ تفقّد مجلد الرسائل غير المرغوب فيها واضغط على 'ليست مزعجة' (أو 'إزالة من المزعج') لتخرجنا من مطهر البريد المزعج. وبهذا تساعد الجميع أيضاً.
إذا لم تفتح أياً من رسائلنا لمدة شهر، فستتم إزالتك تلقائياً من قائمة البريد.
Rewrite Article
Select parts to regenerate with a fresh AI pass. Translations will be updated automatically.
Generate AI Image
Creates a sardonic version of the article image using OpenAI.