طرحت آي بي إم أحدث نماذج عائلتها من نماذج اللغة الكبيرة مفتوحة الأوزان، المصممة ليتم تنزيلها واستضافتها ذاتيًا. يأتي الإصدار الجديد جرانيت 4.2 في ثلاثة أحجام: 3 مليارات، و8 مليارات، و30 مليار معامل.

كما في الإصدارات السابقة، تتبع آي بي إم نهج الترميز فقط. توفر هذه الإصدارات الجديدة نافذة سياق أصلية تبلغ 128,000 رمزًا. كما خضعت نسختا 8 و30 مليار (وليس 3 مليارات) لكتلة تعلم معزز وكيل؛ تم تدريبهما على قدرات موسعة مثل استخدام الطرفية، والبحث في الويب، أو استخدام الأدوات الخارجية. يدعم نموذج 3 مليارات الأدوات أيضًا، ولكن دون نفس المستوى من التدريب المتخصص.

بالإضافة إلى هذه التعديلات، يُعد هذا الإصدار ملحوظًا بشكل خاص لأنه، كما كتبت آي بي إم نفسها، "جرانيت 4.2 هو إصدار عائلة نماذج جرانيت الموجه للاستدلال."

عندما يقول الباحثون أو المطورون في المجال إن النموذج قادر على الاستدلال، فإنهم لا يقصدون نفس المعنى الذي نعتقده غالبًا عند الحديث عن الاستدلال البشري؛ فالنماذج لا تفهم المشكلة بوعي. بدلاً من ذلك، يتحدثون عن الاستدلال الوظيفي، خاصة عبر "سلسلة الأفكار" وحمل النتائج الوسيطة عبر خطوات متعددة.

بالنسبة للمستخدم، يعني هذا استجابات أكثر دقة وصحة في بعض الحالات، ولكن غالبًا ما تكون أوقات استجابة أبطأ ومتطلبات حوسبة أعلى.

نادرًا ما تتصدر نماذج عائلة جرانيت من آي بي إم العناوين الرئيسية لكونها الأسرع أو الأكثر ابتكارًا بقوة. مقارنة حتى مع منافسين آخرين في مجال المؤسسات المحلية، مثل نمورون من نفيديا، يبدو أن العرض هو نشر يمكن التنبؤ به - وهو الأولوية التي قد تتوقعها من آي بي إم هذه الأيام.

كان هناك قدر هائل من الخطاب حول تكلفة وأزمة الحوسبة لنماذج السحابة الحدودية من شركات مثل أنثروبيك أو أوبن إيه آي مؤخرًا. عبر العديد من المجالات، استكشف المطورون الأفراد والمؤسسات على حد سواء النماذج المحلية كبدائل أرخص.

أدى ذلك أيضًا إلى زيادة الاهتمام بموجهات النماذج - أدوات الذكاء الاصطناعي التي تتمثل مهمتها الرئيسية في تفسير مطالبات المستخدم أو المهام أو المشاريع وتوجيهها إلى نماذج ذات نطاق مناسب لتحقيق التوازن بين الأداء والسرعة والتكلفة.

تحظى نماذج مثل هذه أيضًا بشعبية لدى الهواة وباحثي الذكاء الاصطناعي والمطورين الأفراد لأنه يمكن العبث بها على الأجهزة المحلية دون رسوم API لكل رمز.