IBMは、ダウンロードして自己ホストできるように設計されたオープンウェイトの大規模言語モデルのファミリーに、最新モデルを投入した。新しく発表されたGranite 4.2は、3B、8B、30Bパラメータのバリエーションで提供される。

以前のバージョンと同様に、IBMはデコーダーのみのアプローチを採用している。これらの新リリースは、ネイティブで128,000トークンのコンテキストウィンドウを提供する。8Bと30Bのバリアント（3Bは除く）は、エージェント型強化学習ブロックも通過しており、ターミナルの使用、ウェブ検索、外部ツールの使用などの拡張機能向けにトレーニングされている。3Bモデルもツールをサポートしているが、同じレベルの専門トレーニングは受けていない。

これらの微調整に加えて、今回のリリースは特に注目に値する。IBM自身が書いているように、「Granite 4.2は、Granite言語モデルファミリーの推論重視のリリースです」からだ。

研究者や開発者がモデルが推論できると言うとき、彼らは人間の推論について話すときによく想定するのと同じ意味で言っているわけではない。モデルは問題を意識的に理解しているわけではない。代わりに、彼らは機能的な推論、特に「思考の連鎖」と中間結果を複数のステップにわたって前方に運ぶことについて話している。

ユーザーにとって、これは一部のケースではより厳密で正確な応答を意味するが、応答時間が遅くなり、計算要求が高くなることが多い。

IBMのGraniteモデルファミリーは、最速または最も積極的に革新的であるという見出しを飾ることはめったにない。NvidiaのNemotronのようなローカルエンタープライズ分野の他の競合他社と比較しても、その売りは予測可能な展開であるように思われる。これは、最近のIBMから期待される優先事項だ。

AnthropicやOpenAIのような企業のフロンティアクラウドモデルをめぐるコストと計算の逼迫について、最近は膨大な議論がなされている。多くの領域で、個人開発者と企業組織の両方が、より安価な代替手段としてローカルモデルを模索している。

これにより、モデルルーターへの関心も高まっている。モデルルーターとは、ユーザーのプロンプト、タスク、プロジェクトを解釈し、パフォーマンス、速度、コストのバランスを取るために適切な規模のモデルにルーティングすることを主な仕事とするAIツールだ。

このようなモデルは、トークンごとのAPI料金なしでローカルハードウェアでいじることができるため、趣味人、AI研究者、個人開発者にも人気がある。