IBM a dévoilé les derniers modèles de sa famille de grands modèles de langage à poids ouverts, conçus pour être téléchargés et auto-hébergés. Les nouveaux Granite 4.2 sont disponibles en variantes de 3B, 8B et 30B de paramètres.

Comme pour les versions précédentes, IBM adopte ici une approche decoder-only. Ces nouvelles versions offrent une fenêtre de contexte de 128 000 jetons nativement. Les variantes 8B et 30B (pas la 3B) passent également par un bloc d'apprentissage par renforcement agentique ; elles ont été entraînées pour des capacités étendues comme l'utilisation du terminal, la recherche sur le web ou l'utilisation d'outils externes. Le modèle 3B prend également en charge les outils, mais sans le même niveau de formation spécialisée.

Au-delà de ces ajustements, cette version est particulièrement notable car, comme IBM l'écrit lui-même, « Granite 4.2 est la version axée sur le raisonnement de la famille de modèles de langage Granite ».

Lorsque les chercheurs ou les développeurs du domaine disent qu'un modèle est capable de raisonner, ils ne l'entendent pas dans le même sens que celui que nous supposons souvent en parlant de raisonnement humain ; les modèles ne comprennent pas consciemment le problème. Au lieu de cela, ils parlent de raisonnement fonctionnel, en particulier via le « chain-of-thought » et le report des résultats intermédiaires sur plusieurs étapes.

Pour l'utilisateur, cela signifie des réponses plus rigoureuses et plus précises dans certains cas, mais souvent des temps de réponse plus lents et des demandes de calcul plus élevées.

La famille de modèles Granite d'IBM fait rarement la une pour être la plus rapide ou la plus agressivement innovante. Par rapport à d'autres concurrents dans l'espace entreprise local, comme Nemotron de Nvidia, l'argument semble être des déploiements prévisibles - ce qui est la priorité que l'on peut attendre d'IBM de nos jours.

Il y a eu une énorme quantité de discours sur le coût et la pénurie de calcul autour des modèles cloud de pointe de sociétés comme Anthropic ou OpenAI récemment. Dans de nombreux domaines, les développeurs individuels et les organisations d'entreprise ont exploré les modèles locaux comme alternatives moins chères.

Cela a également conduit à un intérêt accru pour les routeurs de modèles - des outils d'IA dont le travail principal est d'interpréter les invites, les tâches ou les projets des utilisateurs et de les router vers des modèles de taille appropriée pour équilibrer les performances, la vitesse et le coût.

Les modèles comme celui-ci sont également populaires auprès des amateurs, des chercheurs en IA et des développeurs individuels car ils peuvent être bricolés sur du matériel local sans frais d'API par jeton.