IBM ha lanzado los modelos más recientes de su familia de grandes modelos de lenguaje de peso abierto, diseñados para ser descargados y autoalojados. El recién estrenado Granite 4.2 viene en variantes de 3B, 8B y 30B de parámetros.

Como en versiones anteriores, IBM adopta un enfoque de solo decodificador aquí. Estos nuevos lanzamientos ofrecen una ventana de contexto de 128,000 tokens de forma nativa. Las variantes de 8B y 30B (no la de 3B) también pasan por un bloque de aprendizaje por refuerzo agéntico; fueron entrenados para capacidades ampliadas como usar la terminal, buscar en la web o utilizar herramientas externas. El modelo de 3B también soporta herramientas, pero sin el mismo nivel de entrenamiento especializado.

Más allá de esos ajustes, este lanzamiento es particularmente notable porque, como escribe el propio IBM, "Granite 4.2 es el lanzamiento centrado en el razonamiento de la familia de modelos de lenguaje Granite".

Cuando los investigadores o desarrolladores en el campo dicen que un modelo es capaz de razonar, no lo dicen en el mismo sentido que a menudo asumimos al hablar del razonamiento humano; los modelos no están comprendiendo el problema conscientemente. En cambio, se refieren al razonamiento funcional, en particular a través de la "cadena de pensamiento" y al llevar resultados intermedios a lo largo de múltiples pasos.

Para el usuario, esto significa respuestas más rigurosas y precisas en algunos casos, pero a menudo tiempos de respuesta más lentos y mayores demandas de cómputo.

La familia de modelos Granite de IBM rara vez acapara titulares por ser la más rápida o la más agresivamente innovadora. En comparación incluso con otros competidores en el espacio empresarial local, como Nemotron de Nvidia, la propuesta parece ser despliegues predecibles, que es la prioridad que cabría esperar de IBM en estos días.

Ha habido una enorme cantidad de discurso sobre el costo y la crisis de cómputo en torno a los modelos de nube de vanguardia de empresas como Anthropic u OpenAI últimamente. En muchos dominios, tanto desarrolladores individuales como organizaciones empresariales han estado explorando modelos locales como alternativas más baratas.

Eso también ha llevado a un mayor interés en los enrutadores de modelos: herramientas de IA cuyo trabajo principal es interpretar las indicaciones, tareas o proyectos de los usuarios y enrutarlos a modelos de alcance apropiado para equilibrar rendimiento, velocidad y costo.

Modelos como este también son populares entre aficionados, investigadores de IA y desarrolladores individuales porque pueden ser modificados en hardware local sin tarifas de API por token.