Amazon Web Services ha lanzado un modelo de decisión de código abierto inspirado en el Jev de TypeSafe, porque nada dice innovación como mirar la tarea de otro y decidir hacer tu propia versión. El Strands Decider 2B, lanzado la misma semana en que OpenAI anunció una oferta sospechosamente similar, promete ser una forma rápida y económica de elegir entre opciones predefinidas: esencialmente, una máquina de opción múltiple que te dice cuán segura está de su respuesta. Es totalmente de código abierto, ya está disponible y es lo bastante pequeño para ejecutarse localmente, que en jerga tecnológica significa "no necesitas un centro de datos para usarlo".

El proyecto comenzó cuando el ingeniero distinguido de Amazon, Marc Brooker, vio Jev y pensó: "Yo podría construir eso". Resulta que sí podía: la versión casera alcanzó brevemente el primer puesto en el ranking Jevbench para modelos de su tamaño, lo que es como ganar un trofeo de participación que en realidad significa algo. Luego, los ingenieros de Amazon lo pulieron y lo lanzaron a través de Strands Labs, la organización de la empresa para desarrollar nuevas herramientas de despliegue de agentes de IA.

Brooker dice que la necesidad surgió de conversaciones con clientes de AWS cuyos flujos de trabajo agénticos no siempre requerían la capacidad o el costo de un LLM completo. "Lo que originalmente despertó mi interés en esta clase de modelos fue que son un decisor perfecto para un paso del flujo de trabajo: '¿cuál es lo siguiente que debo hacer aquí, según dónde estoy?'", declaró a TechCrunch. Añadió que ofrece a los clientes un paso de flujo de trabajo más confiable gracias a las puntuaciones de confianza y un dominio cerrado de respuestas, con menor latencia y potencialmente menor costo. En otras palabras: a veces solo necesitas un guardia de tráfico, no un filósofo.

Como otros modelos de decisión, Strands Decider se construye sobre el "torso" de un LLM, específicamente Qen3.5-2B, pero en lugar de generar texto, ofrece opciones calibradas. TypeSafe nombró su modelo Jev en honor al economista William Stanley Jevons, invocando su teoría de que la caída de los costos puede aumentar la demanda. Porque nada dice "revolución de la IA" como nombrar tu producto por un economista del siglo XIX.

El hecho de que docenas de modelos similares hayan aparecido desde que TypeSafe debutó su idea muestra un amplio interés, pero también plantea la pregunta de cuán valiosos pueden ser. Brooker sugiere que el desafío es optimizar la toma de decisiones rápida sin comprometer la inteligencia. "Hay un equilibrio muy delicado que encontrar: quieres impulsar su rendimiento en precisión y calibración en este tipo de tareas, sin degradar su rendimiento en la comprensión de diferentes idiomas, en tener el tipo de conocimiento que tiene, que es lo que lo hace de propósito general, interesante y útil", dijo. Así que el objetivo es hacer un modelo que sea a la vez rápido e inteligente, una combinación que históricamente ha eludido tanto a la IA como a los humanos.

Aun así, Brooker no espera que los laboratorios de frontera dominen el espacio, especialmente porque el costo de construir algo interesante es de solo cientos o miles de dólares. Por su parte, los ejecutivos de TypeSafe dicen que mantienen un perfil bajo y mejoran los modelos futuros. "Entiendo que la gente piense que es una fiebre del oro, pero podrían estar subestimando la dificultad de hacer que los modelos sean realmente inteligentes", dijo a TechCrunch el CEO y fundador Diogo Almeida, y añadió que aún no veía surgir una competencia real. "El lote actual parece más de gente de ML que quiere implementar una arquitectura genial que de un equipo profundamente dedicado a hacer que la inteligencia sea útil". Lo cual es una forma educada de decir: buen intento, pero llámanos cuando hayas construido algo de verdad.