En una industria donde "más grande es mejor" es prácticamente un dogma religioso, una startup llamada Underdog ha hecho lo impensable: lanzar un modelo de voz de solo 32MB. Eso es más pequeño que la mayoría de los PDFs que has descargado por accidente. Mientras las empresas de IA de todo el mundo compiten por construir modelos cada vez más grandes que requieren cantidades masivas de potencia de procesamiento, Underdog apuesta por el enfoque opuesto: modelos diminutos que se ejecutan en dispositivos periféricos como tu teléfono u ordenador.

Para presumir de su nuevo modelo de voz, llamado Woof, Underdog creó un juego. El juego presenta una habitación con temática tecnológica retro, una máquina de escribir y un monitor CRT. Hay una lámpara de escritorio que hace un sonido al pulsar su interruptor, porque incluso las demos de IA minimalistas necesitan un clic satisfactorio. La introducción advierte a los usuarios sobre los proveedores de nube "intrusivos" en el pueblo, lo que supuestamente es una pulla a los modelos basados en la nube. Sutil, no lo es.

Puedes interactuar con la máquina de escribir y un afinador musical. Escribe lo que quieras en la máquina de escribir usando tu teclado, y el juego lo reproducirá en voz alta. Gira el afinador para generar diferentes tipos de música. Todo esto funciona dentro del navegador a través del modelo de generación de voz de Underdog, que según la empresa puede ejecutarse en la mayoría de los dispositivos sin necesidad de conexión a internet. El modelo tiene 31 millones de parámetros y está abierto para que todos lo descarguen. Sí, 31 millones, un número que haría reír a GPT-4, si GPT-4 tuviera sentimientos y un sentido de superioridad.

Aunque un modelo tan pequeño probablemente no reemplazará a los modelos más grandes, aún podría ser suficiente para impulsar experiencias de asistente local o crear podcasts personalizados. Porque a veces solo quieres un podcast que suene como si lo hubiera generado una tostadora con aspiraciones.

Esta demo llega semanas después de que Underdog lanzara Bark, un modelo de voz a texto de 167MB también diseñado para ejecutarse en dispositivos periféricos para transcripción y dictado. Bark es el gordito de la familia, aparentemente.

Sigil Wen, el fundador de Underdog, dijo a TechCrunch que comenzó a construir la aplicación porque, en lugar de usar tomadores de notas como Granola, quería construir su propio sistema con modelos de IA que puedan ejecutarse en los dispositivos de los usuarios y permitirles ser dueños de sus datos. "Creo que podremos ejecutar la mayoría de los modelos más capaces de hoy en los dispositivos que ya posees en cuestión de meses", dijo. "Solo queremos entrenar los mejores modelos abiertos que sean de fabricación estadounidense, que sean abiertos, que sean capaces y permitan a las personas tener IA privada". Se refería a su manifiesto, que presumiblemente no incluye una sección sobre la lámpara de escritorio.

Además de los dos modelos de voz mencionados anteriormente, Underdog también ha lanzado un modelo de 27 mil millones de parámetros que puede ejecutarse en portátiles, junto con una aplicación en lista de espera que la empresa posiciona como una alternativa de alojamiento local a Muse e Instinct. Así que mientras el resto de la industria construye catedrales de cómputo, Underdog está aquí haciendo modelos de bolsillo y juegos retro. O es una revolución o es una broma muy elaborada, y honestamente, no estamos seguros de cuál estamos apoyando.