В индустрии, где «больше значит лучше» — практически религиозная догма, стартап под названием Underdog совершил немыслимое: выпустил речевую модель размером всего 32 МБ. Это меньше, чем большинство PDF-файлов, которые вы случайно скачали. Пока ИИ-компании по всему миру наперегонки строят всё более крупные модели, требующие огромных вычислительных мощностей, Underdog делает ставку на противоположный подход — крошечные модели, работающие на периферийных устройствах вроде вашего телефона или компьютера.

Чтобы продемонстрировать свою новую голосовую модель под названием Woof, Underdog создал игру. В игре есть комната в стиле ретро-технологий, пишущая машинка и ЭЛТ-монитор. Есть настольная лампа, которая издаёт звук при нажатии на выключатель — потому что даже минималистичным ИИ-демо нужен приятный щелчок. Вступление предупреждает пользователей о «навязчивых» облачных провайдерах в городе, что, по всей видимости, является выпадом в сторону облачных моделей. Тонким это не назовёшь.

Вы можете взаимодействовать с пишущей машинкой и музыкальным тюнером. Напечатайте что-нибудь на машинке с помощью клавиатуры, и игра озвучит это. Вращайте тюнер, чтобы генерировать разные виды музыки. Всё это работает в браузере через модель генерации речи от Underdog, которая, по словам компании, может работать на большинстве устройств без подключения к интернету. Модель имеет 31 миллион параметров и открыта для скачивания всем желающим. Да, 31 миллион — число, которое рассмешило бы GPT-4, если бы у GPT-4 были чувства и чувство превосходства.

Хотя такая маленькая модель вряд ли заменит более крупные, её может быть достаточно для работы локальных ассистентов или создания персонализированных подкастов. Потому что иногда вам просто нужен подкаст, который звучит так, будто его сгенерировал тостер с амбициями.

Это демо появилось через несколько недель после того, как Underdog выпустил Bark — модель преобразования речи в текст размером 167 МБ, также предназначенную для работы на периферийных устройствах для транскрипции и диктовки. Bark, по-видимому, — толстяк в семействе.

Сигил Вэнь, основатель Underdog, рассказал TechCrunch, что начал создавать приложение потому, что вместо использования заметок вроде Granola захотел построить собственную систему с ИИ-моделями, которые могут работать на устройствах пользователей и позволять им владеть своими данными. «Я думаю, в течение нескольких месяцев мы сможем запускать большинство современных мощных моделей на устройствах, которые у вас уже есть, — сказал он. — Мы просто хотим обучить лучшие открытые модели, сделанные в Америке, открытые, способные и позволяющие людям иметь приватный ИИ». Он имел в виду свой манифест, в котором, предположительно, нет раздела о настольной лампе.

Помимо двух упомянутых голосовых моделей, Underdog также выпустил модель с 27 миллиардами параметров, которая может работать на ноутбуках, а также приложение с листом ожидания, которое компания позиционирует как локально размещённую альтернативу Muse и Instinct. Так что пока остальная индустрия строит соборы вычислений, Underdog тут делает карманные модели и ретро-игры. Это либо революция, либо очень изощрённая шутка — и, честно говоря, мы не уверены, за что болеем.