在一个“越大越好”几乎成为宗教信条的行业里,一家名为Underdog的创业公司做了件不可思议的事:发布了一个只有32MB的语音模型。这比你不小心下载的大多数PDF文件还要小。当全世界的AI公司竞相构建需要大量处理能力的越来越大模型时,Underdog却押注于相反的方法——在手机或电脑等边缘设备上运行的小模型。

为了展示其名为Woof的新语音模型,Underdog做了一个游戏。游戏设有一个复古科技主题的房间,一台打字机和一个CRT显示器。还有一盏台灯,点击开关时会发出声音——因为即使是最极简的AI演示也需要令人满意的咔嗒声。介绍警告用户镇上存在“侵入性”的云服务提供商,这表面上是对基于云的模型的抨击。这一点也不含蓄。

你可以与打字机和音乐调谐器互动。用键盘在打字机上输入任何内容,游戏就会将其读出来。旋转调谐器以生成不同种类的音乐。所有这些都通过Underdog的语音生成模型在浏览器中运行,该公司表示该模型可以在大多数设备上运行,无需任何互联网连接。该模型有3100万个参数,并向所有人开放下载。是的,3100万——这个数字会让GPT-4发笑,如果GPT-4有感情和优越感的话。

虽然如此小的模型可能无法取代更大的模型,但它可能仍然足以驱动本地助手体验或创建个性化播客。因为有时你只是想要一个听起来像是由一个有抱负的烤面包机生成的播客。

这个演示是在Underdog推出Bark几周后发布的,Bark是一个167MB的语音转文本模型,同样设计用于边缘设备进行转录和听写。显然,Bark是家族中胖的那个。

Underdog的创始人Sigil Wen告诉TechCrunch,他开始构建这个应用是因为,他不想使用像Granola这样的笔记工具,而是想用可以在用户设备上运行并让用户拥有自己数据的AI模型来构建自己的系统。“我认为我们将在几个月内能够在您已经拥有的设备上运行当今大多数能力最强的模型,”他说。“我们只是想训练最好的开源模型,这些模型是美国制造的、开放的、有能力的,并让人们拥有私密的AI。”他指的是他的宣言,据推测其中不包括关于台灯的部分。

除了上述两个语音模型外,Underdog还发布了一个可以在笔记本电脑上运行的270亿参数模型,以及一个等待名单上的应用,该公司将其定位为Muse和Instinct的本地托管替代品。因此,当行业其他部分在建造计算大教堂时,Underdog却在这里制作口袋大小的模型和复古游戏。这要么是一场革命,要么是一个非常精心设计的玩笑——老实说,我们不确定我们支持哪一个。