在当前普遍倾向于需要巨大处理能力的巨型人工智能模型的趋势下,初创公司 Underdog 走了一条不同的道路,开发能够在用户设备上本地运行的轻量级模型。该公司最近推出了一款名为 Woof 的语音模型,其大小不超过 32MB,并通过展示其功能的互动游戏进行了技术演示。
该模型有何特点?
Woof 模型拥有 3100 万个参数(Parameters),旨在完全在浏览器内运行,而无需连接互联网。在公司提供的演示中,用户可以使用虚拟键盘输入文本,由模型将其转换为语音,此外还可以通过简单的控制面板生成音乐片段,这证明了小型模型在执行特定任务时的效率。
为什么这条新闻很重要?
这一发展标志着在减少对云服务提供商依赖方面迈出了实际的一步,这符合该公司创始人西吉尔·温(Sijil Win)的愿景,即旨在让用户能够拥有自己的数据。温认为,未来正朝着运行能够在现有个人计算机上工作的人工智能模型的方向发展,这为基于云的服务提供了一个安全且私密的替代方案。
扩展本地模型
Woof 并不是该公司的唯一成就,在此之前,该公司还推出了专用于语音转文本(Transcription)的大小为 167MB 的 Bark 模型,以及一个包含 270亿个参数、专为在笔记本电脑上运行而设计的巨型模型。Underdog 希望通过这些步骤构建一个开放且本地制造的模型生态系统,成为大型人工智能平台的可自行托管的替代方案。
这一举措正值各方对数据隐私以及过度依赖云数据中心的争论日益激烈之际,这使得在设备上运行的人工智能(Edge AI)模型成为寻求隐私和独立性能的开发人员和用户的有吸引力的选择。