Diante da tendência geral em direção a modelos massivos de inteligência artificial que exigem enormes capacidades de processamento, a startup Underdog seguiu um caminho diferente ao desenvolver modelos leves capazes de rodar localmente nos dispositivos dos usuários. A empresa lançou recentemente um modelo de voz chamado Woof, com tamanho de apenas 32 MB, acompanhado de uma demonstração técnica por meio de um jogo interativo que destaca suas capacidades.
O que diferencia este modelo?
O modelo Woof se baseia em 31 milhões de parâmetros e foi projetado para rodar inteiramente dentro do navegador, sem a necessidade de conexão com a internet. Na demonstração apresentada pela empresa, os usuários podem usar um teclado virtual para digitar textos que o modelo converte em fala, além de poder gerar clipes musicais por meio de uma interface de controle simples, comprovando a eficiência de modelos pequenos em executar tarefas específicas.
Por que esta notícia importa?
Este desenvolvimento representa um passo prático para reduzir a dependência de provedores de serviços em nuvem, o que se alinha com a visão do fundador da empresa, Sijil Wyn, que visa capacitar os usuários a possuírem seus próprios dados. Wyn acredita que o futuro caminha para a execução de modelos de inteligência artificial capazes de rodar em dispositivos pessoais atuais, oferecendo uma alternativa segura e privada aos serviços baseados em nuvem.
Expansão em modelos locais
O Woof não é a única conquista da empresa; ele foi precedido pelo lançamento do modelo Bark com 167 MB, dedicado à conversão de fala em texto (Transcription), além de um modelo massivo com 27 bilhões de parâmetros projetado para rodar em computadores portáteis. Com esses passos, a Underdog visa construir um ecossistema de modelos abertos e fabricados localmente, servindo como uma alternativa hospedada localmente às grandes plataformas de inteligência artificial.
Este passo ocorre em um momento em que cresce o debate sobre a privacidade de dados e a dependência excessiva de data centers em nuvem, tornando os modelos que rodam nos dispositivos (Edge AI) uma opção atraente para desenvolvedores e usuários que buscam privacidade e desempenho independente.