Dans le contexte de la tendance générale vers des modèles d'intelligence artificielle massifs qui exigent des capacités de traitement considérables, la startup Underdog a emprunté une voie différente en développant des modèles légers capables de fonctionner localement sur les appareils des utilisateurs. La société a récemment lancé un modèle vocal baptisé Woof, dont la taille ne dépasse pas 32 mégaoctets, accompagné d'une démonstration technique via un jeu interactif mettant en valeur ses capacités.
Qu'est-ce qui caractérise ce modèle ?
Le modèle Woof repose sur 31 millions de paramètres et est conçu pour fonctionner entièrement dans le navigateur sans nécessiter de connexion Internet. Dans la démonstration présentée par l'entreprise, les utilisateurs peuvent utiliser un clavier virtuel pour saisir des textes que le modèle convertit en parole, en plus de la possibilité de générer des clips musicaux via une interface de contrôle simple, ce qui prouve l'efficacité des petits modèles dans l'exécution de tâches spécifiques.
Pourquoi cette nouvelle est-elle importante ?
Cette évolution représente une étape concrète vers la réduction de la dépendance vis-à-vis des fournisseurs de services cloud, ce qui s'aligne sur la vision du fondateur de l'entreprise, Sigel Vine, qui vise à permettre aux utilisateurs de posséder leurs propres données. Vine estime que l'avenir s'oriente vers l'exécution de modèles d'intelligence artificielle capables de fonctionner sur les ordinateurs personnels actuels, offrant ainsi une alternative sûre et privée aux services basés sur le cloud.
Expansion dans les modèles locaux
Woof n'est pas la seule réalisation de l'entreprise ; il a été précédé par le lancement du modèle Bark d'une taille de 167 mégaoctets dédié à la transcription de la parole au texte (Transcription), en plus d'un modèle massif comprenant 27 milliards de paramètres conçu pour fonctionner sur les ordinateurs portables. Par ces étapes, Underdog vise à bâtir un écosystème de modèles ouverts et fabriqués localement, pour constituer une alternative hébergée localement aux grandes plateformes d'intelligence artificielle.
Cette initiative intervient à un moment où le débat s'intensifie autour de la confidentialité des données et de la dépendance excessive à l'égard des centres de données cloud, faisant des modèles fonctionnant sur les appareils (Edge AI) une option attrayante pour les développeurs et les utilisateurs recherchant la confidentialité et des performances indépendantes.