L'industrie de l'intelligence artificielle a connu une division claire dans les défis d'ingénierie auxquels elle est confrontée ; alors que les centres de données massifs et les usines d'intelligence artificielle s'efforcent de traiter des modèles de langage de grande taille aux paramètres colossaux, des défis émergent en contrepartie pour exécuter des modèles plus petits localement sur des appareils de périphérie (Edge Devices) qui souffrent de limitations d'espace, d'énergie et de mémoire. La bande passante et la largeur de bande de la mémoire vive constituent le principal obstacle qui stimule les innovations techniques telles que la quantification et les techniques de compression avancées.
Les appareils de périphérie varient considérablement pour inclure les téléphones mobiles, les appareils portables, les appareils électroménagers, l'internet des objets industriel, la robotique et les systèmes automobiles. Dans ce contexte, les experts soulignent que la première étape essentielle pour concevoir un modèle d'intelligence artificielle intégré et de taille correcte réside dans la définition précise de l'objectif et des fonctions de l'appareil ciblé, car les grands modèles peuvent provoquer le ralentissement ou la surchauffe de l'appareil, tandis que les modèles trop petits laissent le produit avec un niveau d'intelligence insuffisant pour répondre aux exigences.
Stratégies de compression et compromis de performance
Les concepteurs de systèmes s'appuient généralement sur une combinaison de techniques de compression plutôt que sur une seule méthode, et ces stratégies incluent :
- La distillation (Distillation) : l'entraînement d'un modèle plus petit appelé "élève" pour imiter un modèle plus grand appelé "enseignant", ce qui transfère les comportements appris vers une architecture de plus petite taille tout en conservant les capacités de raisonnement de base.
- L'élagage (Pruning) : la suppression des poids, des neurones ou des couches à faible impact, que ce soit de manière structurée ou non structurée.
- La quantification (Quantization) : l'utilisation d'un nombre réduit de bits pour les poids et les activations tout en maintenant la structure du réseau et en gérant les limites de correction pour limiter la perte de précision.
- L'autocompression (Self-compression) : la réduction progressive de la précision pendant la phase d'entraînement jusqu'à l'annulation des chemins non influents, ce qui permet de cibler efficacement les appareils dédiés.
Définition des fonctions et des charges de travail
Le défi ne se limite pas à la compression du modèle, mais nécessite une intégration efficace au niveau du système dans son complesso. Le modèle partage généralement la mémoire et les capacités de calcul avec les autres composants de l'application, ce que rend les ressources disponibles plus petites en réalité que ne le montrent les spécifications théoriques. Cela nécessite de classer les fonctions et de prioriser les fonctions de base critiques par rapport aux fonctions optionnelles, de sorte que le noyau de l'intelligence artificielle soit construit pour être proche des capteurs locaux au sein d'une boucle de détection autonome.
Qu'est-ce qui change en pratique ?
L'accent dans l'ingénierie de périphérie passe du concept selon lequel "le plus grand modèle gagne toujours" à la mesure de "l'expérience par watt". Les applications dans des secteurs tels que l'automobile et les systèmes physiques intelligents démontrent un besoin urgent d'équilibrer le temps de réponse en temps réel, la consommation d'énergie, le coût et la sécurité fonctionnelle, étant donné que les modèles d'intelligence artificielle évoluent à un rythme plus rapide que les cycles de développement du silicium.
Contraintes et considérations de conception futures
Les entreprises de développement de propriété intellectuelle et de technologies de périphérie font face à des défis supplémentaires représentés par la confidentialité des modèles sur lesquels les clients s'entraînent dans des secteurs sensibles tels que la conduite autonome pour des raisons liées à la sécurité, à la sûreté et à la propriété intellectuelle. Par conséquent, le succès du déploiement de l'intelligence artificielle en périphérie commence par la définition des charges de travail et la sélection de l'architecture de la bonne taille dès le début, tout en s'appuyant sur la conception flexible des systèmes pour suivre les développements rapides à la fois dans les modèles et le matériel.