Guides

Comment comprendre l’utilisation des grands modèles de langage dans les logiciels et les flux de travail

Guide conceptuel fondé sur les éléments disponibles expliquant comment les grands modèles de langage sont utilisés pour l’extraction de données, l’analyse de documents, le soutien à la cybersécurité et la conception de puces, tout en précisant leurs limites de fiabilité et la nécessité d’une vérification humaine.

Les grands modèles de langage sont utilisés dans de nombreux domaines, mais les éléments disponibles ne justifient pas de les considérer comme des substituts autonomes aux experts. Les cas présentés montrent que leur utilisation pratique vise souvent à accélérer l’analyse, l’extraction d’informations et les tests, tandis que la vérification humaine demeure nécessaire.

1. Définissez la tâche que le modèle devra accomplir

Commencez par déterminer si l’utilisation vise à extraire des données de documents, à examiner des contenus, à soutenir les tests ou à accélérer la recherche d’erreurs. Homeward utilise des grands modèles de langage pour extraire des données de documents et aider les équipes de souscription à examiner des vidéos, des images et des rapports d’inspection, notamment les détails des surfaces, des systèmes de chauffage et de refroidissement, ainsi que l’état général du bien.

Dans la conception de puces, Moores Lab AI se concentre sur la vérification de la conception, la correction des erreurs et la couverture des tests, plutôt que de présenter le modèle comme un substitut autonome aux ingénieurs en conception de puces.

2. Préparez les entrées et définissez les limites de la tâche

Il convient de définir le type de contenus que le modèle analysera et le résultat attendu avant de l’intégrer au flux de travail. Les éléments disponibles indiquent que la transmission d’une spécification à un grand modèle de langage ou à un agent d’IA peut entraîner la perte de 20 à 30 % de ses détails précis. La formulation de la demande ne suffit donc pas à garantir la conservation de toutes les exigences.

3. Utilisez les résultats pour accélérer le travail, et non pour supprimer la vérification

Les résultats préliminaires peuvent servir à réduire le travail manuel ou à parvenir plus rapidement à un cycle de test utile. Moores Lab AI affirme que les utilisateurs de sa plateforme atteignent leur première erreur en 48 heures, au lieu d’une période pouvant généralement s’étendre sur trois ou quatre mois, mais le contenu ne fournit pas de vérification indépendante de ces résultats.

En comptabilité, MAVI décrit le professionnel compétent en IA comme une personne qui associe connaissances comptables, orientation des outils, vérification de leurs erreurs et intégration des grands modèles de langage dans le flux de travail.

4. Faites intervenir un expert pour examiner les résultats

La vérification humaine est importante, car les modèles peuvent omettre des détails des spécifications ou produire des résultats similaires à du code publié. Le jugement judiciaire mentionné a également maintenu la possibilité de poursuites en matière de droit d’auteur lorsque le modèle reproduit illégalement du code protégé, sans trancher tous les litiges liés à l’entraînement ou aux résultats.

Dans la conception de puces, une seule erreur peut entraîner un problème coûteux, car la correction d’une puce après sa fabrication peut nécessiter de reconstruire l’ensemble du jeu de puces. La vérification spécialisée et les contrôles complets restent donc partie intégrante du processus.

5. Testez le système sur des cas réels avant de passer à l’échelle

Le contenu de Moores Lab AI indique que l’entreprise propose de réaliser un seul projet pour le client et de comparer les résultats avec ceux obtenus par ses ingénieurs sur ce même projet avant de passer à d’autres travaux. Cette pratique fournit un cadre conceptuel d’évaluation, mais ne prouve pas à elle seule une performance générale ou indépendante du système.

En cybersécurité, Microsoft indique que l’IA accélère la découverte de vulnérabilités, le développement de logiciels malveillants et certaines activités postérieures à la compromission, tandis que la plupart des campagnes observées dépendent encore des humains pour choisir les cibles, prendre les décisions et gérer les aspects complexes.

6. Surveillez les risques juridiques et de sécurité

  • Droit d’auteur : les modèles peuvent produire du code similaire au code original, et l’absence d’informations relatives au droit d’auteur sur le nouveau résultat ne suffit pas à elle seule à établir l’existence d’une violation.
  • Exactitude : les contenus disponibles ne fournissent pas de mesures indépendantes pour tous les usages. Les résultats annoncés doivent donc être considérés comme liés à l’entité qui les a publiés, sauf éléments supplémentaires.
  • Sécurité : les attaquants peuvent utiliser des modèles d’IA pour accélérer la découverte de vulnérabilités, l’extraction de données et de secrets, ainsi que les déplacements latéraux. Selon l’évaluation de Microsoft, il ne suffit donc pas de s’appuyer uniquement sur une correction manuelle lente.
  • Dépendance aux humains : les éléments disponibles ne permettent pas de considérer les modèles comme entièrement autonomes ; l’expertise professionnelle et les décisions humaines restent présentes dans les cas mentionnés.

7. Élargissez progressivement l’utilisation

Après avoir défini la tâche, examiné les résultats et effectué des tests sur un cas comparable, il est possible d’envisager l’extension de l’utilisation à d’autres tâches. Les éléments disponibles ne proposent pas de méthode opérationnelle uniforme ni de mesures suffisantes pour déterminer à quel moment cette extension convient à chaque organisation. La décision dépend donc de la nature de la tâche, du niveau de risque et de la capacité de l’équipe à effectuer les vérifications.

Que ne peut-on pas affirmer avec certitude à partir des éléments disponibles ?

  • Il n’existe pas suffisamment de mesures indépendantes démontrant l’exactitude de toutes les applications des grands modèles de langage mentionnées.
  • On ne peut pas en déduire que les modèles produisent du code ou des conceptions complets sans intervention humaine.
  • La décision judiciaire ne tranche pas toutes les questions relatives à l’entraînement des modèles sur du code ou à l’utilisation de leurs résultats.
  • Les résultats annoncés par une seule entreprise ne démontrent pas une performance générale pour tous les modèles ou tous les secteurs.