La plateforme GitHub et la société Microsoft ont publié les résultats d'une expérience pratique conjointe intitulée Codename MDASH, visant à résoudre la crise des rapports de vulnérabilités de sécurité générés par les outils d'intelligence artificielle, qui surchargent les développeurs et les mainteneurs de logiciels open source. Au lieu d'inonder les développeurs de résultats d'analyse bruts contenant souvent des doublons ou des alertes inexactes, l'expérience s'est concentrée sur la fourniture de correctifs logiciels prêts à l'emploi et préalablement vérifiés.
L'expérience s'est appuyée sur un système d'analyse combiné, alimenté par les modèles de sécurité de Microsoft (MAI Cyber), ainsi que sur des filtres et une vérification basés sur les laboratoires de sécurité de GitHub et l'équipe FORGE Lab de Microsoft. L'initiative a englobé six projets open source largement utilisés, dont Caddy, AutoGPT, ImageMagick, Netty, Express et FastMCP. Des milliers de problèmes ont ainsi été analysés et filtrés, manuellement et par programme, pour aboutir à 99 rapports privés accompagnés d'un correctif suggéré à destination des développeurs.
Comment a fonctionné le système Codename MDASH ?
- Analyse : Scanner les projets à l'aide du modèle d'IA de sécurité et proposer des correctifs initiaux pour les vulnérabilités découvertes.
- Filtrage : Utiliser un agent d'analyse intelligent basé sur les compétences de Copilot pour éliminer les doublons et se concentrer sur les vulnérabilités à impact élevé.
- Vérification : Effectuer une revue manuelle rigoureuse par des chercheurs en sécurité pour garantir l'exactitude des résultats avant de les envoyer aux développeurs.
- Signalement et correction : Envoyer les rapports de manière privée via la fonctionnalité de signalement de vulnérabilités de GitHub, tout en fournissant le code de correction suggéré afin que les développeurs puissent l'examiner et l'intégrer.
Qu'est-ce qui change concrètement pour les développeurs ?
Les résultats obtenus à la mi-novembre ont montré que les développeurs des six projets ont réussi à corriger plus de la moitié des rapports soumis (55 correctifs), dont 14 ont été intégrés dans les versions logiques et effectives des logiciels en l'espace de quelques jours. Les mainteneurs ont souligné que la réception d'un rapport soutenu par un correctif proposé et préalablement examiné permet d'économiser de longues heures d'efforts qui auraient été gaspillées à lire et à décortiquer des résultats d'analyse bruts non filtrés.
Prochaines étapes et élargissement de la portée
Microsoft et GitHub prévoient de s'appuyer sur ces enseignements en intégrant des technologies de révision similaires dans les rapports de vulnérabilités privés et les conseils de sécurité, tout en annonçant la deuxième version du modèle MAI Cyber. Les projets comprennent également l'extension du support via le fonds GitHub Secure Open Source Fund pour fournir aux projets éligibles des analyses de sécurité soutenues par l'intelligence artificielle et une revue humaine préalable.