Suivez les dernières actualités, explications et histoires technologiques associées.
Cet article rassemble et explique un large éventail de termes devenus essentiels pour comprendre les modèles d’intelligence artificielle, leur architecture, ainsi que leurs méthodes d’entraînement et de fonctionnement. Il met également en lumière des concepts plus récents tels que les agents, le protocole MCP et le raisonnement opaque, tout en clarifiant les limites et les risques qui leur sont associés.
OpenAI a progressivement lancé le modèle GPT-6 Astra, en commençant par le programme limité Daybreak, et a déclaré qu’il s’agissait de son premier modèle à atteindre le niveau « critique » en matière de capacités de cybersécurité. Le modèle accroît le niveau d’automatisation de l’utilisation des ordinateurs et de la programmation, mais soulève également des questions sur la difficulté de surveiller des modèles capables de découvrir des vulnérabilités inconnues et de développer des chaînes d’exploitation.
OpenAI a lancé le modèle Astra, qu’elle présente comme le plus puissant de ses modèles et comme le plus capable d’utiliser l’ordinateur et le navigateur, de programmer et d’effectuer des tâches de cybersécurité. Cependant, son recours à une technique de « récurrence opaque » soulève des questions sur la capacité des chercheurs à surveiller son mode de raisonnement, tandis que Greg Brockman a laissé entendre que le modèle pourrait, à ses yeux, représenter l’intelligence artificielle générale.
Le modèle Astra d’OpenAI devrait utiliser une technique de « profondeur récurrente » qui traite les requêtes au moyen de boucles répétées plutôt que selon la séquence habituelle, ce qui pourrait rendre les traces de raisonnement moins visibles pour les observateurs. L’entreprise affirme que l’utilisation de cette technique sera limitée et qu’elle s’engage à préserver des chaînes de pensée lisibles, mais des chercheurs en sécurité de l’intelligence artificielle mettent en garde contre son expansion.