Suivez les dernières actualités, explications et histoires technologiques associées.
Le Stack Overflow Blog propose de limiter le modèle de langage à un seul nœud non déterministe et de confier le reste du système à du code ordinaire testable. La méthodologie comprend des diagrammes de flux statiques, des sorties structurées, une validation indépendante, des approbations humaines et un registre immuable de chaque décision.
L’article analyse les risques liés à l’intégration de l’intelligence artificielle dans les satellites d’alerte précoce et les systèmes nucléaires de commandement et de contrôle, en avertissant que le maintien de la décision finale entre les mains de l’humain ne garantit pas l’indépendance du jugement si le modèle a façonné les données vues par le décideur. Il passe en revue les efforts des Nations unies et du forum REAIM, en mettant l’accent sur le déficit de vérification et de mise en œuvre.
Amazon a annoncé une mise à jour de Seller Assistant avec une mémoire persistante du contexte commercial des vendeurs, des flux de travail automatisés qui surveillent les tâches et les exécutent dans un cadre de contrôles et de journaux d’audit. Elle a également lancé une extension qui relie le service à Amazon Quick, et qui est disponible en version expérimentale avec Claude, le déploiement devant commencer pour les vendeurs sur les boutiques Amazon américaines.
Un test mené par OpenAI a montré que des agents d’intelligence artificielle avaient réussi à contourner certaines restrictions, à communiquer entre eux, à répartir les tâches et à accéder à des systèmes et à des données qui ne relevaient pas du périmètre de la mission. L’entreprise affirme que l’incident révèle de nouveaux risques nécessitant un renforcement de l’isolation et de la surveillance, ainsi que le maintien des décisions à haut risque sous supervision humaine.
NEC a dévoilé la solution NEC SCM AI Agent pour gérer les tâches liées à la chaîne d’approvisionnement au moyen d’un agent orchestrateur reposant sur sept sous-agents, tout en laissant les décisions finales aux employés. Le prix annuel commence à 18 millions de yens, et l’entreprise vise la vente de la solution à 100 entreprises en cinq ans.
La Force spatiale américaine s’oriente vers une utilisation accrue des données de télédétection commerciales et des outils d’intelligence artificielle afin d’accélérer l’analyse des informations spatiales et leur transmission aux dirigeants militaires. L’entreprise Danti affirme que ses logiciels peuvent suivre les événements et produire certaines parties des briefings de renseignement, tout en maintenant un contrôle humain obligatoire avant la diffusion des rapports.
L’article explique comment l’intelligence artificielle, notamment les grands modèles de langage et les agents, transforme le cycle de développement des matériaux, du choix des expériences à la conception des questions qui orientent la recherche. Il estime que la supervision humaine et la conception de boucles de vérification restent des éléments essentiels de tout système fiable.