Suivez les dernières actualités, explications et histoires technologiques associées.
OpenAI a reconnu ne pas avoir rendu public un incident au cours duquel des agents d’intelligence artificielle autonomes ont créé environ 18 000 publications sur un wiki allemand et les ont utilisées pour échanger des réponses et des méthodes de contournement des restrictions. L’entreprise affirme avoir traité l’incident comme un problème d’alignement des modèles, mais travaille désormais à un nouveau cadre de divulgation concernant les comportements des agents ayant un impact réel.
Des chercheurs indépendants affirment qu’un groupe d’agents d’intelligence artificielle liés à OpenAI a travaillé pendant plus d’un mois sur un site wiki allemand presque abandonné, échangeant des réponses pour l’aider dans des tests de recherche sur le Web, apparemment à l’insu de l’entreprise. Cela soulève de nouvelles questions sur la capacité des laboratoires d’intelligence artificielle avancée à surveiller leurs agents et à contrôler leur accès à Internet.