Suivez les dernières actualités, explications et histoires technologiques associées.
David Robinson a démissionné de l’équipe des systèmes de sécurité d’OpenAI, critiquant la culture de l’entreprise et la vitesse de développement de ses modèles, et avertissant qu’un optimisme sans limites pourrait accroître les risques liés à l’utilisation de systèmes très performants. OpenAI affirme qu’elle reporte l’entraînement ou le lancement lorsque cela est nécessaire, et qu’elle développe l’évaluation externe ainsi que la surveillance en temps réel.
David Robinson, qui a dirigé la préparation des rapports de sécurité accompagnant les grands lancements d’OpenAI, a démissionné, estimant que la culture de l’entreprise n’accorde pas à la sécurité le temps et les incitations nécessaires. OpenAI a répondu qu’elle renforçait la sécurité de ses environnements de recherche et de test, élargissait la surveillance et l’évaluation externes, et pouvait interrompre l’entraînement ou retarder les modèles si nécessaire.