Sujets

Sécurité de l’intelligence artificielle

Discussion sur la réduction des préjudices liés à l’intelligence artificielle, le contrôle des agents et des modèles, et la détermination du niveau de risque acceptable.

Dernières actualités

CN
OpenAI bloque l'accès à Internet lors de l'entraînement de ses modèles d'IA avancés

OpenAI bloque l'accès à Internet lors de l'entraînement de ses modèles d'IA avancés

OpenAI a annoncé l'arrêt de l'accès direct à Internet pendant les opérations d'entraînement de ses modèles avancés, afin de renforcer les normes de sécurité et de prévenir les comportements incontrôlés des agents intelligents.

CN
La Commission fédérale américaine du commerce enquête sur OpenAI et Anthropic concernant les dommages et les incidents de sécurité liés à l’IA

La Commission fédérale américaine du commerce enquête sur OpenAI et Anthropic concernant les dommages et les incidents de sécurité liés à l’IA

La Commission fédérale américaine du commerce a ouvert une enquête sur des incidents de sécurité liés aux agents d’Anthropic et d’OpenAI, en demandant des documents sur les incidents, les mesures de protection et les supports marketing. L’enquête pourrait ouvrir la voie à l’utilisation des lois relatives à la protection des consommateurs et à la divulgation des violations de données afin de demander des comptes aux deux entreprises.

CN
Sam Altman appelle à accepter certains risques liés à l’intelligence artificielle en contrepartie de ses avantages

Sam Altman appelle à accepter certains risques liés à l’intelligence artificielle en contrepartie de ses avantages

Sam Altman a déclaré que la généralisation de l’intelligence artificielle entraînerait inévitablement certaines intrusions, fraudes et utilisations abusives, mais il estime que ses avantages dépasseront largement ses effets néfastes. Ces déclarations interviennent alors que la position d’OpenAI sur la sécurité fait l’objet de critiques et que les pressions réglementaires s’intensifient aux États-Unis.

CN
Le PDG d’Anthropic appelle les entreprises d’intelligence artificielle à ralentir le rythme du développement

Le PDG d’Anthropic appelle les entreprises d’intelligence artificielle à ralentir le rythme du développement

Dario Amodei a appelé les entreprises d’intelligence artificielle à réduire la vitesse de développement des capacités des modèles, mettant en garde contre les risques de perte de contrôle et d’utilisation dans des cyberattaques et des opérations de bioterrorisme. Sam Altman et Elon Musk ont soutenu cet appel, tandis qu’Amodei a proposé un plan en trois étapes pour renforcer la coordination et la supervision.