サイバー攻撃におけるAIエージェントの利用。エージェントの能力向上に伴い、その影響が拡大する可能性があると記事が指摘するリスク。
Anthropicの最高経営責任者（CEO）であるDario Amodeiは、人工知能の発展に伴うリスクを低減するため、3段階の計画を提示した。計画には、独立した評価機関の関与や、企業と政府間のより広範な連携が含まれる。提案の背景には、後続システムを開発するモデルの能力が加速していることへの懸念や、サイバー攻撃・生物学的攻撃におけるインテリジェントエージェントの悪用への懸念がある。