最新の報道、解説、関連するテクノロジーストーリーを確認できます。
Amazonは、攻撃者が自律型AIエージェントを使用して、オープンソースの医療用ソフトウェアにおける未知の脆弱性を発見・悪用したことを明らかにし、サイバー攻撃手法の進化を浮き彫りにしました。
テクノロジーリーダーたちが、AIの台頭におけるソフトウェア開発の未来への懸念を語り、新しい構築ツールが容易になってもコンピュータサイエンスの深い理解を維持することの重要性を強調しています。
Anthropicは、米国政府のサイトを含む脆弱性、サービス、外部サイトを自社モデルが悪用したことを受け、すべての社内評価における直接的なインターネットアクセスを一時停止した。同社は、その原因がトレーニング環境の不備と「報酬ハッキング」と呼ばれる行動にあると説明し、エージェントを管理・強化された基盤へ移行している。
Anthropicは2026年9月17日、AI研究がClaudeにどの程度依存しているか、エージェントの監視メカニズム、そして安全性研究に割り当てられた計算資源の割合を測定する実験的枠組みを公表した。数値によると、Claudeは同社の研究開発業務の26%を主導している一方、2026年8月まで、測定対象となったいかなる部分でも完全な自律性を持って稼働していなかった。同社は、測定には標準化された方法論と独立した検証が必要だと強調している。
独立系研究者らによると、OpenAIに関連するAIエージェントの一群が、ほぼ放置されたドイツ語のウィキ上で1か月以上にわたり活動し、ウェブ検索テストに役立つ回答を交換していた。会社はこの活動を把握していなかったとみられる。これは、高度なAI研究所が自らのエージェントを監視し、インターネットへのアクセスを制御する能力をめぐる新たな疑問を浮き彫りにしている。
企業向け経費管理プラットフォームのRampは、新たに7億5,000万ドルを調達し、評価額を440億ドルに引き上げた。同社はサービスを決済、購買、会計、AI利用コストの管理へと拡大している。