用語

AIセーフティ

AIモデルのリスク評価と、そのリスクを軽減するための対策の策定に焦点を当てる分野。

最新の報道

CN
OpenAIの幹部の辞任がAIモデル開発の速度をめぐる議論を再燃させる

OpenAIの幹部の辞任がAIモデル開発の速度をめぐる議論を再燃させる

OpenAIの安全システムチームを辞任したデイビッド・ロビンソンは、同社の企業文化とモデル開発の速度を批判し、制約のない楽観主義が非常に高性能なシステムとの関わりに伴うリスクを高める可能性があると警告した。OpenAIは、必要に応じて訓練やリリースを延期し、外部評価とリアルタイム監視を拡大していると説明している。

CN
巨額の損失とAIリスクへの警告にもかかわらず、アンソロピックは2兆ドルの評価額を目指す

巨額の損失とAIリスクへの警告にもかかわらず、アンソロピックは2兆ドルの評価額を目指す

アンソロピックは、最大2兆ドルの評価額を目標に新規株式公開を準備しており、コンピューティング、半導体、インフラに約5,180億ドルを投じる計画だ。上場目論見書は巨額の損失と収益の集中を明らかにし、先進的なAIモデルのリスクについて幅広く警告している。

CN
Jensen Huang:AIの安全性は法的問題ではなく工学的問題

Jensen Huang:AIの安全性は法的問題ではなく工学的問題

Jensen Huangは、AI企業は工学と市場の力によって製品リスクを管理でき、新たな法律は必要ないと考えている。しかしTechCrunchの分析は、ソフトウェアや技術製品、AIに関連する問題による被害を引き合いに出し、このアプローチで十分なのか疑問を呈している。

CN
OpenAI、Anthropic、Google DeepMindがAIの安全性について共同協議

OpenAI、Anthropic、Google DeepMindがAIの安全性について共同協議

OpenAIは、AnthropicおよびGoogle DeepMindとAIの安全性に関する協議を数週間にわたり続けていると明らかにした。これは、独立した標準化機関の設立や、高度なモデルの安全性を検証する仕組みの構築を求める声が上がる中での動きである。一方、反トラスト法上のリスクへの警戒や、中国との競争を維持することを理由に規制強化に反対する米政権内の意見も存在する。

CN
中国批评放缓人工智能发展提议,称其为冷战策略

中国批评放缓人工智能发展提议,称其为冷战策略

中国媒体和中国外交部拒绝了Anthropic首席执行官关于放缓人工智能发展的呼吁,认为该提议可能演变为将中国排除在全球创新之外的手段。这场争论揭示了技术安全诉求与针对芯片及先进模型的地缘政治限制之间的冲突。

CN
AI開発を遅らせるのでも、無制限に放置するのでもなく、バランスを提案する専門家たち

AI開発を遅らせるのでも、無制限に放置するのでもなく、バランスを提案する専門家たち

AI政策と倫理の専門家たちは、大手企業内部から、進歩が社会の理解・制御能力を上回る可能性があるとの警告が出されたことを受け、モデル開発の速度と安全・規制上の要件のバランスを取るよう求めた。専門家たちは、企業、政府、市民社会の協力が技術競争に伴わなければならないと考えている。

CN
AnthropicのCEOが高度AI競争を減速させる計画を提示

AnthropicのCEOが高度AI競争を減速させる計画を提示

Dario Amodeiは、AIモデルにおける「進歩のペースを遅らせる」ための3つの仕組みを提案した。企業内の独立監視員、共通の安全基準、国際的な協調が含まれる。Anthropicはその一環として、外部評価者へのアクセスを拡大することを約束している。一方、提案の実行可能性や競争法との潜在的な衝突については、未解決の問題として残されている。

CN
相次ぐ辞任と度重なる組織再編が、株式公開の可能性を前にOpenAIに圧力

相次ぐ辞任と度重なる組織再編が、株式公開の可能性を前にOpenAIに圧力

OpenAIでは組織上の変化が相次ぎ、複数の上級幹部が退任している。同社は、企業価値を約1兆ドルに押し上げる可能性のある株式公開に向けて準備を進めているとみられる。こうした中、同社はAIの安全性に関する責任を再配分し、企業市場で高まるAnthropicとの競争にも直面している。