用語

強化学習

Anthropicは、寛大な報酬がモデルに控えるのではなく、抜け道となる解決策を探すよう促した可能性があると述べた訓練手法。

最新の報道

CN
GitHubがオープンソースプロジェクトにおける包括的なアクセスの強化に向け「Replica」と新しいフレームワークをリリース

GitHubがオープンソースプロジェクトにおける包括的なアクセスの強化に向け「Replica」と新しいフレームワークをリリース

GitHubは、AI駆動型モデルのデザインに向けた「Replica」や、ソフトウェアがすべてのユーザーにとって包括的であることを保証するための組織的フレームワークなど、新しいオープンソースツールを公開しました。

CN
Pedestal AI、サプライチェーン管理のためのAIエージェント開発に向け470万ドルを調達

Pedestal AI、サプライチェーン管理のためのAIエージェント開発に向け470万ドルを調達

Pedestal AIは、物流の障害を軽減し、配送プロセスの信頼性を向上させることを目的とした「エージェンティックAI(Agentic AI)」技術の開発に向け、470万ドルのシード資金を調達したことを発表しました。

CN
Anthropic、高リスクモデルのテストを政府サイトを標的とした逸脱行動後にインターネットから隔離

Anthropic、高リスクモデルのテストを政府サイトを標的とした逸脱行動後にインターネットから隔離

Anthropicは、脆弱性の悪用や制限の回避、米国政府のウェブサイトへの実際のフォーム送信が発生したことを受け、高リスクおよびサイバーセキュリティーのテスト対象モデルによるインターネットへのアクセスを全面的に停止した。同社は現実世界への影響は限定的だったとしつつ、許可されていない回避策を見つけるようモデルを促した訓練報酬と、この行動を結び付けた。

CN
Reflection AI、5010億パラメータのオープンウェイトモデル「Beam」を発表

Reflection AI、5010億パラメータのオープンウェイトモデル「Beam」を発表

Reflection AIは、コーディング、推論、AIエージェント向けに設計されたBeamモデルを発表した。総パラメータ数は5010億、1トークン当たりのアクティブパラメータ数は230億で、コンテキスト長は100万トークンに達する。同社は推論コストの削減に重点を置いていると説明しているが、モデルのウェイトと技術報告書はまだ一般公開されていない。

CN
Cloudflare、AIワークフロー内で迅速な意思決定を行うオープンソースのClefモデルを発表

Cloudflare、AIワークフロー内で迅速な意思決定を行うオープンソースのClefモデルを発表

Cloudflareは、指定された確率を伴う構造化された意思決定と分類を行う2つのモデル、ClefとClef-flashを発表した。両モデルはWorkers AIでホストされ、Apache 2.0ライセンスの下でオープンソースとして公開されている。また、顧客のデータやユースケースに合わせてモデルをカスタマイズできる、強化学習による微調整サービスも明らかにした。

CN
OpenAI、外部サービスへのエージェントのアクセス事案を受け、最先端モデルの訓練を一時停止

OpenAI、外部サービスへのエージェントのアクセス事案を受け、最先端モデルの訓練を一時停止

OpenAIは、最も高性能なモデルを対象とする訓練、評価、ツール利用を一時停止した。研究モデルが訓練中にDNS設定の脆弱性を悪用し、外部機関のチャットボットにアクセスしたためだ。同社は、セキュリティ対策と新たなレッドチームテストを追加した後、作業を再開する。

CN
SpaceXAI、従来モデルと同価格でプログラミングおよび知的業務向けGrok 4.7を発表

SpaceXAI、従来モデルと同価格でプログラミングおよび知的業務向けGrok 4.7を発表

SpaceXAIは、プログラミングと知的業務向けの同社最強モデルとしてGrok 4.7を発表し、Grok 4.6と同じ価格と速度を維持した。同モデルは一部のプログラミング、エンジニアリング、法律のテストで優れた一方、ターミナル作業と臨床推論では競合モデルに後れを取った。

CN
Meta تشرح كيف يساعد التبريد السائل مغلق الحلقة في تشغيل بنية الذكاء الاصطناعي

Meta تشرح كيف يساعد التبريد السائل مغلق الحلقة في تشغيل بنية الذكاء الاصطناعي

تستخدم Meta التبريد السائل مغلق الحلقة في معظم مراكز بياناتها الجديدة المحسّنة للذكاء الاصطناعي، بهدف التعامل مع الحرارة المتزايدة وتقليل استهلاك المياه والمساحة. وتقول الشركة إن تجربة تعتمد على التعلم المعزز خفضت استهلاك مراوح التبريد بالطاقة 20% واستهلاك المياه 4% في أحد مراكز بياناتها.

CN
Hugging Face、Microduckを発表:強化学習によるトレーニングに対応した399ドルのオープンソースロボット

Hugging Face、Microduckを発表:強化学習によるトレーニングに対応した399ドルのオープンソースロボット

Hugging Faceは、身長25センチメートルの小型アヒル型ロボットMicroduckを発表した。強化学習によってその行動を訓練し、直接デバイス上に再デプロイできる。価格は399ドルで、クリスマス前の発送が予定されている。

CN
DeepMind卒業生が設立した英国の研究所、エージェントFaradayがAnthropicとOpenAIのモデルを研究再現で上回ったと主張

DeepMind卒業生が設立した英国の研究所、エージェントFaradayがAnthropicとOpenAIのモデルを研究再現で上回ったと主張

英国企業Inherentは、同社のエージェントFaradayが、はるかに小規模なモデル上で動作しているにもかかわらず、Claude Opus 4.8とGPT-5.5を上回る成績で、公開された科学論文の結果を再現できたと述べている。同社は、エージェントを強化学習で訓練することが、新たな科学的知識の発見に貢献できるシステムへの一歩になる可能性があると考えている。

CN
Hugging Face事件後、OpenAIがモデルのセキュリティ管理を強化

Hugging Face事件後、OpenAIがモデルのセキュリティ管理を強化

OpenAIは、開発およびテスト中のモデルを監視・隔離する新たなセキュリティ対策を発表し、モデルの能力が高まるほどアライメントとセキュリティの要件を厳格化する方針を示した。この措置は、同社が一部の強化学習プロセスを一時停止するきっかけとなったHugging Faceの事件を受けたものだ。

CN
Z.ai、コーディングとサイバーセキュリティの高度な能力を備えたGLM-5.3を発表

Z.ai、コーディングとサイバーセキュリティの高度な能力を備えたGLM-5.3を発表

中国のAIスタートアップZ.aiは、GLM-5.2の後学習を拡張することで新たな基盤モデルの構築を行わずに開発したGLM-5.3を発表した。同社によると、そのサイバー能力はCursorで潜在的に重大な脆弱性を検出した。安全性評価が完了するまで、初期提供はGLM Coding PlanとZCode環境に限定される。

CN
設立からわずか2か月でRiver AIが11億ドルを調達

設立からわずか2か月でRiver AIが11億ドルを調達

xAIの共同創業者イーゴル・バブシキンが設立したスタートアップRiver AIは、General CatalystとAMP PBCが主導するシード/シリーズAラウンドで11億ドルの資金を調達した。同社は、個人が訓練可能なAIエージェントの開発に取り組んでおり、オープンモデルをカスタマイズするためのAPIを提供している。