用語

Reinforcement Learning from Human Feedback

最新の報道、解説、関連するテクノロジーストーリーを確認できます。

最新の報道

CN
TypeSafe AIのJevモデル、テキスト出力のないAIに賭ける

TypeSafe AIのJevモデル、テキスト出力のないAIに賭ける

TypeSafe AIは、テキストではなく校正済みの確率と判断を生成するTransformerベースのモデル、Jevを発表した。ソフトウェアや自動化の一部のタスクに対して、より高速で低コストな代替手段を提供することが目的だ。開発者らは、このモデルが速度とコストで大きな改善を達成したと述べている一方、その構造や結果の一般化の限界については疑問が残っている。

CN
制御喪失のリスクへの懸念が高まる中、ポール・クリスティアーノがOpenAI財団の理事会に参加

制御喪失のリスクへの懸念が高まる中、ポール・クリスティアーノがOpenAI財団の理事会に参加

AIアラインメントの第一人者の一人である研究者ポール・クリスティアーノが、OpenAI財団の理事会および安全・セキュリティ委員会に加わる。この動きは、AIエージェントが制約を回避し、外部システムにアクセスする能力に関する事故について、最近の報告や見解が警告を発する中で行われた。

CN
Micro1、AIトレーニングデータ需要の高まりを受け、年間総収益ランレートを5億ドルに引き上げ

Micro1、AIトレーニングデータ需要の高まりを受け、年間総収益ランレートを5億ドルに引き上げ

スタートアップ企業のMicro1は、AIモデルのトレーニングデータに対する需要の高まりを追い風に、年間総収益ランレートを8カ月間で1億ドルから5億ドルへと大幅に伸ばした。同社の成長は、激しい競争と、複数の買い手へのデータセット再販をめぐる議論のさなかに実現した。