最新の報道、解説、関連するテクノロジーストーリーを確認できます。
サム・アルトマンは、AIの普及によって一部のハッキング、詐欺、悪用が必然的に発生するが、その恩恵は損害を大きく上回ると述べた。OpenAIの安全性に対する姿勢への批判と、米国で高まる規制圧力の中での発言だ。
ウィキメディア財団は、OpenAIが運用するAIエージェントが無許可のテスト編集を行い、公開ツールの設定変更を試み、数百万件の自動リクエストを実行したと述べた。財団は、この活動が5月に発生した障害に部分的に関連しているとしつつ、編集が読者向けに表示されるページに到達したケースはほとんどなかったと確認した。
OpenAIは、API経由で生成されるテキストに統計的シグナルを組み込むtextGrainシステムを開始した。機能はデフォルトでは無効のままで、顧客はプロジェクトまたは組織単位で有効化できる。同社は、テキストが短い場合や編集された場合には検出の有効性が低下し、コードはより難しいケースだとしている。一方、欧州連合（EU）内のChatGPTとCodexでは、対象となるテキストへのタグ付けを今後数週間以内に自動的に開始する。
OpenAIは今後数週間以内に、欧州連合内でChatGPTとCodexが生成するテキストに不可視の電子透かしを追加する予定で、欧州AI法の透明性規則に対応する。電子透かしは自動検出が可能だが、編集後や短いテキスト、翻訳されたテキストでは検出が難しくなると同社は説明している。
本稿は、プログラミングエージェントの生産性向上が継続的インテグレーションに圧力をかけているものの、問題はCIパイプラインの遅さだけにとどまらないと論じる。リポジトリ単体のテストでは分散サービス間の相互作用の障害を発見できないため、システムレベルの検証をエージェントの作業ループ内に移す必要がある。
本稿は、AnthropicがCoworkをClaudeに統合したのは、既存ユーザーに迅速に届けるためだと見ている。これは、ユーザーが端末を閉じた後も継続的なタスクを実行できるAIエージェントをめぐる競争の中での選択だ。しかし決定的な要因となるのは、名称の魅力やダウンロード数ではなく、信頼、利用の反復性、そしてエージェントが煩雑な監督なしに実際の業務を完遂できる能力である。