Semiconductor EngineeringでEDAを専門とするテクノロジー編集者Brian Baileyが発表した分析によると、ハードウェアとソフトウェアをそれぞれ個別に検討するだけでは、もはやシステムを最適化できない。ソフトウェアのワークロードはチップ開発サイクルより速いペースで変化している一方、電力、性能、熱は相互に関連する要因となり、各工程の終了後に設計を一方のチームから他方へ引き渡すのではなく、ソフトウェアチームとハードウェアチームが早期に協力することを求めている。
この分析では、ハードウェアとソフトウェアの協調設計として知られる手法への関心が再び高まっていることを取り上げているが、状況は約30年前とは異なる。当時は、利用可能な技術によって大きな差を生み出すことができなかったため、業界は事前に検証されたIPブロックを集めて統合する方向へ進んだ。仮想プロトタイピングや、非タイミングまたは概略タイミングのSystemCモデルなど、以前の手法の名残は今も一部に存在するものの、これらのツールだけでは、現在の現実的なワークロードを表現するには不十分と見なされている。
チーム間の分離から仮想モデルへ
Quadricの最高マーケティング責任者であるSteve Roddyは、ハードウェアチームが設計を行い、それを組み込みソフトウェアチームに引き渡す時代は、20年以上前に終わったと述べている。過去10年間で仮想モデリングは、物理入力やセンサーインターフェースを含むまでに拡大し、仮想ツインモデリングとして知られるものになった。
しかし、現在の課題はより複雑である。システムははるかに大規模になり、ソフトウェアによって定義されるワークロード向けに設計されている一方、ソフトウェアの反復はハードウェア開発より速い。そのため協調設計は、ハードウェアが継続的にソフトウェアに追随するプロセスとなっている。Normal ComputingのArvind Srinivasanは、ソフトウェアスタックの各部分とハードウェアスタックの各部分を分離してきた抽象化レイヤーが、歴史的には複雑性の管理と開発効率・信頼性の向上に役立ってきたが、特に性能に敏感なAIワークロードにおいて、ツールチェーンの各部分から最大限の最適化を引き出す必要性が、このバランスを変えていると考えている。
この問題への対処には、「アーキテクチャ」という言葉をより広く理解する必要がある。それはシステム全体の構造やマイクロアーキテクチャ、命令だけを指すのではなく、ソフトウェアアーキテクチャや、実際に実行されるワークロードも含む。Siemens EDAのAndy Meierは、アーキテクチャの選択はアプリケーションまたはワークロード、そのワークロードがシステム構造、命令、内部の各要素に及ぼす影響から出発すべきだと述べている。
電力を原動力に特化の波が再来
この分析は、1990年代にSonyの最高技術責任者を務めていたTsugio Makimotoの観察に基づいている。同氏は、業界が特化と汎用化の間を波のように移動すると指摘した。汎用プロセッサーが広範な分野を支配していた時期を経て、エッジでのコンピューティング要件、そしてデータセンターの要件が、より特化したソリューションへ向かう動きを促し始めた。
エッジデバイスでは、利用可能な電力の範囲内でバッテリー寿命を延ばすことが動機となる。データセンターでは、電力密度と熱がAIワークロードを実行するための選択肢を制限するようになった。その結果、汎用処理ユニットだけでは答えにならず、複数種類のチップを備え、それぞれのチップの特性に応じてワークロードを分散または統合する、異種混在型データセンターの必要性が生じている。
Normal ComputingのチーフサイエンティストであるPatrick Colesは、証拠が増えるにつれてASICの役割が拡大しており、GPUがコンピューティングの進化の終着点ではない可能性を指摘している。また、SynopsysのFrank Schirrmeisterは、ハイパースケールコンピューティング企業が、速度だけに注目するのではなく、性能や消費電力などの主要業績評価指標を共同最適化するため、自社用チップやアクセラレーターを開発していると説明している。
しかし、特化は技術的な判断だけではない。どの程度のカスタマイズが経済的にコストに見合うのか、また性能と電力に十分な向上をもたらすのかを判断する必要がある。SignatureIPの最高経営責任者であるPurna Mohantyは、仕様の複雑さによって、顧客自身が望むものを正確に表現できない場合があると指摘している。そのため、IPプロバイダーと顧客のニーズを継続的にすり合わせ、既製ソリューションの利点と新しい特性を開発することによる利益のバランスを取る必要がある。
ワークロードに結び付いた特化の例としてのRISC-V
この分析では、RISC-Vが「ワークロード向けに設計されたチップ」への流れの一例として取り上げられている。企業は性能や電力を改善するため、コア向けのカスタム拡張を開発しているが、こうした拡張にはコンパイラーやソフトウェア統合ツールなど、エコシステムの各部分も必要になる。
RISC-V Internationalの最高経営責任者であるAndrea Galloは、カスタム命令を使用すると、ツールチェーンやソフトウェア統合を含む所有コスト全体を企業が負担することになると説明している。このアプローチはイノベーションの迅速な手段になり得るが、企業は後にその拡張を標準へと移行しようとする可能性がある。その場合、保守コストをより広範なエコシステムで分担できる。また、分析では、ソフトウェアワークロードを事前に把握していれば、処理要素をアプリケーションに適合させられる一方、未知または変化するソフトウェアを実行する際には、汎用かつスケーラブルなコンピューティングエンジンが引き続き重要だと指摘している。
電力と熱が協調設計の範囲を拡大
協調設計の影響は性能に限られない。ソフトウェアエンジニアは電力の重要性を理解しているかもしれないが、自らの決定の影響を早期に測定できるツールを常に持っているわけではない。そのためチームは、ハードウェアと並行してソフトウェア開発中に電力消費の数値を提供し、単なるTOPSではなく、ワット当たりTOPSなどの指標を改善する取り組みを進めている。
複数のキャッシュ階層に加えて、設計の組み込みテスト（DFT）などの他の機能を含む異種アプリケーションでは、難しさが増す。これらの機能も含めた現実的なワークロードの中で、電力と性能を分析しなければならないからである。分析が熱、電磁干渉、マルチフィジックスの側面へ移行するにつれ、ハードウェアチームとソフトウェアチームの統合は新たな単位となり、そこにマルチフィジックス解析が加わる。
分析の参加者の一部は、ハードウェア、ソフトウェア、電力、性能の複雑な関係を理解するためにAIを利用する可能性を示している。しかし、そのためには、チップ、サーバー、ラック、車両、データセンターという異なるレベルで、ソフトウェアがどれだけの電力を消費したかを記述するデータが必要になる。AI主導の成熟したソリューションが登場するまで、IPの統合と、異なる特化度の選択に依存し続ける可能性がある。
RISC-Vにおける行列拡張についての議論は、すべての用途に適した単一のソリューションは存在しないことを示している。小規模な拡張は電力を削減できる一方、より多くのレジスター、演算、アキュムレーターを備えた大規模なセットは、ダイ面積と電力消費を犠牲にして、より高いスループットを提供する。最終的な選択は、コア、アクセラレーター、対象ワークロードをどのように配分するかによって決まる。この分析は、垂直統合への道のりはまだ完全には整っていないものの、現代のシステムで設計をソフトウェア、電力、性能に適合させるために、必要な方向性になっていると結論付けている。