Semiconductor Engineering의 EDA 전문 기술 편집자 Brian Bailey가 발표한 분석에 따르면, 하드웨어와 소프트웨어를 각각 따로 살펴보는 방식만으로는 더 이상 시스템을 최적화할 수 없다. 소프트웨어 워크로드는 칩 개발 주기보다 빠른 속도로 변화하는 반면, 전력, 성능 및 열은 서로 연결된 요소가 되었기 때문에 소프트웨어 팀과 하드웨어 팀 간의 초기 협업이 필요하다. 각 단계가 끝난 뒤 한 팀에서 다른 팀으로 설계를 넘기는 방식은 더 이상 적절하지 않다.
이 분석은 하드웨어·소프트웨어 공동 설계로 알려진 방식에 대한 관심이 다시 높아지고 있다고 설명한다. 그러나 그 조건은 약 30년 전에 존재했던 상황과는 다르다. 당시에는 이용 가능한 기술이 큰 차이를 만들어낼 만큼 충분히 발전하지 않았기 때문에, 업계는 사전에 검증된 IP 블록을 모아 통합하는 방향으로 나아갔다. 가상 모델링과 비주기 또는 근사 주기의 SystemC 모델 등 이전 방식의 일부 흔적은 여전히 남아 있지만, 이러한 도구만으로는 현재의 실제 워크로드를 표현하기에 충분하지 않다.
팀 간 분리에서 가상 모델로
Quadric의 최고 마케팅 책임자 Steve Roddy는 하드웨어 팀이 설계를 완성한 뒤 임베디드 소프트웨어 팀에 넘기는 시대는 20년 이상 전에 끝났다고 말한다. 지난 10년 동안 가상 모델링은 물리적 입력과 센서 인터페이스까지 포함하도록 확대되었으며, 이는 가상 트윈 모델링으로 알려져 있다.
그러나 현재의 과제는 더욱 복잡하다. 시스템은 훨씬 커졌고 소프트웨어가 정의하는 워크로드를 위해 설계되는 반면, 소프트웨어의 반복 주기는 하드웨어 개발보다 빠르다. 이에 따라 공동 설계는 하드웨어가 지속적으로 소프트웨어를 따라가는 과정이 된다. Normal Computing의 Arvind Srinivasan은 소프트웨어 스택의 일부와 하드웨어 스택의 일부를 분리해 온 추상화 계층이 역사적으로 복잡성을 관리하고 개발 효율성과 신뢰성을 향상하는 데 도움을 주었지만, 특히 성능에 민감한 인공지능 워크로드에서 도구 체인의 각 부분으로부터 최대한의 최적화를 끌어내야 할 필요성이 이러한 균형을 바꾸고 있다고 본다.
이 문제를 해결하려면 ‘아키텍처’라는 단어를 더 폭넓게 이해해야 한다. 아키텍처는 시스템의 거시적 구조나 마이크로아키텍처 및 명령어만을 가리키는 것이 아니라, 실제로 실행될 소프트웨어 아키텍처와 워크로드도 포함한다. Siemens EDA의 Andy Meier는 아키텍처 선택이 애플리케이션 또는 워크로드, 그리고 해당 워크로드가 시스템 구조와 명령어 및 시스템 내부의 다양한 요소에 미치는 영향에서 출발해야 한다고 말한다.
전력에 힘입어 돌아온 특화의 물결
이 분석은 1990년대 Sony의 최고기술책임자를 지냈던 Tsugio Makimoto의 관찰을 바탕으로, 업계가 특화와 범용화 사이를 물결처럼 오간다고 설명한다. 범용 프로세서가 광범위한 분야를 지배하던 시기를 지나, 엣지와 데이터센터의 컴퓨팅 요구사항이 더욱 특화된 솔루션을 향한 움직임을 이끌기 시작했다.
엣지 디바이스에서는 이용 가능한 전력 한도 내에서 배터리 수명을 연장해야 한다는 점이 동인이다. 데이터센터에서는 전력 밀도와 열이 인공지능 워크로드 실행을 위한 선택지를 제한하기 시작했다. 그 결과 범용 처리 장치만으로는 더 이상 충분한 해답이 되지 않으며, 여러 종류의 칩을 포함하는 이기종 데이터센터가 필요해졌다. 워크로드는 각 칩의 특성에 따라 분산되거나 통합된다.
Normal Computing의 수석 과학자 Patrick Coles는 증거가 늘어나면서 ASIC의 역할이 확대되고 있는 가운데 GPU가 컴퓨팅 발전의 종착점이 아닐 수 있다고 말한다. Synopsys의 Frank Schirrmeister는 또한 하이퍼스케일 컴퓨팅 기업들이 속도만이 아니라 성능과 전력 소비 등 핵심 성능 지표를 공동으로 최적화하기 위해 자체 칩과 가속기를 개발하고 있다고 설명한다.
그러나 특화는 기술적 결정만으로 끝나지 않는다. 경제적으로 비용을 들일 가치가 있는 특화 수준과, 그것이 충분한 성능 및 전력상의 이점을 제공할 수 있는지를 결정해야 한다. SignatureIP의 CEO Purna Mohanty는 사양의 복잡성 때문에 고객 스스로도 원하는 바를 정확히 표현하지 못할 수 있다고 지적한다. 이에 따라 IP 공급업체와 고객 요구 사이의 지속적인 조정이 필요하며, 기성 솔루션의 장점과 새로운 기능을 개발했을 때의 이점을 균형 있게 고려해야 한다.
워크로드와 연계된 특화의 사례인 RISC-V
분석에서 RISC-V는 ‘워크로드를 위해 설계된 칩’으로 향하는 흐름의 사례로 제시된다. 기업들은 성능 또는 전력 효율을 개선하기 위해 코어용 맞춤형 확장을 개발하지만, 이러한 확장에는 컴파일러와 소프트웨어 통합 도구 등 생태계의 여러 요소도 필요하다.
RISC-V International의 CEO Andrea Gallo는 맞춤형 명령어를 사용하면 도구 체인과 소프트웨어 통합을 포함한 전체 소유 비용을 기업이 부담하게 된다고 설명한다. 이러한 접근법은 혁신을 빠르게 추진하는 수단이 될 수 있지만, 기업은 이후 해당 확장을 표준으로 전환하려 할 수 있다. 그렇게 하면 유지보수 비용을 더 넓은 생태계에 분산할 수 있다. 분석은 또한 소프트웨어 워크로드를 사전에 알고 있으면 처리 요소를 애플리케이션에 맞출 수 있지만, 알려지지 않았거나 변화하는 소프트웨어를 실행할 때는 범용적이고 확장 가능한 컴퓨팅 엔진이 여전히 중요하다고 지적한다.
전력과 열이 공동 설계의 범위를 넓히다
공동 설계의 영향은 성능에만 국한되지 않는다. 소프트웨어 엔지니어는 전력의 중요성을 이해할 수 있지만, 자신의 결정이 미치는 영향을 초기에 측정할 수 있는 도구를 항상 갖추고 있는 것은 아니다. 따라서 팀들은 하드웨어와 병행해 소프트웨어 개발 중 전력 소비 수치를 제공하고, 원시 TOPS뿐 아니라 와트당 TOPS와 같은 지표도 개선하려고 한다.
여러 수준의 캐시 메모리와 설계 내장 테스트(DFT) 같은 기타 기능을 포함하는 이기종 애플리케이션에서는 어려움이 더 커진다. 이러한 기능까지 포함한 실제 워크로드 안에서 전력과 성능을 분석해야 하기 때문이다. 분석 범위가 열, 전자기 간섭 및 다중물리 측면으로 확대되면서 하드웨어 팀과 소프트웨어 팀의 결합은 새로운 단위가 되고, 여기에 다중물리 분석이 추가된다.
분석에 참여한 일부 인사들은 하드웨어, 소프트웨어, 전력 및 성능 사이의 복잡한 관계를 이해하기 위해 인공지능을 사용할 가능성을 제기한다. 그러나 이를 위해서는 칩과 서버에서 랙, 차량 및 데이터센터에 이르기까지 다양한 수준에서 소프트웨어가 얼마나 많은 전력을 소비했는지를 설명하는 데이터가 필요하다. 인공지능이 주도하는 성숙한 솔루션이 등장할 때까지는 IP 통합과 다양한 특화 수준의 선택에 계속 의존할 수 있다.
RISC-V의 행렬 확장에 관한 논의는 모든 용도에 적합한 하나의 해법은 없다는 점을 보여준다. 작은 확장은 전력을 줄일 수 있는 반면, 더 많은 레지스터와 연산 및 누산기를 포함하는 큰 세트는 더 높은 처리량을 제공하지만 다이 면적과 전력 소비가 증가한다. 최종 선택은 코어와 가속기 및 목표 워크로드를 어떻게 배치하느냐에 달려 있다. 분석은 수직 통합으로 향하는 길이 아직 완성되지 않았지만, 현대 시스템에서 설계를 소프트웨어, 전력 및 성능에 맞추기 위해 필수적인 방향이 되었다고 결론 내린다.