더 이상 폐쇄형 인공지능 모델과 오픈 모델 사이의 선택은 API 액세스 가격에만 달려 있지 않다. 학습된 가중치를 다운로드할 수 있으면 기관의 하드웨어에서 모델을 실행하거나 필요에 맞게 수정할 수 있지만, 동시에 칩 엔지니어들에게 메모리, 지속 가능한 성능, 배포 보안, 몇 주 만에 바뀌는 모델에 하드웨어를 적응시키는 능력에 관한 복잡한 질문을 제기한다. 반면 칩 설계에는 수년이 걸린다.
이는 Semiconductor Engineering의 분석이 다루는 핵심 주제다. 이 분석은 Expedera, Arteris, Axiomise, Synopsys, Siemens EDA, Cadence, Rambus 및 기타 기업 전문가들의 견해를 바탕으로 한다. 핵심 결론은 성공의 기준이 더 이상 짧은 순간의 최고 성능 TOPS 수가 아니라, 변화하는 모델 조합을 효율적이고 신속하며 안전하게 실행하는 플랫폼의 능력이라는 점이다.
오픈 웨이트가 완전한 오픈 소스를 의미하지는 않는다
오픈 웨이트 모델을 사용하면 사용자가 학습된 매개변수를 다운로드해 로컬에서 실행하거나 조정할 수 있다. 그러나 이것이 반드시 오픈 소스 모델과 같은 의미는 아니다. 학습 데이터, 코드, 사용 권한은 제한된 상태로 남을 수 있다. 이 분야에는 Meta Llama, Alibaba Qwen, DeepSeek, Mistral, Google Gemma, Microsoft Phi, OpenAI gpt-oss 제품군과 같은 모델이 포함된다.
운영 방식은 서버나 고급 가속기가 필요한 대형 모델부터 메모리가 제한된 장치에서 실행할 수 있는 소형 모델까지 다양하다. 기사에 따르면 gpt-oss-120b는 80기가바이트 메모리를 갖춘 그래픽 처리 장치에서 작동할 수 있으며, gpt-oss-20b는 MXFP4 양자화를 사용해 16기가바이트 메모리 장치를 대상으로 한다. 그러나 모델이 메모리에 맞는다는 사실만으로 실용적으로 유용한 성능을 제공한다는 점이 입증되는 것은 아니다.
단일 공급업체 의존과 유연성 사이
로컬 또는 프라이빗 클라우드 환경에서 운영하면 하나의 서비스에 대한 의존도를 줄일 수 있고, 민감한 데이터를 기관 네트워크 내부에 유지하는 데도 도움이 된다. 이는 설계 방식이나 회로도 또는 영업 비밀에 해당하는 정보를 포함할 수 있는 칩 설계 및 규제 산업에서 특히 중요하다.
기관은 모델 라우팅을 사용할 수도 있다. 어려운 작업은 강력한 상용 모델에 맡기고, 반복적이거나 덜 복잡한 작업은 비용이 낮은 오픈 웨이트 모델로 처리하는 방식이다. 그러나 분석은 오픈 모델이 자동으로 더 낮은 성능이나 비용을 보장하지 않는다고 설명한다. 비용은 모델 규모, 운영 방식, 응답 요구사항에 따라 달라지며, 일상적인 워크플로에서 지속적인 대화형 성능이 필요할 경우 1만 달러를 초과할 수 있다.
칩 설계에서 실제로 무엇이 달라지는가?
전문가들은 메모리, 메모리 대역폭, 데이터 전송이 순수한 연산 능력보다 더 중요한 제약이 될 수 있다고 본다. 설계팀은 미래에 단 하나의 고정된 모델이 존재한다고 가정하기보다 활성 매개변수 수, 수치 정밀도, 컨텍스트 길이, 멀티모달성, 동시성, 응답 시간을 평가해야 한다.
- FLOPS가 아니라 메모리 대역폭이 주요 제약이 될 수 있다.
- 희소 활성화와 저정밀도 양자화의 중요성이 커진다.
- 서로 다른 유형의 프로세서를 결합하는 이기종 시스템이 배포를 위한 실용적인 수단이 될 수 있다.
- 밀집 GEMM 연산뿐 아니라 KV 메모리 압박, 최대 128K의 컨텍스트, 에이전트 동시성을 테스트해야 한다.
이러한 요구사항은 모델 개발 주기와 칩 제조 주기 사이의 격차에서 비롯된다. 모델은 일주일 또는 한 달마다 바뀔 수 있지만, 최상의 경우에도 칩 주기는 약 2.5년이 걸릴 수 있다. 따라서 제조가 완료되기 전에 중요성을 잃을 수 있는 하나의 모델을 가속하는 것보다 소프트웨어와 하드웨어의 적응성이 더 큰 가치를 갖게 된다.
칩 설계 도구에서의 인공지능
Synopsys에 관한 분석 내용을 인용하면, 일반 모델만으로는 칩 설계 작업에 충분하지 않다. 신뢰할 수 있는 결과는 정제되고 문서화된 설계 데이터, 명확한 워크플로 컨텍스트, 확인된 사실의 기준에 달려 있다. 가중치 조정만으로는 전문 데이터의 부족이나 데이터 간 충돌을 해결할 수 없다.
따라서 EDA 도구에서 오픈 모델의 가치는 기업이 자체 데이터를 보호된 환경 안에 유지한 다음, 자체 데이터와 워크플로 및 지식 계층을 추가할 수 있는 능력과 관련될 수 있다. 보안 측면도 모델 자체에만 국한되지 않는다. 가중치 파일과 업데이트의 인증, 메모리와 DMA 채널 보호, 워크로드 격리, 안전한 버전으로 되돌릴 수 있는 기능까지 포함한다.
편집부의 해석: 진정한 변화는 오픈 웨이트 모델이 곧바로 proprietary 모델을 대체한다는 데 있는 것이 아니라, 인공지능에 관한 결정을 하나의 서비스를 선택하는 문제에서 전체 시스템을 설계하는 문제로 바꾼다는 데 있다. 기관은 성능, 비용, 개인정보 보호, 개발 가능성 사이에서 균형을 잡아야 하며, 칩 설계자들은 하나의 기준에 맞춰 최적화하기보다 모델 변화에 견딜 수 있는 플랫폼을 구축해야 한다. 여전히 열려 있는 질문은 오픈 모델이 전문 작업에서 품질 격차를 얼마나 줄일 수 있는가이다. 특히 신뢰할 수 있는 데이터와 워크플로가 모델 규모 자체보다 중요할 때 더욱 그렇다.