기업들은 AI 가속기 선택지를 엔비디아로 한정하는 대신 더 폭넓게 검토하고 있지만, 그렇다고 현재 플랫폼을 즉시 떠날 준비를 하고 있다는 의미는 아니다. 170명의 AI 인프라 관계자를 대상으로 실시한 VB Pulse 7월 조사에 따르면, 응답자의 39.4%는 향후 12개월 동안 엔비디아 이외의 가속기를 평가할 가능성이 높다고 답했다. 이는 엔비디아 블랙웰(GB300) 또는 차세대 엔비디아 프로세서에 대해 같은 답을 한 25.3%와 비교되는 수치로, 14%포인트 차이다.
설문에서 언급된 대안에는 AWS Trainium, Google TPU, AMD Instinct, Intel Gaudi와 기업이 내부적으로 개발하는 ASIC 칩이 포함된다. 그럼에도 엔비디아는 대부분의 생산 환경에서 여전히 기본 선택지다. 따라서 이번 결과는 생산 점유율이 즉시 전환되고 있다는 증거라기보다 평가 대상의 범위가 넓어지고 있음을 보여주는 지표에 가깝다.
활동은 늘었지만 즉각적인 변화 의향은 줄어
가속기 관련 결과는 더 큰 흐름 속에 놓여 있다. 기업들은 AI 인프라를 더 집중적으로 운영하면서, 주요 플랫폼을 바꾸기로 결정하기 전에 보유한 인프라를 개선하려 하고 있다. 0~3개월 안에 플랫폼을 변경할 것으로 예상한 응답자의 비율은 6월 38.3%에서 7월 28.8%로 하락했다. 반면 3~6개월 안에 변경할 것으로 예상한 비율은 4.1%포인트, 6~12개월 안에 변경할 것으로 예상한 비율은 5.3%포인트 상승했다. 아무런 변경도 계획하지 않는 응답자의 비율은 약 40%로 거의 안정적이었다.
여러 플랫폼의 생산 환경 사용도 증가했다. Microsoft Azure를 생산 환경에서 사용한다고 답한 비율은 29%에서 47.1%로 상승했으며, Google Gemini 사용률은 41.1%에서 47.6%로 올랐다. OpenAI 관련 비율도 40.2%에서 49.4%로 증가했고, Anthropic 사용률은 12.1%에서 24.7%로 상승했다. 다만 Azure의 급증은 신중하게 해석해야 한다. 7월 표본은 대기업에 더 치우쳐 있었기 때문이다. 응답자의 57%가 직원 1,000명 초과 기업에 근무한 반면, 6월에는 37%였다.
기업이 직접 관리하는 GPU의 활용률도 개선됐다. 자체 관리 GPU를 절반 이하 용량으로 가동한다고 답한 비율은 100명이 참여한 6월 표본에서 83%였지만, 155명이 참여한 7월 표본에서는 69%로 하락했다. 50%를 초과해 가동하는 비율은 13%에서 23%로 상승했다.
기준이 플랫폼 규모에서 워크로드 성능으로 이동
선택 기준은 구매 결정이 실제 운영과 더욱 밀접해지고 있음을 보여준다. 클라우드 환경 및 기업 데이터와의 통합은 7월 40.0%, 6월 41.1%로 여전히 가장 중요한 요소였다. 그러나 성능의 우선순위는 24.3%에서 35.3%로 상승했고, 100만 토큰당 비용의 우선순위는 7.5%에서 15.9%로, GPU 접근성의 우선순위는 18.7%에서 23.5%로 각각 높아졌다.
반대로 총소유비용(TCO)을 주요 요인으로 선택한 비율은 34.6%에서 21.8%로 하락했다. 이는 비용의 중요성이 사라졌다는 뜻이 아니라, 평가가 워크로드에 더욱 밀착되고 있다는 의미다. 즉 생산 환경에서 추론이 어떻게 작동하는지, 신뢰성이 어느 정도인지, 유용한 작업 단위당 비용이 얼마인지를 중시한다는 뜻이다.
이러한 흐름이 중요한 이유
엔비디아 이외의 대안에 대한 관심은 6월 31.8%에서 7월 39.4%로 상승했다. 고위 경영진 표본은 작았지만 전략적 구매 권한을 가진 응답자에서 상승 폭이 더 뚜렷했다. 이 집단의 비율은 42.9%, 즉 14명 중 6명에서 57.1%, 즉 21명 중 12명으로 올랐다. 최종 의사결정권자 가운데서는 35.4%에서 50%로 증가했다.
이 수치는 가속기 다변화가 엔지니어링 문제에서 전략적 인프라 결정으로 바뀌고 있음을 보여준다. 평가 목록에 대안이 포함되면 기업은 성능, 비용, 하드웨어 가용성을 더 폭넓게 비교할 수 있다. 그러나 이러한 대안이 생산 환경에서 우위를 확보했거나 기업들이 해당 대안으로의 전환을 확정했다는 뜻은 아니다.
통제는 칩에만 국한되지 않는다
모델을 기업의 데이터와 서비스에 연결하는 도구 계층에서도 같은 흐름이 나타났다. 설문은 이 계층이 도구, 데이터, 조정, 평가, 신원, 보안, 관측 가능성을 포함한다고 설명했다. 7월에는 36.6%가 모델과 함께 각 분야 최고 수준의 독립 도구를 유지하는 방식을 선호했고, 또 다른 36.6%는 서비스 제공업체의 기본 실행 환경과 독립 도구를 혼합하는 방식을 선호했다. 이에 따라 79.2%가 단일 모델 제공업체 외부에서 일정 수준의 아키텍처 통제권을 유지하는 접근을 지지했으며, 6월의 약 65.3%보다 높아졌다.
반면 단일 모델 제공업체의 기본 컨텍스트 패키지로 통합하는 방식을 선호한 비율은 20.8%에서 11.9%로 하락했다. 이러한 통제는 실질적인 중요성을 갖는다. 7월 응답자의 68.3%가 누락되었거나 잘못된 컨텍스트 때문에 자신감은 있지만 틀린 답변을 경험했다고 답했으며, 6월에는 57.4%였다. 또한 62.4%는 통제된 시맨틱 또는 컨텍스트 계층이 생산 환경에 있거나 구축 중이라고 답했다.
특화 클라우드와 오픈소스 구성 요소
AI 전문 클라우드 제공업체, 즉 네오클라우드(neoclouds)를 더 많이 사용할 것으로 예상한 비율은 33%에서 38%로 상승했으며, 사용이 줄어들 것으로 예상한 비율은 9.7%에서 5.4%로 하락했다. 그러나 CoreWeave, Lambda, Crusoe, Nebius와 같은 특정 제공업체의 현재 생산 환경 사용률은 여전히 훨씬 낮았고, 1.9%에서 5.9%로 상승하는 데 그쳤다.
확대 의향과 현재 사용률 사이의 차이는 평가 및 잠재적 도입의 여지를 보여줄 뿐, 도입이 완료됐음을 의미하지는 않는다. 이러한 기업들이 가속기 접근성을 지속 가능한 기업용 사용으로 전환할 수 있을지는 신뢰성, 보안, 지원, 네트워크, 데이터 관리가 여전히 좌우할 것이다.
생산 환경용 오픈소스 및 자체 관리 패키지의 사용률도 3.7%에서 12.9%로 상승했다. 설문에서 제시된 예로는 PyTorch, Triton, vLLM, Ray, Kubernetes가 있다. LMCache와 vLLM prefix caching 같은 오픈소스 키-값 캐시 도구의 사용률은 6.5%에서 11.8%로 상승했다. 그러나 오픈소스 플랫폼을 검토하는 비율은 5.6%에서 6.5%로 거의 변하지 않았다. 이는 확대가 새롭게 평가를 시작한 더 넓은 집단보다 실행 단계에 진입한 기업들 사이에서 집중되고 있음을 의미한다.
방법론적 한계: 이 기사는 서로 다른 두 시점에 실시된 독립적인 두 설문조사를 비교한다. 2026년 6월에는 107명, 2026년 7월에는 170명이 참여했으며, 동일한 기업을 추적한 종단 연구가 아니다. 또한 표본 구성도 달라졌고 통계적 유의성 검정도 실시되지 않았다. 따라서 월별 차이는 인과관계의 입증이 아니라 방향성을 보여주는 신호로 받아들여야 한다. 컨텍스트 계층 데이터는 매월 101명이 참여한 별도의 설문조사에 기반한다.