NTT Docomo Business와 ExaWizards는 2026년 8월 17일부터 폐쇄형 AI 에이전트 제공을 시작했다. 이 서비스는 데이터를 공용 AI 서비스로 전송하는 대신, 격리된 네트워크 환경에서 중요한 데이터를 사용하려는 기업을 대상으로 한다. 언급된 사용 사례에는 설계도, 기술 자료, 문서 및 고객 관련 데이터가 포함된다.
이 서비스는 기업들이 여러 작업을 수행할 수 있는 에이전트를 시험하는 가운데, 데이터 보호와 모델 접근에 대한 명확한 제한 설정이 여전히 주요한 실무 과제로 남아 있는 시점에 등장했다. 해당 자료에 따르면 이 서비스는 폐쇄형 네트워크를 통해 사용할 수 있도록 설계되었으며, 기업 환경 내부에서 데이터를 처리하는 기능과 운영 보안 요건을 결합한다.
서비스가 제공하는 기능
이 서비스는 그래픽 처리 장치(GPU) 운영 기술과 Kubernetes 아키텍처를 활용한 컨테이너 오케스트레이션을 기반으로 한다. 이에 따라 발표 설명에 따르면, 공용 네트워크로 데이터를 반출하지 않고 중요한 데이터를 처리하면서 기업 전용 환경 안에서 AI 에이전트를 운영할 수 있다.
ExaWizards는 AI 서비스 개발 플랫폼 exaBase Studio에서 템플릿을 제공한다. 또한 에이전트를 각 기업의 업무 및 프로세스와 통합할 수 있다. 여기에는 NTT가 개발한 일본어 대규모 언어 모델 tsuzumi 2와 폐쇄형 환경에서 실행할 수 있는 오픈 소스 대규모 언어 모델을 함께 사용하는 방식이 포함된다.
배포 옵션과 운영 책임
NTT Docomo Business는 인프라 설계, 운영 관리 및 보안 보호 절차를 담당하며, 고객은 자사 내부에 적합한 운영 환경을 구축하는 데 필요한 지원을 받는다. 이 서비스는 프라이빗 클라우드와 기업 내부 배포라는 두 가지 배포 옵션을 제공한다.
온프레미스 배포 옵션에서는 하드웨어 제공부터 AI 에이전트 운영까지 전 과정을 수행할 수 있다. 이를 통해 데이터를 고객의 인프라 내부에 보관할 수 있으며, 민감한 데이터를 운영 범위 밖으로 이전하기를 원하지 않는 기업의 요구에도 대응할 수 있다.
이 발표가 중요한 이유
여기서 실제 변화는 새로운 언어 모델만 출시하는 데 있지 않다. 모델, 하드웨어, 네트워크 및 보안 관리를 민감한 데이터를 대상으로 하는 하나의 서비스에 결합한 운영 계층을 제공한다는 데 있다. 이는 일반적인 AI 도구로 쉽게 관리할 수 없는 내부 문서나 설계 정보를 사용하는 산업에 중요할 수 있다.
해당 자료는 지시문 주입 공격에 대응하기 위한 절차와 AI 에이전트의 활동 로그도 제공한다고 설명한다. 이를 통해 작업을 추적할 수 있다. 또한 HPC 서비스와 협력해 처리 중 데이터의 기밀성을 유지하는 컴퓨팅 기술을 홍보하고 있지만, 공개된 자료에는 이 협력의 범위나 달성되는 보호 수준을 평가할 수 있을 만큼 충분한 기술적 세부 사항이 제시되어 있지 않다.
제한 사항과 미해결 질문
현재 제공된 본문에는 가격, 사용 한도 또는 지원되는 오픈 소스 모델에 대한 세부 사항이 명시되어 있지 않다. 또한 일본 시장이라는 맥락을 벗어나 서비스가 제공되는 산업이나 국가도 특정하지 않는다. 따라서 프라이빗 클라우드 또는 온프레미스 배포 옵션의 적합성은 각 기업의 요구 사항과 인프라 및 데이터 관리 역량에 따라 달라진다. 이러한 사항은 잠재 고객이 도입하기 전에 직접 검토해야 한다.