마이크로소프트(Microsoft)의 소프트웨어 엔지니어 스콧 한셀만(Scott Hanselman)은 윈도우 11(Windows 11) 운영체제를 사용하는 개인용 컴퓨터에서 애플리케이션과 로컬 모델이 그래픽 카드(GPU) 메모리를 어떻게 사용하는지에 대해 상세하고 깊이 있는 정보를 제공하도록 설계된 새로운 무료 도구인 'gputaskman'을 출시했습니다. 이 도구는 기존 작업 관리자가 제공하는 기능의 한계를 뛰어넘습니다.
윈도우의 기본 작업 관리자는 개별 프로세스 수준에서 GPU 및 메모리 사용량을 보여주지만, 실제 사용 특성에 대한 세부 정보는 제공하지 못합니다. 'gputaskman' 도구는 그래픽 카드 메모리가 로컬 AI 모델, 웹 브라우저, 또는 데스크톱 컴포지터(Compositor) 중 어디에 사용되는지를 명확히 보여주고 GPU 온도까지 표시함으로써 이러한 격차를 해소합니다.
이 뉴스가 중요한 이유
마이크로소프트와 같은 기술 기업들이 기기 내 로컬 처리와 클라우드 서비스를 결합한 하이브리드 AI 이니셔티브로 나아감에 따라, 개발자와 고급 사용자들은 하드웨어 자원이 소모되는 원인을 정확히 이해해야 할 필요성이 커지고 있습니다. 이 도구의 기반이 된 개발자들의 질문들은 거대 언어 모델(LLM)의 가중치 추적, 키-값 캐시(KV cache), 그리고 시스템 RAM과 그래픽 카드 메모리 간의 부하 분산 방식 등 메모리 사용량을 둘러싼 모호함에 주목하고 있습니다.
현재 상태 및 도구 가용성
이 도구는 현재 초기 개발 단계에 있으며, AMD 및 엔비디아(NVIDIA) 그래픽 카드를 탑재한 개인용 컴퓨터를 지원합니다. 도구 개발자는 깃허브(GitHub) 플랫폼을 통해 기술 커뮤니티의 참여를 독려했으며, 향후 계획에는 서피스 랩탑 울트라(Surface Laptop Ultra)와 같은 기기 및 윈도우 온 암(Windows on Arm) 아키텍처 프로세서를 탑재한 기기까지 지원 범위를 확대하는 것이 포함되어 있다고 밝혔습니다.