Инженер-программист компании Microsoft Скотт Хансельман выпустил новый бесплатный инструмент под названием gputaskman, предназначенный для обеспечения детального и глубокого обзора того, как приложения и локальные модели потребляют видеопамять (GPU) на персональных компьютерах под управлением Windows 11, выходя за рамки возможностей традиционного Диспетчера задач.
Хотя стандартный Диспетчер задач в Windows отображает потребление графического процессора и памяти на уровне отдельных процессов, он не может предоставить точные сведения о характере фактического использования. Инструмент gputaskman заполняет этот пробел, показывая, потребляется ли видеопамять локальной моделью искусственного интеллекта, веб-браузером или системой композиции рабочего стола, а также отображая температуру графического процессора.
Почему эта новость важна?
По мере того как технологические компании, такие как Microsoft, переходят к инициативам в области гибридного искусственного интеллекта, объединяющим локальную обработку на устройствах с облачными сервисами, у разработчиков и опытных пользователей возрастает потребность в точном понимании причин истощения аппаратных ресурсов. Вопросы разработчиков, на которых основывается инструмент, указывают на неопределенность вокруг потребления памяти, например, отслеживание весов больших языковых моделей (LLM), кэша ключей и значений (KV cache), а также способов распределения нагрузки между оперативной памятью системы и видеопамятью.
Текущее состояние и доступность инструмента
В настоящее время инструмент находится на ранних стадиях разработки и поддерживает персональные компьютеры с видеокартами компаний AMD и NVIDIA. Разработчик инструмента призвал техническое сообщество внести свой вклад через платформу GitHub, отметив, что будущие планы включают расширение поддержки для таких устройств, как Surface Laptop Ultra и других компьютеров, оснащенных процессорами с архитектурой ARM (Windows on Arm).