Der Softwareingenieur bei Microsoft, Scott Hanselman, hat ein neues kostenloses Tool namens gputaskman veröffentlicht, das entwickelt wurde, um detaillierte und tiefgreifende Einblicke in die Art und Weise zu geben, wie Anwendungen und lokale Modelle den Grafikspeicher (GPU) auf PCs mit Windows 11 nutzen, und dabei die Möglichkeiten des herkömmlichen Task-Managers übertrifft.
Obwohl der Standard-Task-Manager in Windows die Auslastung der GPU und des Speichers auf Ebene einzelner Prozesse anzeigt, kann er keine präzisen Details über die Art der tatsächlichen Nutzung liefern. Das Tool gputaskman schließt diese Lücke, indem es aufzeigt, ob der Grafikspeicher von einem lokalen KI-Modell, einem Webbrowser oder dem Desktop-Compositor belegt wird, und zusätzlich die Temperatur der GPU anzeigt.
Warum ist diese Nachricht wichtig?
Da Technologieunternehmen wie Microsoft auf hybride KI-Initiativen setzen, die die lokale Verarbeitung auf Geräten mit Cloud-Diensten kombinieren, wächst bei Entwicklern und fortgeschrittenen Nutzern der Bedarf, die Gründe für die Erschöpfung von Hardwareressourcen genau zu verstehen. Die Fragen der Entwickler, auf denen das Tool basiert, deuten auf die Unklarheit bezüglich des Speicherverbrauchs hin, wie etwa die Nachverfolgung der Gewichte großer Sprachmodelle (LLMs), des Key-Value-Caches (KV-Cache) und der Lastverteilung zwischen dem Arbeitsspeicher des Systems und dem Grafikspeicher.
Aktueller Status und Verfügbarkeit des Tools
Das Tool befindet sich derzeit in einem frühen Entwicklungsstadium und unterstützt PCs mit Grafikkarten von AMD und NVIDIA. Der Entwickler des Tools hat die technische Community dazu aufgerufen, über die Plattform GitHub beizutragen, und darauf hingewiesen, dass zukünftige Pläne die Erweiterung der Unterstützung auf Geräte wie den Surface Laptop Ultra und andere Computer mit ARM-basierter Architektur (Windows on Arm) umfassen.