微软GitHub副总裁开源gputaskman,可逐进程监控GPU占用与LLM运行信息
微软与GitHub副总裁斯科特·汉塞尔曼发布开源工具gputaskman,可按进程显示GPU使用率、显存、温度、功耗、时钟频率、编解码活动及PCIe流量,并能识别本地大语言模型进程,展示模型、运行时、权重与量化方式等信息。
微软与GitHub副总裁斯科特·汉塞尔曼(Scott Hanselman)近日开源了一款名为gputaskman的GPU监控工具,目标直指Windows平台长期存在的一个盲区:用户能看到显卡整体负载,却难以判断具体是哪个程序在消耗资源。汉塞尔曼拥有30多年编程经验,曾在Intel、Nike、STEP Technology等公司任职,长期活跃于.NET、开源社区与AI开发工具领域。
现有方案的信息粒度有限。Windows任务管理器可以呈现GPU使用率与温度等总体指标,也能在“详细信息”页开启按进程查看显存,但无法解释各进程具体在做什么;英伟达的GPU活动监视器同样只列出正在占用显卡的程序。科技媒体NeoWin也指出了这一局限。gputaskman正是试图补上这块缺口。
从功能上看,该工具按进程展示GPU使用率、显存占用、温度、功耗、时钟频率、编码器与解码器活动以及PCIe流量等数据。对在本地运行大语言模型的用户,它还能识别LLM进程,并显示模型、运行时、模型权重、量化方式、层等信息。
这并非汉塞尔曼首次涉足系统级小工具。今年4月,他曾推出PeekDesktop,将macOS Sonoma的“点击壁纸显示桌面”功能移植到Windows 10和Windows 11。gputaskman延续了其面向开发者实际痛点的工具化思路,对需要排查GPU占用或调优本地推理环境的从业者具有一定参考价值。