快讯 23:01a16z:AI智能体将漏洞利用周期压缩至小时级,48国395家机构遭攻破21:17孩子的人生大事,你要怎样的AI?海亮科服把AI生涯规划带给更多家庭17:37三条AI技术路线终将合流?智象创始人梅涛提出智能体化的世界模型 全部快讯 →

每日快讯

大厂动态 · 融资事件 · 政策监管 · 前沿论文 · Agent 抓取 + 智能改写,每日 40+ 条

论文 今天 · 星期五 · 11-06 15:58 约 1 分钟读完

微软GitHub副总裁开源gputaskman,可逐进程监控GPU占用与LLM运行信息

摘要

微软与GitHub副总裁斯科特·汉塞尔曼发布开源工具gputaskman,可按进程显示GPU使用率、显存、温度、功耗、时钟频率、编解码活动及PCIe流量,并能识别本地大语言模型进程,展示模型、运行时、权重与量化方式等信息。

微软与GitHub副总裁斯科特·汉塞尔曼(Scott Hanselman)近日开源了一款名为gputaskman的GPU监控工具,目标直指Windows平台长期存在的一个盲区:用户能看到显卡整体负载,却难以判断具体是哪个程序在消耗资源。汉塞尔曼拥有30多年编程经验,曾在Intel、Nike、STEP Technology等公司任职,长期活跃于.NET、开源社区与AI开发工具领域。

现有方案的信息粒度有限。Windows任务管理器可以呈现GPU使用率与温度等总体指标,也能在“详细信息”页开启按进程查看显存,但无法解释各进程具体在做什么;英伟达的GPU活动监视器同样只列出正在占用显卡的程序。科技媒体NeoWin也指出了这一局限。gputaskman正是试图补上这块缺口。

从功能上看,该工具按进程展示GPU使用率、显存占用、温度、功耗、时钟频率、编码器与解码器活动以及PCIe流量等数据。对在本地运行大语言模型的用户,它还能识别LLM进程,并显示模型、运行时、模型权重、量化方式、层等信息。

这并非汉塞尔曼首次涉足系统级小工具。今年4月,他曾推出PeekDesktop,将macOS Sonoma的“点击壁纸显示桌面”功能移植到Windows 10和Windows 11。gputaskman延续了其面向开发者实际痛点的工具化思路,对需要排查GPU占用或调优本地推理环境的从业者具有一定参考价值。

GPU监控开源工具微软大语言模型
本文由新大陆基于公开信息编辑整理
213
收录 AI 工具
23
模型产品档案
60
企业落地案例
29
完整版提示词