开源工具 GPU Task Manager 于 11 月 11 日发布 0.4.0,新增 Linux 上的华为昇腾 310P NPU 后端,并补充 Intel 整卡负载、视频负载和功耗读数,其中部分指标需要相应权限。
新版还修正了 vLLM 拓扑参数的处理,减少本地服务发现时错误跳过 API 的情况。工具旨在把设备内存占用与进程、模型文件、KV 缓存等信息联系起来。
维护者强调,部分设备与进程计数是实测读数,模型识别和缓冲区拆分则可能是估算。看到运行库或文件映射,不能直接证明某个模型正在 GPU 上执行。
