跳转到正文
GETAI.APP
开源项目GitHubGETAI.APP查看原文

GPU Task Manager 更新显卡与昇腾监测

开源工具 GPU Task Manager 于 11 月 11 日发布 0.4.0,新增 Linux 上的华为昇腾 310P NPU 后端,并补充 Intel 整卡负载、视频负载和功耗读数,其中部分指标需要相应权限。

GPU Task Manager 官方展示的显存和进程监测界面

开源工具 GPU Task Manager 于 11 月 11 日发布 0.4.0,新增 Linux 上的华为昇腾 310P NPU 后端,并补充 Intel 整卡负载、视频负载和功耗读数,其中部分指标需要相应权限。

新版还修正了 vLLM 拓扑参数的处理,减少本地服务发现时错误跳过 API 的情况。工具旨在把设备内存占用与进程、模型文件、KV 缓存等信息联系起来。

维护者强调,部分设备与进程计数是实测读数,模型识别和缓冲区拆分则可能是估算。看到运行库或文件映射,不能直接证明某个模型正在 GPU 上执行。

来源:GitHub · GPU Task Manager 更新显卡与昇腾监测。

图片来源:shanselman / GPU Task Manager。

登录

每一次探索,都更进一步。

从这里,开启新的灵感。

还没有账号?