tool

1.简介

nvidia-smi是常用的GPU命令


2.nvidia-smi输出解析


3.示例

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
(sbert) root@3090_0002:/data10/sqy/spikeBert_Sqy# nvidia-smi
Sun Dec  3 19:41:18 2023       
+-----------------------------------------------------------------------------+
| NVIDIA-SMI 470.141.03   Driver Version: 470.141.03   CUDA Version: 11.4     |
|-------------------------------+----------------------+----------------------+
| GPU  Name        Persistence-M| Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
|                               |                      |               MIG M. |
|===============================+======================+======================|
|   0  NVIDIA GeForce ...  On   | 00000000:35:00.0 Off |                  N/A |
| 30%   38C    P8    30W / 350W |      1MiB / 24268MiB |      0%      Default |
|                               |                      |                  N/A |
+-------------------------------+----------------------+----------------------+
|   1  NVIDIA GeForce ...  On   | 00000000:36:00.0 Off |                  N/A |
| 30%   40C    P8    25W / 350W |      1MiB / 24268MiB |      0%      Default |
|                               |                      |                  N/A |
+-------------------------------+----------------------+----------------------+
|   2  NVIDIA GeForce ...  On   | 00000000:39:00.0 Off |                  N/A |
| 30%   39C    P8    22W / 350W |      1MiB / 24268MiB |      0%      Default |
|                               |                      |                  N/A |
+-------------------------------+----------------------+----------------------+
|   3  NVIDIA GeForce ...  On   | 00000000:3D:00.0 Off |                  N/A |
| 30%   38C    P8    25W / 350W |      1MiB / 24268MiB |      0%      Default |
|                               |                      |                  N/A |
+-------------------------------+----------------------+----------------------+
|   4  NVIDIA GeForce ...  On   | 00000000:9C:00.0 Off |                  N/A |
| 30%   37C    P8    25W / 350W |      1MiB / 24268MiB |      0%      Default |
|                               |                      |                  N/A |
+-------------------------------+----------------------+----------------------+
|   5  NVIDIA GeForce ...  On   | 00000000:9D:00.0 Off |                  N/A |
| 32%   41C    P8    30W / 350W |      1MiB / 24268MiB |      0%      Default |
|                               |                      |                  N/A |
+-------------------------------+----------------------+----------------------+
|   6  NVIDIA GeForce ...  On   | 00000000:A0:00.0 Off |                  N/A |
| 34%   41C    P8    27W / 350W |      1MiB / 24268MiB |      0%      Default |
|                               |                      |                  N/A |
+-------------------------------+----------------------+----------------------+
|   7  NVIDIA GeForce ...  On   | 00000000:A4:00.0 Off |                  N/A |
| 33%   41C    P8    31W / 350W |      1MiB / 24268MiB |      0%      Default |
|                               |                      |                  N/A |
+-------------------------------+----------------------+----------------------+
                                                                               
+-----------------------------------------------------------------------------+
| Processes:                                                                  |
|  GPU   GI   CI        PID   Type   Process name                  GPU Memory |
|        ID   ID                                                   Usage      |
|=============================================================================|
|  No running processes found                                                 |
+-----------------------------------------------------------------------------+

NVIDIA-SMI版本和CUDA版本：

  • NVIDIA-SMI 470.141.03：这是NVIDIA系统管理接口（System Management Interface）的版本号。
  • Driver Version: 470.141.03：这是当前安装的NVIDIA GPU驱动程序的版本。
  • CUDA Version: 11.4：这是当前安装的CUDA版本。CUDA是NVIDIA的并行计算平台和编程模型。

GPU列表：

  • 您的系统有8个NVIDIA GeForce GPU，每个GPU的具体信息如下：
    • Persistence-M：显示GPU的持久模式状态。当开启时，持久模式会保持GPU初始化状态，有助于减少启动延迟。
    • Bus-Id：GPU在PCI总线上的地址。
    • Disp.A：显示活动状态。On表示有显示输出，Off表示没有。
    • Volatile Uncorr. ECC：显示易失性未更正错误计数（适用于支持ECC的GPU）。

每个GPU的使用情况：

  • Fan：风扇速度百分比。
  • Temp：GPU的当前温度（摄氏度）。
  • Perf：性能状态，通常为 P0（最高性能）到 P12（最低性能）之间的某个值。P8通常表示空闲状态。
  • Pwr:Usage/Cap：当前功率使用量和最大功率容量（瓦特）。
  • Memory-Usage：GPU内存的使用情况，显示当前使用量和总容量（MiB）。
  • GPU-Util：GPU使用率百分比。
  • Compute M.：计算模式，通常为 Default 或 Exclusive。

进程信息：

  • 此部分列出了当前在每个GPU上运行的进程。在输出中，没有进程在任何GPU上运行。