Hello Gpu

查看 gpu 内存使用情况

sudo apt install nvtop

然后执行nvtop即可, 可以与htop进行对比, 可以发现htop完全无法展示nvida gpu的显卡内存使用情况.

上面tab为htp, 下面为nvtop. 在执行chatglm-6b2模型的时候, 只要一咨询问题, nvida gpu就暴涨到100%.

https://github.com/Syllo/nvtop