在windows命令行中安装nvitop

pip install nvitop

然后就可以在命令行中实时刷新GPU占用情况。实测DeepSeek 14B的模型可以在8G显存情况下运行，参数不要设置过大就行。