在windows命令行中安装nvitop
pip install nvitop然后就可以在命令行中实时刷新GPU占用情况。实测DeepSeek 14B的模型可以在8G显存情况下运行，参数不要设置过大就行。
实时查看大模型的GPU占用情况
发表评论
月度归档：2025年01月
HackTheBox Flight Walkthrough
HackTheBox Intelligence Walkthrough
HackTheBox Scrambled Walkthrough
HackTheBox Return Walkthrough
HackTheBox Escape Walkthrough
密码保护：HackTheBox Backfire Walkthrough
要查看留言请输入您的密码。