We hack, we code, we share.
Home
Members
Team
Help
Search
Home
Members
Help
Search
WeHack BBS
其他讨论
自由讨论区
1
2
3
4
下一页 »
NVIDIA L20 跑完 llama.cpp 之后,vLLM 启动失败
WeHack BBS
其他讨论
自由讨论区
1
2
3
4
下一页 »
NVIDIA L20 跑完 llama.cpp 之后,vLLM 启动失败
WeHack BBS
其他讨论
自由讨论区
1
2
3
4
下一页 »
NVIDIA L20 跑完 llama.cpp 之后,vLLM 启动失败
主题评价:
0 次(票) - 平均星级: 0
NVIDIA L20 跑完 llama.cpp 之后,vLLM 启动失败
vimacs
离线
版主
帖子:
436
主题:
250
加入时间:
Dec 2017
声望:
2
#1
04-08-2026, 11:56 AM
昨晚我试着在晚上 8 点之后,在服务器上跑另一个大模型。之前是用 vLLM 跑 Qwen3 Coder Next, 之后用 llama.cpp 跑 Step 3.5 Flash. 但是第二天早上再重新启动 vLLM 的时候,vLLM 卡在 "vLLM is using nccl==2.27.7" 的地方了。我试过用 nvidia-smi --gpu-reset 重启 GPU, 也没用。最终只能重启系统。
«
上一主题
|
下一主题
»
正在浏览该主题的用户: 1 个游客
查看可打印版本
订阅这个主题
论坛跳转:
PM
用户控制面板
查看在线用户
搜索
论坛首页
计算机技术
-- GNU/Linux 讨论区
-- 网络技术与信息安全讨论区
-- 程序设计讨论区
-- 逆向工程讨论区
-- 固件技术讨论区
-- 硬件设备讨论区
其他讨论
-- 阅读专区
-- 自由讨论区
论坛与站务公告
-- 论坛与站务公告区
平板模式
树状展开