页 (22): 1 2 3 4 5 ... 22 下一页 » 跳转到:

搜索结果
Post			作者	版块	回复数	快速查看	Posted [升序]
		主题： NVIDIA L20 跑完 llama.cpp 之后，vLLM 启动失败 帖子： RE: NVIDIA L20 跑完 llama.cpp 之后，vLLM 启动失败 我发现有时跑多次 vLLM/SGLang 也会这样，不只是 llama.cpp 会导致这个问题。	vimacs	自由讨论区	1	148	05-15-2026, 11:11 AM
		主题： NVIDIA L20 跑完 llama.cpp 之后，vLLM 启动失败 帖子： NVIDIA L20 跑完 llama.cpp 之后，vLLM 启动失败 昨晚我试着在晚上 8 点之后，在服务器上跑另一个大模型。之前是用 vLLM 跑 Qwen3 Coder Next, 之后用 llama.cpp 跑 Step 3.5 Flash. 但是第二天早上再重新启动 vLLM 的时候，vLLM 卡在 "vLLM is using nccl==2.27.7" 的地方了。我试过用 nvidia-smi --gpu-reset 重启 GPU, 也没用。最终只能重启...	vimacs	自由讨论区	1	148	04-08-2026, 11:56 AM
		主题： AMD RX 6800XT 跑 LLM 测试 帖子： AMD RX 6800XT 跑 LLM 测试 前几天入了张 AMD RX 6800XT 显卡，用来跑 LLM 推理。这张卡有 16G 显存，价钱 2000 块左右，性价比还可以。我手上还有一张 AMD Instinct MI50 32G, 是之前还便宜的时候入的，现在 32G 卡的价钱也到 2000 多了，感觉不太值了，加上我想测试一下新架构，所以没想再买一块。 用 llama.cpp 的 llama-bench 测试 Qwen3 4B，6...	vimacs	硬件设备讨论区	0	167	04-05-2026, 09:46 AM
		主题： 升级了用了多年的VPS，还省钱了 帖子： 升级了用了多年的VPS，还省钱了 很多年前在Hetzner上买了个VPS，最近想着改个配置以节省成本，然后点到Rescale那里，发现我可以切换到一个CPU核数、内存、硬盘大小的方案，还比我在用的便宜，就切到那个方案。 重新启动之后，发现CPU由之前的Zen2处理器升级到了Zen4，就是说还升级了。 也就是说服务提供商会一直让用户保持使用原有方案，但是随着服务商更新硬件，原有方案可能不会再出售。但是用户可以更新到新的方案，可能...	vimacs	自由讨论区	0	139	03-18-2026, 04:38 PM
		主题： 入手一个红米 Note 9 Pro 5G 帖子： RE: 入手一个红米 Note 9 Pro 5G 前几天升级了LineageOS到LOS 23，好像有bug，想换 /e/ OS 试试。考虑到刷机要求机器预装 Android 12，我下了个 MIUI 的 ROM 包用 fastboot 刷回原厂系统，然后装 /e/ OS. 最开始我是想在 TWRP 里面刷 MIUI 的 recovery 包的，总是失败，所以最后不得不用 fastboot 包，实际上 fastboot 包里面就是各个分区的...	vimacs	硬件设备讨论区	5	4,656	02-27-2026, 09:56 AM
		主题： 解决OpenCode在内网启动速度慢的问题 帖子： 解决OpenCode在内网启动速度慢的问题 最近我们单位有些同事开始尝试用LLM辅助编程，选用了比较火的OpenCode，我安装的是OpenCode GitHub提供的deb包。但是在内网启动OpenCode速度很慢，要等一分多钟才起来。 开始我以为是因为它要访问 models.dev 找模型，在 /etc/hosts 里面把 models.dev 解析到 0.0.0.0，但是还是很慢。 后来我看OpenCode的日志，发现它启动的时候...	vimacs	网络技术与信息安全讨论区	0	385	02-10-2026, 11:52 AM
		主题： 用 GNU time 查看一个程序的资源占用 帖子： 用 GNU time 查看一个程序的资源占用 https://www.gnu.org/software/time/ shell 通常会内建一个 time 命令，bash 里面 time 是 shell 关键字，它只会显示程序运行的时间。 GNU time 除了显示程序的运行时间，还可以用它的 "-v" 选项显示 CPU 和内存的占用。	vimacs	GNU/Linux 讨论区	0	346	10-04-2025, 05:59 PM
		主题： How To AI (Almost) Anything 课程 帖子： How To AI (Almost) Anything 课程 https://mit-mi.github.io/how2ai-course/spring2025/ B站看到了这个视频，找到了课程的首页，暂时还没细看这个课程是讲什么的。	vimacs	阅读专区	0	494	09-07-2025, 04:13 PM
		主题： 入手小主机：零刻SER9 Pro H 255 帖子： RE: 入手小主机：零刻SER9 Pro H 255 用 llama.cpp Vulkan 后端，Qwen3 4B生成速度20 token/s, GPT-OSS 20B生成速度16 token/s.	vimacs	硬件设备讨论区	1	457	09-02-2025, 10:24 AM
		主题： 入手小主机：零刻SER9 Pro H 255 帖子： 入手小主机：零刻SER9 Pro H 255 刚刚到手，用手估计重量，机器重量和电源适配器差不多重，加起来还有一点点重量。体积的确不大。送一张系统盘，不过我用不上。 外设有几个USB接口，接键盘和鼠标足够了，显示接口有HDMI+DP，接家里的老显示器也可以。 接下来这个周末可以测一下，主要看AI性能如何。这个机器不带NPU，但是 llama.cpp 估计也不支持 NPU，所以只看 CPU+GPU 就行。	vimacs	硬件设备讨论区	1	457	08-29-2025, 11:02 AM
		主题： 测试了一下 llama.cpp 跑 Qwen 3 128K 上下文 帖子： RE: 测试了一下 llama.cpp 跑 Qwen 3 128K 上下文 改用CUDA版的llama.cpp, K,V 用不同类型也没发现明显的推理速度下降。	vimacs	自由讨论区	1	654	07-28-2025, 06:28 PM
		主题： Motorola moto g34 手机体验 帖子： Motorola moto g34 手机体验 最近我在 LineageOS 官网发现了 moto g34 这台手机，2023年底出的，支持最新的 LineageOS. 以前我用过 XT1079, 觉得 Motorola 家的机器解锁很方便，所以我打算买一台 moto g34 试试。 我从某电商入的是  XT2363-4, 价格还不错。机器有 3.5mm 耳机接口，能用 TF 卡（和一个 SIM 卡共用卡槽），现在有这些特性的机器已经很少...	vimacs	硬件设备讨论区	0	357	07-23-2025, 10:04 AM
		主题： 测试了一下 llama.cpp 跑 Qwen 3 128K 上下文 帖子： 测试了一下 llama.cpp 跑 Qwen 3 128K 上下文 我用的是 llama.cpp b5815 Ubuntu Vulkan 预编译包，之前粗略地测试过，比 CUDA 版慢一点，但还能用。最近想用 LLM 帮我读一点长代码，有时 32K 上下文不够用，所以就想测试一下 128K 上下文的模型。我用的是 unsloth 量化的 Qwen 3 8B 模型，unsloth 他们专门针对 128K 上下文做了量化，精度优于用 32K 上下文的模型开 128K ...	vimacs	自由讨论区	1	654	07-18-2025, 06:30 PM
		主题： [申请激活] 用户xxx申请激活帐号 帖子： [申请激活] 用户xxx申请激活帐号 您好！ 我是用户 **xxx**，账号：**[你的账号名称/ID]**。 我希望申请激活我的帐号账号。由于[简要说明未激活原因，例如：刚注册、忘记密码导致无法登录，之前遇到技术问题等]，我的帐号尚未激活。 我已经按照系统提示[如果您按照提示操作，可以加上此句，例如：按照系统提示进行验证码输入、下载激活码等]，但仍然无法成功激活。 ** 请详细描述您遇到的问题，例如： ...	vimacs	待激活用户发文专区	0	456	07-18-2025, 02:53 PM
		主题： Linux独有的共享内存API: memfd_create 帖子： Linux独有的共享内存API: memfd_create 今天查进程间通信使用共享内存的资料，在看 shm_open(3) 的时候看到 SEE ALSO 里面的 memfd_create(2)，发现 Linux 提供了一个独有的共享内存功能。 memfd_create 是 kdbus 的作者引入内核的，作者也提到过，这个功能完全可以用已有的共享文件 API 实现。[1] 但是 memfd_create 不需要在 /dev/shm 创建文件，进程结束...	vimacs	程序设计讨论区	0	608	05-06-2025, 09:15 PM
		主题： 用GDB捕获Ada程序的异常 帖子： RE: 用GDB捕获Ada程序的异常 最近开始用Ada实现我自己的项目中的某个模块。我的项目是C++,Python(使用pybind和C++交互)混编，加入Ada之后，Ada代码产生的异常到Python那边就现实不出异常信息了。所以我现在的做法是在Ada代码里面先处理一次异常，把异常信息打印出来。	vimacs	程序设计讨论区	1	1,247	03-25-2025, 05:57 PM
		主题： autotools大坑一则 帖子： autotools大坑一则 把mpfr源码扔到我的git版本库里面，checkout到一个带mpfr源码的版本之后，构建mpfr失败。 原因是git checkout之后，所有被更新的文件时间戳会变成checkout的时间，导致源码里面Makefile.in等用autotools生成出来的文件不比用于生成Makefile的那些m4文件更新，从而make的时候需要重新跑aclocal，系统没有源码制定的aclocal版本就构...	vimacs	程序设计讨论区	0	489	02-11-2025, 04:44 PM
		主题： 刚刚发现plocate是个SetGID的程序 帖子： 刚刚发现plocate是个SetGID的程序 在水木社区上看到有人讨论文件搜索工具。我的系统里面装了plocate，就上它的官方网站看了看，发现了这么一个描述： 引用: -- Like mlocate and slocate, the returned file set is user-dependent, ie. a user will only see a file if find(1) would list it (all ...	vimacs	网络技术与信息安全讨论区	0	627	12-02-2024, 02:42 PM
		主题： 正在排查一个服务器OpenSSH更新后登录失败的问题 帖子： 正在排查一个服务器OpenSSH更新后登录失败的问题 我的服务器OpenSSH从9.8p1更新到9.9p1. 我用Nitrokey Start存了我的ed25519认证私钥，用gpg-agent利用这个卡登录，错误信息是： sign_and_send_pubkey: signing failed for ED25519 "cardno:..." from agent: agent refused operation 登录其他服务器或者服务...	vimacs	GNU/Linux 讨论区	0	630	10-08-2024, 09:53 PM
		主题： 水木网友新开了个自由水木社区 帖子： 水木网友新开了个自由水木社区 网址 freesmth.net	vimacs	自由讨论区	0	1,009	08-22-2024, 02:33 PM

页 (22): 1 2 3 4 5 ... 22 下一页 » 跳转到: