$V2EX
Solana
Give SOL to Copy Address
使用 SOL 向 ravecn2014 打赏,数额会 100% 进入 ravecn2014 的钱包。
ravecn2014

ravecn2014

V2EX member #135204, joined on 2015-08-26 10:22:22 +08:00
Per ravecn2014's settings, the topics list is only visible after you sign in
Deals info, including closed deals, is not hidden
ravecn2014's recent replies
@BeforeTooLate 具体也不是很清楚,返修回来的,目前只有 1 台出现过花屏再次返修的,其余的都还在服役中
@lengmou 不是全部冒烟,但有冒烟、烧焦味的至少占了 3 分之一,不过售后确实比较及时,从上门收件到返修回来,一般 4-5 个工作日内解决,有几次是没零件更好了,直接让我申请了退款
这款 23 年帮公司采购的 30 台,当时采购是 1100/台~查了下维修记录,从 24 年 7 月开始至今,陆续黑屏,花屏,闪屏,冒烟了 26 台,还好售后返修及时~
已注册,用户名:mack
本地大模型部署器 vv0.1.6 · llama.cpp b8864
by llmbbs.ai · 本地 AI 技术社区

[1/6] Probing hardware...
GPU: NVIDIA GeForce RTX 3090 × 2 (SM86, 24576 MB VRAM each, 936 GB/s)
RAM: 251 GB DDR4
OS: linux amd64

[2/6] Selecting configuration...
Model: Qwen3.6-35B-A3B (moe, 35B total / 3B active)
Quant: ud-q5-k-xl (25.0 GB)
Mode: full_gpu
Accel: Flash Attention + MTP (native) + NVLink + SWA-Full (hybrid arch)

[3/6] Checking files...
Using bundled iso3 binary: llama-server-cuda
Binary: llama-server-cuda [cached]
Model: Qwen3.6-35B-A3B-UD-Q5_K_XL.gguf [cached]

[4/6] Preflight check...
✓ VRAM sufficient

[5/6] Warmup benchmark...
Probe 1: ctx=256K ... OOM
Probe 2: ctx=128K ... OOM
Probe 3: ctx=64K ... OOM
Probe 4: ctx=32K ... OOM
Probe 5: ctx=16K ... OOM
Probe 6: ctx=8K ... OOM
⚠️ Warmup failed: all ctx probes failed (tried down to 4K)
Using default parameters

[6/6] Starting server...
Waiting for llama-server to be ready (port 11434)...
⚠️ 显存不足,降低上下文至 128K 重试...
Waiting for llama-server to be ready (port 11434)...
⚠️ 显存不足,降低上下文至 64K 重试...
Waiting for llama-server to be ready (port 11434)...
Error: failed to start llama-server: 3 次启动均失败,建议选择更小的模型
Usage:
kaiwu run <model> [flags]

Flags:
--bench Run benchmark after starting
--ctx-size int 手动指定上下文大小( 0=自动)
--fast Skip warmup, use cached profile
-h, --help help for run
--llama-server string 使用自定义 llama-server 二进制(完整路径)
--reset 清除缓存,重新 warmup 探测最优参数
Apr 10
Replied to a topic by ocean112 推广 你的 SBTI 是什么?
你的主类型
LOVE-R (多情者)
Oct 15, 2025
Replied to a topic by tousol Faucet 发帖就打赏
老板大气
Sep 18, 2025
Replied to a topic by PilgrimSun Solana 关于我买和卖 v 币的说明
冲着打赏来的~
Aug 9, 2025
Replied to a topic by jackchiu iOS iOS18.5 到 iOS18.6 一直有个问题
遇到过的因为路由器上的 dns 导致,WiFi 链接频繁断开,你可以检查一下看看
来了~参与一下!
About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   5528 Online   Highest 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 12ms · UTC 01:49 · PVG 09:49 · LAX 18:49 · JFK 21:49
♥ Do have faith in what you're doing.