 |
1
sentinelK 1h 0m ago
“回本周期看起来还行”这个是如何得出的如此结论？
|
 |
2
musi 58 mins ago
"回本周期看起来还行"
如果真的还行的话模型厂商为什么不直接扫货然后对外提供服务？ |
 |
3
sillydaddy OP @sentinelK 简单估算了下跑满的 token 产出量： https://sunp.eu.org/t/1232688#r_17950784
|
 |
4
bunai 57 mins ago
买 token 更换算吧
|
 |
5
catning 56 mins ago
纯讨论啊，我觉得 AI 市场已经很泡沫了（单纯投资方面），靠倒腾硬件很容易跌个跟头。再说，怎么定义你说的“用完的硬件还可以二次出售”，你不用了，对别人还有用吗，硬件也会推陈出新，所以某一款硬件一直保持在高价位是不可能的。
虽然 deepseek 涨价了，一定使用量的情况下，还是比你自己维护要省心和便宜，我实在看不出来投资的必要，要不然我早入了。 |
 |
6
1258 56 mins ago
如无刚需，感觉还是不要创造需求吧。
|
|
7
sentinelK 55 mins ago
@sillydaddy 这个预估完全失真。
实际使用中，一定是在 harness 场景下，harness 有巨量的系统提示词，即便是计算上超高的缓存命中，prefill 和 decode 的运算占比最终接近 7:3 。如果你计算上 prefill 的速度，你就会发现大概是 15~20 年回本。 |
 |
8
shintendo 54 mins ago
纯经济考虑肯定是不划算的，自建基本是隐私因素
|
|
10
sentinelK 50 mins ago
@privil 但是楼主押宝的是 GB10 ，他的“显存”带宽很小。如果楼主买的是 rtx pro 6000 maxQ ，4 卡集群，我都认为合理。
GB10 就注定了大模型能跑，跑不快，小模型跑不过显卡。 |
 |
11
lscho 48 mins ago
AI 泡沫不炸之前，肯定划算。。。因为硬件保值。不考虑硬件的话，绝对不划算
|
|
12
bunai 45 mins ago
op 买四台 4090 都比这个跑的快
|
|
14
sentinelK 41 mins ago
|
|
15
sillydaddy OP @sentinelK #7 就算按 7:3 ，也不是 15~20 年啊，最多翻个 3 倍，算 10 年。
主要是这种估算变数比较大： 那里面估算的时候，取的是平均单次 API 调用花费¥0.004 ，这本身就有些低估。而且现在涨价了，估计单价这项得翻个几倍。 再加上多路并发，也可以有个几倍。 |
 |
16
sampdoria 21 mins ago
|
 |
17
zhengfan2016 13 mins ago
上游租用 gpu 部署模型也没大幅涨价吧，买全款和那些 21 年上车房子的有啥区别
 |
 |
18
aimuz 11 mins ago
DGX Spark 硬件只能跑量化模型吧？
|
1
Select Language