V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
V2EX  ›  wises  ›  全部回复第 3 页 / 共 9 页
回复总数  180
1  2  3  4  5  6  7  8  9  
❮ ❯
@mzotw2babm 是的,我这是 2 台机器,并不是一台。 我自己这台 itx 小机箱/小主板,可以跑 q2, 我嫌弃精度不够,强行升级到 q3 了,内存估计爆了,准备等内存回来卖掉,上最少 96G 或者 128G 上线。
@mzotw2babm @cjkcjkcjk 我自己也有台 itx 机器,跑的东西更多, 仅仅是 48G 笔记本内存,甚至能跑 q3 精度

https://www.sunp.eu.org/i/RuA29s56.png
@mzotw2babm 你要多看看刚出来的 strata,16G + 大内存可以跑不少东西了。
@cjkcjkcjk 你要用 strata 这样的推理工具,比呆呆的用 ollma.cpp 这些更好点。我当前这个配置大概每秒最少达到 80tokens 稳定,某些情况下能达到 100 多 tokens,按照人的阅读速度每秒超过 60tokens,那就反应不过来了。

另外你要说清楚你有几个人并发, 这个很重要,直接关联到硬件的配置。

另外我让 claude 刚给你评估了下跑你这个精度需要硬件配置,供你参考, 我的是丐板,所以内存加不上去。

https://www.sunp.eu.org/i/QIv6EZyz.png
@cjkcjkcjk 少听这些人吹牛逼,我昨天刚给朋友装了台电脑,配置如下,目前花了大概 2 万多,根据这个配置你的五万足够了。

https://www.sunp.eu.org/i/mNBENIlK.png
@zhddd https://sunp.eu.org/t/1248858#reply1 你看我帖子,还有个账号没人认领,你拿去测试下。
10 月 17 日
回复了 Ma1agu 创建的主题 › Apple › 好哥哥们,俺能赚多少呀🤭
明天去香港买 18 promax 。
参考我的方法,部署在越南远程机器上。 目前使用了 100 美金套餐,平稳 3 天了。
10 月 15 日
回复了 v2er119 创建的主题 › 程序员 › DeepSeek 服务器暂时不可用
@twofox 你看我帖子,赠送的 codex 还有个账号你可以临时救急
10 月 15 日
回复了 wises 创建的主题 › 程序员 › 现在我是左青龙,右白虎。
@passive 目前是 q3_s,65K 上下文, 等后面内存降价了,加到 128G 就好了。而且 strata 只够单人单 session ,这个可以通过 sub2api 分发出去就解决了。
10 月 11 日
回复了 labay 创建的主题 › OpenAI › gpt 相比其他模型废话多好多,你们是怎么优化的
关闭推理过程,可能会好点, 但是并没有鸟用,agent 天生之间的差异无法用后天努力来弥合。 就像我废弃了 100 刀 codex,换成 opus5.5 就可以。
@WizardLeo 而且我觉得你就是个傻逼, 我们讨论实际存在的问题,你过来炫耀你的智商,还有你的见识的吗? 拉黑了。
@WizardLeo 一头狮子和一群猪能比吗? 你这种搞笑理论,正说明了乌合之众到处都有, 你搞一千万个赞/感谢,我都根本不关心,和我有关系吗?

说真的我本来懒得回复, 想想还是回复下,而且就此回复一下而已, 用过 claude 和 codex 和国产模型的人,都默默的赞成我的意见,就像我上网买东西,从来不评价,就算卖家给钱我也不评价一样。
@mogutouer 你倒是分析下如何一样? 其实这中间有个很重要的差异,就是我用的是越南人的 KYC (虽然没弹窗)。

很多人都确认了,claude 并不因为你使用什么语言来封你, 大概率是支付/滥用(也就是拼命的把额度用完)/ IP 这些是排在后面的。
@humbass 不要随便评价国家领导人,我觉得老习还可以,他的很多政策(打黑反腐,产业链掌握在自己手里)非常好。
现在因为紧缩,是为了之前的激进买单,没有他的紧缩政策,这几年不知道会爆成什么样。 自古以来借的债始终要还,不是你就是你的后代,他愿意把这个雷在他手里爆掉,承担了多少你们这样人的指责和污水?
1  2  3  4  5  6  7  8  9  
❮ ❯
About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   1917 Online   Highest 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 21ms · UTC 16:56 · PVG 00:56 · LAX 08:56 · JFK 11:56
♥ Do have faith in what you're doing.