bwnjnOEI

bwnjnOEI

V2EX 第 545030 号会员,加入于 2021-05-11 13:45:47 +08:00
今日活跃度排名 18066
根据 bwnjnOEI 的设置,主题列表被隐藏
二手交易 相关的信息,包括已关闭的交易,不会被隐藏
bwnjnOEI 最近回复了
2 天前
回复了 zcion 创建的主题 C++ [求助] Linux 有什么好的引入 c++ 第三方库的方案
我用的 conan
4 天前
回复了 wenerme 创建的主题 程序员 LLAMA CPP 比 Ollama 快得多
我也用的你这一套 gpt-oss-120b 4090d 能到 30 多 tokens/s
5 天前
回复了 crocoBaby 创建的主题 Local LLM 折腾了一晚上大模型,索然无味
@crocoBaby 嗯显卡缺失丐,如果不像投资买显卡真的想练手租个 gpu 云现在 4090 很便宜的
5 天前
回复了 crocoBaby 创建的主题 Local LLM 折腾了一晚上大模型,索然无味
@HojiOShi 那金色小盒子油管好几个博主都测完了:有点拉而且发热严重。
5 天前
回复了 crocoBaby 创建的主题 Local LLM 折腾了一晚上大模型,索然无味
建议不要用 LM STUDIO 或 OLLAMA 这些玩意,最起码会用 llama.cpp (虽然这俩都是基于 llama.cpp ),生产级部署都是 vllm 和 sglang 或自己写 cuda 。上 huggingface 下个 gpt-oss-20b 能凑合用,qwen-coder-7b 能代码补全,还有 DeepSeek-OCR 啥的能玩的挺多的,甚至内存 64g+你都能跑 gpt-oss-120b 但可能只有几 tokens/s 。
5 天前
回复了 qm 创建的主题 程序员 AI Agent 是不是新瓶装旧酒的一个概念
上面那个不叫事件驱动吗?现在的 agent 固定的 workflow 模式比较成熟了没什么难度。你说的后者属于 orchestrator 模式本质也算 workflow 但是 rl 训练可以规划推理检索,比较成熟的应用的是 deepresearch 。以上都是需要你主动提问,目前自主的 agent ,比如实时运行的个人助力,应该还不存在。
学过矩阵吧?没忘矩阵的秩吧?行是用户列是特征,这个矩阵的秩比起行和列是极低。我们生活在这个矩阵中,也就是说算法可能定义了你的行为
这玩意要是能监听输入并在粘贴板里选择补全的内容 可就厉害了
大模型算法工程师还没饱和,目前还是供小于求,而且你让 agent 浮现论文还是不行,但是再过 2-5 年就不好说了。最后只有天赋型的 researcher 才能存活就是那种 4 年 phd 毕业手握至少两篇影响力的论文
关于   ·   帮助文档   ·   自助推广系统   ·   博客   ·   API   ·   FAQ   ·   Solana   ·   5181 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 11ms · UTC 08:01 · PVG 16:01 · LAX 00:01 · JFK 03:01
♥ Do have faith in what you're doing.