 |
bwnjnOEIV2EX 第 545030 号会员，加入于 2021-05-11 13:45:47 +08:00今日活跃度排名 18066 |
bwnjnOEI 最近回复了
2 天前 回复了 zcion 创建的主题 › C++ › [求助] Linux 有什么好的引入 c++ 第三方库的方案 |
我用的 conan
4 天前 回复了 wenerme 创建的主题 › 程序员 › LLAMA CPP 比 Ollama 快得多 |
我也用的你这一套 gpt-oss-120b 4090d 能到 30 多 tokens/s
5 天前 回复了 crocoBaby 创建的主题 › Local LLM › 折腾了一晚上大模型，索然无味 |
@crocoBaby 嗯显卡缺失丐，如果不像投资买显卡真的想练手租个 gpu 云现在 4090 很便宜的
5 天前 回复了 crocoBaby 创建的主题 › Local LLM › 折腾了一晚上大模型，索然无味 |
@HojiOShi 那金色小盒子油管好几个博主都测完了：有点拉而且发热严重。
5 天前 回复了 crocoBaby 创建的主题 › Local LLM › 折腾了一晚上大模型，索然无味 |
建议不要用 LM STUDIO 或 OLLAMA 这些玩意，最起码会用 llama.cpp （虽然这俩都是基于 llama.cpp ），生产级部署都是 vllm 和 sglang 或自己写 cuda 。上 huggingface 下个 gpt-oss-20b 能凑合用，qwen-coder-7b 能代码补全，还有 DeepSeek-OCR 啥的能玩的挺多的，甚至内存 64g+你都能跑 gpt-oss-120b 但可能只有几 tokens/s 。
5 天前 回复了 qm 创建的主题 › 程序员 › AI Agent 是不是新瓶装旧酒的一个概念 |
上面那个不叫事件驱动吗？现在的 agent 固定的 workflow 模式比较成熟了没什么难度。你说的后者属于 orchestrator 模式本质也算 workflow 但是 rl 训练可以规划推理检索，比较成熟的应用的是 deepresearch 。以上都是需要你主动提问，目前自主的 agent ，比如实时运行的个人助力，应该还不存在。
6 天前 回复了 elffkdx 创建的主题 › 互联网 › 推送不只是监听，心里想什么居然也能推送，不得不感叹啊 |
学过矩阵吧？没忘矩阵的秩吧？行是用户列是特征，这个矩阵的秩比起行和列是极低。我们生活在这个矩阵中，也就是说算法可能定义了你的行为
9 天前 回复了 Wcowin 创建的主题 › 分享创造 › OneClip——Mac 粘贴板应用｜进入稳定版，欢迎体验！ |
这玩意要是能监听输入并在粘贴板里选择补全的内容 可就厉害了
9 天前 回复了 yifangtongxing28 创建的主题 › 职场话题 › 看到大模型编程进步这么快，各位感觉之后的程序员就业市场怎么变化呢 |
大模型算法工程师还没饱和，目前还是供小于求，而且你让 agent 浮现论文还是不行，但是再过 2-5 年就不好说了。最后只有天赋型的 researcher 才能存活就是那种 4 年 phd 毕业手握至少两篇影响力的论文
Select Language