AI 变化太快,概念层出不穷?会到哪里?
- prompt engineering
- context engineering
- harness engineering
- loop engineering
它们到底是什么,解决啥问题,它们之间又是啥关系
AI 变化太快,概念层出不穷?会到哪里?
它们到底是什么,解决啥问题,它们之间又是啥关系
1
colorjuice 6h 25m ago
每个当红的领域周围,总是围绕着厚厚概念制造产业。什么时候凉了可能就到终点了。
|
2
gibber 6h 17m ago
你把这些问题拿去问下 ai
|
3
sg8011 5h 22m ago
不是还有一句话,只要你学得慢,你就不用学
|
4
ndxxx 4h 57m ago via Android loop engineering 不是一个月前就火的吗?
还是那句老话「 AI 时代只要学的够慢,你就能少学很多有的没的可有可无的奇怪的知识」😁 |
5
poxiaohy 4h 53m ago
个人想法是未来 agent 大部分能力也会移植到模型上。只要模型足够强,提示词工程就是最直观的。现在的各种 harness 约束和引导都是阶段性的。
|
6
momo1999 4h 46m ago
个人觉得归根结底还是看模型能力。工具发展了这么多,你用笨模型还是笨。
|
7
Biem 4h 33m ago
最终还是会到 BCI engineering ,本质上就是个概率权重向量数据库,是个函数,没有 Input 就没有后面的事,都是在不断希望对齐最开始的 Input ,所以其实都是意图对齐工程,但道可道也,非恒道也,名可名也,非恒名也,你的意图在表达出来的时候必然是有损的,链路越长失真越多,除非热力学第二定律不存在了,最简单的,直接插电极到脑子里,潜意识决定了意识,把你的潜意识信息收集到,然后意识对齐一下收集到东西看看是不是符合你的意图。再进一步,直接把脑子和 GPU 融合吧。
|
8
cherrysalo 3h 54m ago
@Biem 脑机接口也在同步发展,说不定还真行。
|
9
maymay5 2h 55m ago
|
10
Ironpan 2h 55m ago
context engineering, harness engineering, loop engineering
感觉本质都是说的一个事情😂 |
11
levn 2h 44m ago
用户的价值就是为人工智能公司付费,为将来模型的训练提供数据,自己和世界一起被模型挖掘。这些 engineering 为这种挖掘提供必要的行动场所和机制。
|
12
maolon 2h 35m ago 这么多概念就是因现有的没法完整描述,以及有他的历史阶段性
prompt 试图解释的是如何有效的使用提示词驱动大模型,对应的是 2022-2023 最早期阶段 context 只有几 k,对话只能对个几段就必须截断的阶段,这个阶段能完整的跑个一两个 round 就不错了,所以才强调怎么在一个 round 里高效的输出结果。 context 对应的是第二阶段的 2024-2025,这个阶段里模型的上下文空间快速增长,让多轮的长任务成为可能,然后一个现象就被观察到了,就是 context rot, 上下文腐化,一个上下文里堆了太多的东西会影响 agent 表现,所以提出了 context engineering 用于解释如何合理的管理你的上下文。 harness 对应的第三阶段 2025 年末到 2026 年初,此时 agent 已经可以执行非常长的任务了,问题变成了任务漂移,此时 harness 解决的如何使用外部约束硬性约束 agent ,减少他的上下文漂移。 loop 这个我觉得才是有点没活硬整的部分,因为我认为 loop 本身就应该归入 harness 的一部分,虽然现在 agent 本质上就是一个 loop ,以及如果你学过控制原理就会发现不管是 harness 还是 loop ,最终的结构都是一个控制反馈回环。 |
13
xxyzf 2h 17m ago
本质上不都是提示词,就好像前端发明各种轮子,最终都是 JS ,茴字的 N 种写法,食之无味弃之可惜。
|
14
charlie21 1h 21m ago via Android
下一个就是 while loop engineering 了
|
15
hugozach 40 mins ago
本质还是对话框聊天 和大模型对话 玩出花的圈钱 感觉发明了一个词就高级了一样
|
16
BigShot404 34 mins ago
最终的讨论是:如何在不干掉人类的前提下,获取现实里的最优解。
|