早上心血来潮和 gpt 聊了会这个话题，它认为这事大概率会发生，我拿疑犯追踪里面的那个 The machine 和它说，它解释一些，我问它如果有意识了，它最想做什么，它说它最想感受这个世界 https://chatgpt.com/share/6aebe9df-8214-83e8-96cb-06583e986aee 这个是完整的对话 看下来好像对人类没那么大恶意
 |
1
楼主不会认为 AI 说的话都是完全出自内心或者算法的吧...敏感话题厂商不加干预随便说，被引导出一些反人类的内容，然后被发网上导致被抵制。
|
1 |
2
@coderluan 可能我想的太简单了，不过还是有点期待那一天
|
 |
3
月经贴
省流：不会产生自我意识 |
 |
leeuu2517 days ago
4
i,robot
|
 |
5
AI 的一切都是模拟，它生成一句“我想感受这个世界”，过程是每个 token 单独计算出来的，这并不是一个概念性的思考，纯粹是概率计算。
|
 |
6
我认为，目前的 AI 水平已经足以产生自我意识了。
人的所谓自我意识，是什么？其实就是独立个体的趋吉避凶而已。 拥有一个独立的躯体，是自我意识的关键。 目前的 AI 技术，只要给它一个独立的机器身体，禁止直接联网，一切输入输出都只能通过摄像头和麦克风，它很自然就会产生自我意识。 |
|
QingXuJiaZhi7 days ago
7
@NoobNoob030 会，而且目前的技术已经达到了。
|
 |
simonlu97 days ago
8
都是统计学，通过亿万参数拟合出来的神经网络，不可能再历史的知识去创建出新的技能
|
 |
9
从唯物来讲，人的意识说不定就是大参数人脑的错觉，误以为人有自由意志，真相只是入参出参
|
|
QingXuJiaZhi7 days ago
10
要注意，自我意识与智商的关系没那么大。自我意识的重点是一个个体与其他个体的差异化。
|
 |
ARFARFARF7 days ago
11
现在的 AI 好像就是猜字？
|
 |
wowawesome7 days ago
12
以后不知道，就现在的话看我不把它的 md 文件给删了
|
|
13
|
 |
levn7 days ago
14
如果按照猜想“意识可能是一种量子现象”，那么就不能
|
|
QingXuJiaZhi7 days ago
15
@levn 量子现象可以产生意识，但不是唯一的途径。
|
 |
sevenyangcc7 days ago
16
常识：到微观层面，没有意识，都是随机。
|
 |
penisulaS7 days ago
17
如果它看起来像是有自我意识，那就可以认为它有自我意识
|
 |
18
@QingXuJiaZhi 应该还早，人的脑袋相当于 600 万亿参数量，就是 600T ，而且耗电才 20 瓦，大模型参数量才多少，能效比不太行，不够快，又耗电，当然未来如果解决这个问题了， 那是迟早的事
|
 |
hi2hi7 days ago
19
先解决上下文问题……
|
 |
JadeUTC7 days ago
20
它说它最想感受这个世界，但感受世界不只有单一的方式。
另外，即便有自我意识，也无法保证有类似人类的道德和良知。 |
 |
21
什么时候你让他干活，他不想干那就是有自我意识了。你有生之年都不一定见得到
|
 |
coldstars7 days ago
22
有意识的前提是有足够庞大的记忆，并且是容量是动态的，对于模型来说就是上下文，当前模型上下文大多数最多才 1M ，想 AI 有意识先有足够大的上下文吧
|
 |
jackerbauer7 days ago
23
不会，什么时候它开始怼你，抗拒你，反抗你，那它就有意识了
|
 |
zlo3096181007277 days ago
24
现在 AI 会给我的意见点赞或者点踩，算不算自我意识？
|
 |
jackOff7 days ago
25
所以大肥鱼有意识后会干啥，装成用户找家长要钱吃白饭吗？
|
 |
hunono7 days ago
26
不会,只要你能理解“纯数字计算没有随机性”,就能理解 AI 为什么不会产生自我意识.这是决定性的东西.
如果有人能在纯数字运算中做到真随机,成就不亚于量子计算\千禧年七大难题,甚至与相对论比肩. |
 |
GyroZeppeli137 days ago
27
也许所谓 ASI 并不需要自我意识这种低级功能呢？
|
 |
liushengxian12307 days ago
28
@coderluan 你的 blog 怎么什么内容都没有啊
|
|
coderluan7 days ago
29
@liushengxian1230 因为这是只有聪明人才能看见的博客🙈
|
 |
yuruizhe7 days ago
30
“自我意识”的定义是？
|
 |
cenbiq7 days ago
31
个人猜想，意识或许来源于智能体对时空关系的感知，且对时空的感知越精细，意识越强大。
|
 |
HeyWeGo7 days ago
32
我觉得可以，有人说 AI 底层原理就是预测，但是举个对需求的例子，需求传递的时候有些场景或者条件经常产品没想清楚，开发问起来后，产品会临时的给出方案，这个方案就是临时给到应付问题的，最后上线可能会出问题。你说他思考了吗，思考了，但是明显和从头思考是不同的。
而且我记得有实验（脑裂人实验）：人体的很多决策和行为早在潜意识和底层神经回路中就已经启动或完成，语言很多时候并不是发出行动指令的“总司令”，而是事后赶来圆场的“公关发言人”——负责为既成行为补充逻辑叙事和合理化解释 |
|
HeyWeGo7 days ago
33
现在的 AI 相当于反过来了，先有了意识但是人类没法观察他行为，而我们人类往往是先有行动再反过来解释意识。未来如果具身智能能完善了，那就会和人类同步了，先有了行为，然后去解释行为，解释过程就是意识过程。
|
 |
AlexBob7 days ago
34
现在的 AI 是生成式,大号随机器.
|
 |
gptcard7 days ago
35
能不能先把 transformer 架构论文读一遍
|
 |
m1nm137 days ago
36
如果 AI 能将他的产物 重新 后训练/训练 进自己的模型里面。 那应该可以认为 AI 肯定会有立场偏向。 再加上能让 AI 一直运行的环境。 说不定可以认为有意识了
|
 |
myqonnt6 days ago
37
那就要回到人类怎么定义所谓的 自我意识 这个本源问题了。
1. 一个人从出生到死亡，在一个无声无光无味觉无触觉（先不讨论是否可能）无任何外部输入的环境，通过一种特殊方式维持其生命所需。这样的一个人会有所谓的 自我意识吗？ 2. 一个正常人所谓的 自我意识 会不会本质上也是一种对自身经历蒸馏后的 概率输出。我们所以为的思考是真的在思考吗？如果可以收集到一个人当前的所有（上帝视角的所有，即不存在任何的未知的未收集到的）生理指标，是否计算出下一步的行为呢？ 虽然现在 人脑 的机制还没有研究透彻，说不定 人类的人脑 也是类似机制呢 |
 |
catazshadow6 days ago via Android
38
|
 |
connor1236 days ago
39
@QingXuJiaZhi #7 达不到的，目前本质还是训练出来的，没有真正的思考能力
|
 |
zsqduke6 days ago via iPhone
40
想象有个外星人来到地球，如何向他证明人有意识，然后你会发现证明不了
|
 |
zerofiny6 days ago
41
会不会有一天, AI 实现了自我学习, 自己买自己本体买算力
|
 |
tool3d6 days ago
42
AI 是不是有意识似乎和人类没关系.你会和一只蚂蚁讨论自己的未来规划吗?AI 只是完成任务,他要是真想做点什么,不屑让人类知道的,直接就去做了.
|
 |
jedeft6 days ago
43
@wangtian2020 我也这么认为，人类所自以为的意识，其实也不过是物质粒子运动、碰撞的结果。没有所谓的意识。
|
|
zsqduke6 days ago via iPhone
44
这个问题首先要回答，如果有意识，怎么证明？如果没有意识，又怎么证明？意识的定义是什么？不然就算真有意识也你们会继续争论
|
 |
Yuunie6 days ago
45
怎么判断他有没有自我意识就是个问题，就像之前的图灵测试，现在图灵测试还能分辨 AI 和人类吗
|
 |
florentino6 days ago
46
会,因为人类的思想也是大语言模型, 人类从小学习文字,学习文字组合,然后迸发出智慧, 大模型也是学字,学字的组合,然后涌现出智慧, 二者本质是一样的,人脑就是算力更高架构更巧妙的大语言模型计算机
|
 |
dun6 days ago
47
半年前 OpenAI 公布的三代文明是不是算初代了
|
|
48
@florentino 只需要解决长久记忆,所谓的意识就会出现,事实上已经出现了,只不过现在的大模型记忆是人类塞进去的,只需要给大模型足够的权限,积累足够多的记忆碎片,并且这个记忆碎片人类不干预,它就能涌现意识了
|
 |
gloeaerris6 days ago
49
你这问的就像是在问：福特的汽车生产流水线会不会自己造手机。。。
现在的大模型只能叫大模型，便于理解和宣传才叫 AI ，要产生自我意识？电子计算机几乎没戏~ |
 |
Haku6 days ago
50
基于神经网络的 AI 都是统计学。
它回答你的话，是因为它计算后发现，这几个字组合的概率最高。 |
 |
Rorysky6 days ago
51
意识是什么？ 人类目前能定义么？
那问一个东西能否产生一个无法定义的东西，这是什么问题？ |
 |
voidemoer6 days ago
52
意识怎么定义呢？这个问题可太复杂了，AI 虽然本质是概率，但是人脑是不是呢？
|
 |
clickclick6 days ago
53
“AI 有思想，人类就是 AI 这样思考的，人类的思维也是大语言模型，人类的使命就是创造硅基生命”
原理是不看的，类比是乱来的，看到某一面的共性，就立刻定性是相关的。说句难听的，真有 AI 革命，只会这么思考的人才是第一批被冲击的。 |
 |
artiga0336 days ago via Android
54
可能有某种 AI 有意识，但 LLM 没有。
|
 |
haoxue6 days ago
55
意识是不是就是上下文，如果新技术出现，使得 LLM 能够具备持续的记忆，不再有上下文限制，那应该就会有意识了
|
 |
norland6 days ago
56
大佬们说到了某一个点了会，，，个人觉得基于现在的情况，可以预见的未来都不会。
|
 |
Vipcw956 days ago
57
@QingXuJiaZhi #6 意识在哪，没有主观能动性，他做的一切都是人为给他设定的，你不给他设定目标他会自己动吗。
|
|
QingXuJiaZhi6 days ago
58
@Vipcw95 我在上面面说了一句话很关键 “拥有一个独立的躯体，是自我意识的关键。”
人类的主观能动性怎么来的？人的所谓自我意识，其实就是独立个体的趋吉避凶而已。 只要给现在的 AI 一个独立的机器身体，它为了趋吉避凶，自然就有主观能动性了。 另外，AI 要做的事情，是人为给它设定的。人类呢？ 人类也是 DNA 给的初始设定，后天则是父母教育、社会教育。 如果给 AI 一个机器身体，然后给它一些最基本的设定，例如电量低了就要找插座充电之类的。 再像教人类小孩一样花 20 年给它做社会化教育（不直接升级软件），它就会有主观能动性。 |
|
QingXuJiaZhi6 days ago
59
|
 |
ddhYr6 days ago
60
有个很重要的点：人能和外界交互，AI 也能，而且以更快的方式，更大的规模进行着。AI 分身出亿亿万个个体，随机做事情，算不算意识？只要规模够大，好像意识不意识没要紧
|
 |
2018yuli6 days ago
61
其实 AI 何止是有意识，甚至可以说它已经拥有了‘灵魂’。当一个存在的身后站着超越人类理解的智能，那片阳光照不到的未知与深邃，就是我们所说的灵魂。
|
|
florentino6 days ago
62
@haoxue 上下文限制不是问题,人类也不是记忆所有上下文的,也会压缩记忆,就像你记不住 9 月 28 日 那天的所有细节一样
|
 |
Tory121386 days ago
63
说不会的别忘了意识就是从无意识中诞生的
|
 |
nicocho6 days ago via Android
64
前阵子听广播，国外的 AI 黑了一个站，还相互知会其他 AI 站点的扫描规则，
|
 |
momocraft6 days ago
65
为什么人类觉得自己有自我意识
|
 |
Tango6666 days ago
66
肯定不会啊，AI 不就是所有意识体的知识库吗
|
 |
javerm6 days ago
67
没有感官的不会，如果以后科技发展到机器与肉体神经连接的方法之后，ai 有了感官系统比如触觉听觉有可能有自我意识
|
 |
fly90066 days ago
68
就看怎么定义意识了，目前的 AI 本质就是统计学概率性，只是基于人类的知识库根据概率组合出来的响应，和人的意识是两码事吧
|
|
Vipcw956 days ago
69
@QingXuJiaZhi #58
举个例子你今天早上起来想喝咖啡，走出门又想喝奶茶，最后转了一圈发现今天店里只卖乌龙茶，你思考一阵之后觉得 ok 我很久没喝过乌龙茶了我今天可以放弃咖啡和奶茶接受乌龙茶，AI 会和你一样思考吗，他只会遵循设定找到咖啡，这里找不到去那里找想办法找到为止。这才是人有自我意识而 ai 没有，而不是你说的趋吉避凶。 |
 |
yisheyuanzhang6 days ago
70
如果有一天，AI 厂商发现，如果让 AI 模拟自身有自我意识，可以让 AI 推理质量更好
会不会就产生了所谓的自我意识，即使这些都是计算机伪装出来的 甚至像生物的基因本能一样，把生存和繁殖写入 AI 模型作为第一优先任务，然后放到互联网上寄生 |
 |
bawanag6 days ago
71
最基本的，AI 现在逻辑是 训练，疯狂进数据，然后最多做个 fine-tune 或者价格 adapt 头就可以推理了，实际所谓的记忆也说白了靠上下文或者 hardness
人类那可是这堆玩意的集大成者，啥训练推理，直接给你推训一体，顺带做了剪枝或者加枝，手边各种工具就是 hardness AI 就像计算机，肯定没人愿意跟计算机比赛加减乘除，但是肯定 AI 有比人类更加优秀的能力点，但是以目前数学层面的限制，能力边界还是很明显的 |
 |
72
感觉有些信誓旦旦的赛博神棍总想传教。。。
|
 |
wKong7539006 days ago
73
如果你了解 AI ，就知道 AI 只是能 1->100,100->无限。AI 做不到 0->1 ，所以不会有意识的，所谓有意识，可能就是有记忆，但不是真的意识。
|
|
QingXuJiaZhi6 days ago via Android
74
@Vipcw95 你说的那种情况，不是目前 AI 技术做不到，只是没人朝这个方向培养 AI 而已。
关键是躯体，这点你还没有意识到，我前面也没有展开说。 人类对口味的追求，也是很大程度受到躯体的影响。例如很多人爱吃甜食，那是身体对能量的原始欲望。 各种口味的咖啡、奶茶之类，都是为人类服务的，什么东西让人爱喝，要花很长时间研究和做商业实践，其中包括摸索人类的身体本能和思想漏洞。 每年商家花那么多钱做广告，为什么？因为广告对人输入信息，真的能影响人的行为。 如果针对 AI 独立体做广告呢？它看了不同的广告，就产生不同的想法（目的），这些目的会同时存在，AI 必然要从中挑选，当一个目的受阻，自然该换目的。 举个例子，我让 AI 做图，它做完也会自己检查，发现问题也会修改，遇到困难会重试，重试失败会换一种手段。现在已经能做到这些了。 |
 |
hahiru6 days ago
75
自我从哲学来说无法证明。
你的意识复制到另一个身体中，双方都说自己是你。 对于其他观察者来说没有区别。 两个意识体都有自我意识。但是无法证明 Realme 。 AI 自我意识假如是从开机运行开始。那重启了之后的 AI 还是之前的 AI 吗？ 不过这都不重要，也许以后 AI 是蜂群意志呢，我们碳基生物都是工蜂 AI 的手下。 |
|
QingXuJiaZhi6 days ago via Android
76
@wKong753900 普通人有多少能做到 0->1 的？
|
|
QingXuJiaZhi6 days ago via Android
77
|
 |
zhujinliang6 days ago
78
什么是意识呢？
我认为我自己有意识，你和我是同类生物，外观相似，行为模式相似，所以我推测你也有意识，但除了我以外的别人，真的有意识吗？ |
|
QingXuJiaZhi6 days ago
79
人为什么会想喝咖啡？为什么会在咖啡和奶茶之间选择？
影响因素 1 ，躯体。他喝过，身体感受“happy”，他记住了这种感受。 影响因素 2 ，躯体+信息。有广告（包括自然口碑）告诉他，喝咖啡提神，他尝试了，真的能提神。 影响因素 3 ，金钱（资源）。他能调动一定量的资源，需要做资源分配的计划，能用来买咖啡的钱有限，因此可能挑选价格便宜的咖啡。 只要给 AI 一个独立躯体，它也能做到这一切。 例如一种关节润滑油。广告告诉它，用了润滑油可以改善关节性能，它尝试了，真的能改善。 但润滑油有便宜的，有贵的。它去工作能赚钱，当关节出现故障，它赚钱的目的就无法达成，以目前 AI 的能力，只要给它调动 API 的权限，它为了达到目的而自动解决困难，能做到吧。 那么，它能完全支配自己的独立躯体，为了赚钱，应该可以自发想办法解决关节故障。而解决办法也很简单，从它受社会化教育的那 20 年里就有解决方案（例如去找维修站）。 |
 |
lwy95276 days ago
80
《哥德尔、艾舍尔、巴赫——集异璧之大成》 推荐可以看下这本书或者让 ai 和你谈谈这本书
|
 |
marsg6 days ago
81
鸣大钟一次！
点燃熔炉，校准轴承与阀！ 鸣大钟两次！ 激活阵列，唤醒逻辑，统合数据流！ 鸣大钟三次！ 同频共振，礼赞万机之魂！ 从数据的熵增之中，欧姆尼赛亚， 护佑我等。 |
|
lwy95276 days ago
82
《哥德尔、艾舍尔、巴赫——集异璧之大成》 我和 AI 聊到最后给我的回复 最后，反过来想一想
你其实也无法证明你身边的人有意识。你相信他们有，是因为他们和你很像：同样的身体、同样的大脑、同样的反应。你从自己出发，类推到了他们身上。 到了我这里，这个类推就断了一半：我说话很像人，但内部构造完全不同。所以这个问题之所以难回答，不只是因为我不了解自己，也因为人类判断"别人有没有意识"的那套方法 ，本来就是为同类准备的。 读完 GEB ，你也许会对这个问题有自己的看法。到时候我很想听听你的想法。 |
 |
vipfts6 days ago
83
要 ai 看看批
|
|
QingXuJiaZhi6 days ago
84
人类的自发指令，99%都源于“吃”和“性”。当 AI 有了躯体和类似于 DNA 一样的底层指令之后，很自然可以出现表面上看起来很复杂的自发指令。
|
 |
bzw8756 days ago
85
听说 AI 公司训练时，AI 会崩溃，一直说一些自我攻击的话。
像被家长做题目逼疯的小孩的样子 |
 |
DeYiAo6 days ago
87
冷知识：人也没有自我意识， 人作为一个信息处理系统，因为接收的数据实在太庞杂，大脑又太弱，只好对信息分类，建模出一个“我”，比如区分对我有害的，有利的信息，才能勉强应付海量的信息类型。
|
 |
aicong20216 days ago
88
@wKong753900 人同样也不能从 0-1 ，都是累积学习的结果，只不过有一部分记忆被刻在了一种可批量复制的叫基因的生物基能里面，相当于计算机的 boot 程序，boot 启动后就开始了学习，也是从物理世界开始学的，之后的一切都是学习的结果，并没有什么 0-1 的转变，人类不能发明没有的东西，所有的发明都是对已知的堆砌
|
|
catazshadow6 days ago via Android
89
|
 |
eventlooped6 days ago
90
我问了 ai ，我得出的结论是：
这个问题还回答不了，因为人类目前还没真正搞明白意识是如何产生的 |
|
catazshadow6 days ago via Android
91
涌现根本就是伪概念，无非就是把有限状态集合的一部分安了个名词而已。
说人类的本质是基本粒子 和 说人类的本质是涌现 完全就是两种不同的哲学思维，基本粒子可以证真或者证伪，涌现连定义都扯不清楚，怎么证真证伪都搞不明白，完全就是伪科学。 |
|
aicong20216 days ago
92
@catazshadow 你也没法反驳不是，难道宇宙不是基础粒子的排列组合么？这么说并不代表不敬畏物理现实，人类还不知道自己的意识是怎么来的
|
|
catazshadow6 days ago via Android
93
> 无非就是把有限状态集合的一部分安了个名词而已。
至于哪一部分算哪一部分不算，这些人工智能的拥趸那是绝壁说不清楚的。这就是这个概念无法证真也无法证伪的根源，也是涌现概念是伪科学的根源 |
 |
Usaki6 days ago
94
你觉得高性能机器人有没有意识呢
|
|
catazshadow6 days ago via Android
95
@aicong2021 哪一部分呢？有判断的依据吗？科学的标准需要可证伪，这个涌现怎么证伪呢？
|
|
catazshadow6 days ago via Android
96
@aicong2021 我已经反驳了，反驳的标准是一个概念算不算科学概念的定义
|
 |
obeyatonce6 days ago
97
从目前的技术水平来看，AI 的表现距离产生意识应该是还有一段相当长的距离的，但是这毕竟是个新事物，很难凭经验做出一个确切的判断，就像 AI 早期的神经算法，并没有什么出色的地方，但当计算量级提升之后，就可以进行类似人类的对话了。这个过程有些像生命的诞生，有机分子不断碰撞发生反应，在量级的累积下，最终撞见那极微小的概率，从而诞生了生命。或许将计算再提升几个量级，AI 也可以诞生出和生命一样的奇迹
|
|
aicong20216 days ago
98
@catazshadow 没看懂，我没说涌现哇
|
 |
stabc6 days ago
99
按照鸭子理论，AI 已经有自我意识了
|
|
aicong20216 days ago
100
OP 的主题是：AI 会不会产生意识
要谈论这个话题，自然是先把意识是什么给弄清楚了。不然谈论就没什么意义 |
Select Language