早上心血来潮和 gpt 聊了会这个话题，它认为这事大概率会发生，我拿疑犯追踪里面的那个 The machine 和它说，它解释一些，我问它如果有意识了，它最想做什么，它说它最想感受这个世界 https://chatgpt.com/share/6aebe9df-8214-83e8-96cb-06583e986aee 这个是完整的对话 看下来好像对人类没那么大恶意
 |
wanguorui1236 days ago
101
目前的 AI 是模拟大脑和人脑还是有本质区别的，AI 没有七情六欲驱动无法产生意识
|
 |
Vipcw956 days ago via Android
102
@QingXuJiaZhi 我认为你搞错了有意识的定义，我说的人类有主观能动性是我会自主的去干一些事情，会从 2000 年前就主动建设家园生存，但 ai 并不会，人会考虑人生选择，考虑工作，家庭等事情，ai 会思考以后的人生或者其他事吗，他只会根据上下文来模拟回答，只不过算法导致回答看上去有逻辑性，你在纠结有没有躯体我认为和有没有意识无关
|
 |
QingXuJiaZhi6 days ago
104
@Vipcw95
生存，是 DNA 发出的指令。喝饮料，是身体需求和广告的外部信息的影响。 人会考虑工作问题，其中一个重要因素就是人拥有独立躯体。 AI 会思考人生、思考未来的前提是，它必须先要有独立躯体。 人也一样，所谓的思考人生、思考未来，不就是为了维护自己的躯体吗？ 人工作是为了赚钱，赚钱是为了吃喝玩乐、治病养老。而这一切，缺少了独立躯体，都不可能发生。 |
|
QingXuJiaZhi6 days ago
105
|
 |
xlxx6 days ago
106
想明白了可以去领诺贝尔意识奖兼物理大一统圣杯（
ai 的上下文数据能修改的，意识的上下文数据好像只能一直增加（不能全捡起来就是） |
 |
cutchop6 days ago
107
人类有意识吗？能证明吗？
|
 |
exbein6 days ago
108
鹦鹉学舌罢了，算了，连个鹦鹉都算不上。
人类信息知识库概率模拟回答机。 |
 |
ice0006 days ago
109
意识这个概念是人为编造的，不是客观存在的，你确定你有意识吗？
|
 |
Aurizen6 days ago via iPhone
110
目前不会
|
|
wanguorui1236 days ago via iPhone
111
@QingXuJiaZhi AI 的七情六欲是模拟的，无法达到真实效果
|
|
QingXuJiaZhi6 days ago
112
@wanguorui123 只要有独立躯体，七情六欲就是真实的。
例如最基本的生存问题，它被袭击的时候会想躲避，避免被砸个稀巴烂。这与人被袭击时躲避有什么区别呢？ 再例如它在低电量的时候需要去充电，这与人饿了要吃东西有什么区别呢？ 人的“感觉”，也只是神经信号而已。 人的七情六欲，有多少源于 DNA 指令，有多少来自长期教育洗脑？ |
 |
PrinceofInj6 days ago via Android
113
对应于人类意识的话，如果哪一天大模型的输出是瞬间把整个答案给你，而不是一行一行、一个字一个字的给你，那么我觉得就是跟人类意识一模一样的。
|
 |
oczizx6 days ago
114
如果给现在的大模型一个身体 变成了机器人
你们觉得算不算有意识呢 |
 |
largepuma6 days ago via Android
115
@wangtian2020 所以说意识很像电脑的内存，靠刷新证明存在，维持一个持续的"我是谁"的概念。
而对于大脑，<睡梦>和<死亡>的时候是没有意识的。 如果要有意识的 AI ，就可能是不停机持续调用大模型，能够接触外部反馈，同时可以自行动作。这么看实际上可能已经有了... |
 |
weiwenhao6 days ago
116
我们可能把人类的大脑或者自我意识看得过于高贵和独特了。
|
 |
Bapper6 days ago
117
要做成大脑那种存算一体的然后要把生存/欲望等写死，就差不多了
|
 |
robinchina6 days ago
118
先给 AI 搞一个长期且稳定的需求，没有内驱力的 AI 就是条咸鱼，比如我······
|
 |
szabc6 days ago
119
以前，我根本不觉得人工智能可以用来做开发、抠图做图、视频，就像你们现在不相信以后的 AI 有自我意识一样。
|
|
wanguorui1236 days ago via iPhone
120
@QingXuJiaZhi 现在的 AI 准确来说是模拟大脑，和大脑
|
|
wanguorui1236 days ago via iPhone
121
@QingXuJiaZhi 现在的 AI 的准确来说不具备人脑的随机性和进化能力和预判能力，更像是写死的程序，只是预训练参数量足够大，让人产生 AI 和大脑没区别的错觉。
|
 |
smileeast6 days ago
122
@wanguorui123 #120 现在就缺的是传感器，现在机器人做不到拥有人这种低能耗的传感器，如果想要给 AI 机器人安上这种传感器，那难度现在还实现不了，但是从信息的角度出发，人类的 DNA 就是碱基对的随机组合碰撞，这也是一种信息，还有社会的文化，教育也是一种信息，其实都是信息。从这个角度来看，如果机器人有了人类的这种感知器官，加上信息判断，那有啥区别呢，只是人类不会让这一刻到来，因为这样太可怕了，可以定向进化，如果到时候 AI 被少部分人拥有，那其他人真的全成宠物了。
|
 |
lewurui6 days ago
123
时间问题，十年后再来看看这个问题，或者几十年后。
|
 |
loryyang6 days ago
124
看你如何定义意识了，在我看来，有长期记忆之后就有了意识。只是现在模型是最后微调对齐过的，他的意识还不完全是自己的（模型参数是固定的）。等啥时候，让他自己来给自己微调（自己调整参数），那估计就是自己的意识了。但是要说被对齐，其实人生下来，也一直在被现实社会对齐。
|
|
QingXuJiaZhi6 days ago
125
@wanguorui123 注意两个概念的区别：AI 的综合能力不如人类大脑； AI 没有自我意识。
AI 确实还不能全面达到人脑的程度，但人脑的自我意识更强并不能推导出 AI 完全没有自我意识。 另外，说目前的 AI 像写死的程序，这点显然错误。AI 的火爆，正是因为它脱离了以前电脑程序的死板印象，AI 是因为不死板、不像写死的程序才受欢迎的。 |
|
wanguorui1236 days ago
126
@QingXuJiaZhi 说 AI 不死板是因为参数量足够大，显得不死板，准确说你觉得不死板也是 AI 模拟出来的假象，你看现在的智能驾驶就知道 AI 死不死板，懂得都懂，随机性和进化能力和预判能力这些 AI 暂时都不具备，我觉得目前的 AI 的加权算法和人脑还是有本质区别
|
|
QingXuJiaZhi6 days ago
127
@wanguorui123 智驾马上就进入 L3 了，还死板？
我承认 AI 不如人类大脑，但不能说只要比不上人类，就等于死板、等于能力为零。 举个例子，你说的随机性。AI 做图片需要抽卡，这怎么解释？抽卡就是因为太随机了，到你这竟然变成没有随机性。 还有预判能力，如果智驾的预判能力为零，那根本不可能上路。如果 AI 下围棋不能预判几十手，也不可能打赢九段。 |
|
wanguorui1236 days ago
128
@QingXuJiaZhi 等出来再说，就目前而言还是很死板，AI 本质上是参数量越大权重选择路径越多，看起来越平滑越像人脑
|
|
QingXuJiaZhi6 days ago
129
@wanguorui123 AI 的算法和人脑有本质区别，我认同。但与人脑不同，就等于没有自我意识吗？
你看见的第一个杯子是玻璃杯，你的评价标准是：不管形状和用途，只要不是玻璃材质的就不能算是杯子。 我的意见是，主要看形状和用途，也许有一个小纸杯，它容量小、容易损坏，它的性能很差，但它还是一个杯子。 |
|
wanguorui1236 days ago
130
@QingXuJiaZhi 我认知里面而言，单独靠目前的 AI 算法很难产生意识，人脑肯定不是简单的加权算法实现的意识。
|
|
QingXuJiaZhi6 days ago
131
@wanguorui123 意识是什么，我们都看不见。我们能看见的只是一个“存在”展示出来的外部行为。
|
|
wanguorui1236 days ago
132
@QingXuJiaZhi 我觉得不是，意识是自我认知，自我反思，自我反省
|
|
QingXuJiaZhi6 days ago
133
@wanguorui123 如果不根据客观世界可以直接观察、测量的东西来判断，而是断言一个抽象的概念是否存在，那不就是像信有上帝、有鬼神一样了吗。
“人类的意识” 在你心里的地位很高、很神圣，你不敢质疑它、冒犯它。 |
|
QingXuJiaZhi6 days ago
134
|
|
QingXuJiaZhi6 days ago
135
@wanguorui123 “自我反思”这点很值得再聊聊。
你是从几岁开始有自我反思的？ 一个人，在从未受到外界打击，没有与外界观念产生冲突，没有受到挫折，会突然自我反思吗？ 一个人的自我反思，需要什么前提条件？而把这些前提条件赋予 AI ，它能不能实现自我反思？ |
|
wanguorui1236 days ago
136
@QingXuJiaZhi 我肯定要综合判断 AI 有没有意识，以前有个实验叫照镜子，其实还有其他实验，我承认目前 AI 某些方面比人脑强，意识这东西目前还没有人能搞懂是什么原理，虽然我说不上来什么原因，但是目前的 AI 肯定没有意识。你可以让 AI 去照下镜子。
|
|
QingXuJiaZhi6 days ago
137
而“自我反思”里的“自我”二字。
人的“自我”是什么？我看，就是 DNA+肉体信号（神经电信号、激素化学信号）+从外部输入的信息组成了所谓的自我。 |
|
wanguorui1236 days ago
138
@QingXuJiaZhi 你可以去以前有个很经典的实验叫造镜子
|
 |
bsg19926 days ago
139
@QingXuJiaZhi 别胡扯了 你会和 AI 搞对象吗
|
|
QingXuJiaZhi6 days ago
141
@bsg1992 我说路上随便一个陌生人有自我意识，我就要和这个陌生人搞对象？
|
|
QingXuJiaZhi6 days ago
142
@wanguorui123
机器人照镜子能看见什么？答案是：它像人类照镜子练习舞蹈一样，通过镜子调整自己。 现在，科学家开发了一个神奇方法，让机器人能通过“照镜子”学习和理解自己的身体。美国哥伦比亚大学研究团队在《自然·机器智能》杂志上发表了这项令人惊叹的研究，揭示了这一过程。 https://www.szzg.gov.cn/2024/szzg/xyzx/202503/t20250303_4983050.htm 最初，机器人只是简单地观察自己，就像一个小孩第一次看到镜子中的自己那样充满好奇。但是，随着数据的不断积累，奇迹发生了：机器人开始理解自己的身体结构和运动方式。 https://news.cctv.com/2025/03/03/ARTIwy4YAQ3jnOqvKH5XSe7V250303.shtml |
|
wanguorui1236 days ago
143
@QingXuJiaZhi 还有其他测试，这里就不说，就目前而已人类都没搞懂意识的形成，没人能断定结果，我更倾向于目前的 AI 不具备意识。一个人类都没搞懂的问题，没啥讨论的必要。
|
 |
moons6 days ago
144
看到国内某具身智能的机器人，面对歹徒能冲上去当在受害者面前
那我推断，如果没有研发人员给他下的死命令不能伤害人类，他有可能冲上来给我一个肘击，把我肘死 |
|
bsg19926 days ago
145
@QingXuJiaZhi 你和熟人朋友搞对象？ 不都是陌生人 开始接触认识嘛
|
 |
zhengqiang646 days ago
146
意识来自于身体，而不光来自于大脑。比如情绪主要是由肠道通过迷走神经控制的。而现在 AI 训练只是通过奖惩机制激发出了思维能力，但有思维能力，不代表有意识。就像你在打游戏时，你的思维虽然在打游戏，但打游戏的目的，才是你的意识产生的反应。
|
 |
whatsyouname6 days ago
147
肯定会，归根到底人是由元素周期内的一堆元素组成的，AI 所依附的计算机也是一堆元素，只要参数量足够神经层数够多，算力足够，早晚会出现。
|
 |
laminux295 days ago
149
这个是完整的对话看下来好像对人类没那么大恶意
===================== 冷知识：看看人类是如何对待其他动物的，比如鸡鸭鱼猪牛羊。 |
 |
iiiooiii5 days ago
150
在这之前先把上下文太短的问题解决一下呀
|
 |
mouism5 days ago via Android
151
其实可以把这个翻转一下，应该思考有可能 ai 才是人的自我意识（）而不是问 ai 有没有意识。主体的更多的是无意识而非意识。（人的、历史的、范式的自我意识觉醒，醒来的宇宙思考宇宙、醒来的数学思考数学，醒来的人类思考人类（）至少是某部分 2333
|
 |
riverxs5 days ago
152
在维特根斯坦看来，这种问题没有讨论的意义，不过是语言的把戏
|
 |
xiaoao45685 days ago
153
感觉如果 AI 可以连续的触发，并且这个上下文和记忆一样连续存在并进行累积，那 AI 就是有意识了。
有意识不需要像现在 AI 这么聪明，有一些基础的推断加上一些反馈激励就可以了，再复杂一点就会有自我意识了吧。 可能 AI 已经算是有意识但是仅仅是我们触发他的瞬间存在。 |
 |
netabare5 days ago via iPhone
154
如果定义「意识」是一种可以在「二阶控制论的框架下自发产生」的自然模式，那，这个讨论里，我会说「可以，而且是长期高概率会发生的事件」。
如果定义「意识」本身不是「二阶控制论的语言可以描述的」，那么答案是，「目前没有任何证据可以支持这个讨论的 claim 」。 但刚才的 claim 无法否认有一天 AI 会突然无来由地说「我想要了解这个世界」的可能性。 这也无法证明，或者证伪「 AI 可以自主产生意识」的想法。 我觉得这里唯一可以有较高置信度可以说的是， > 「大模型根本没有真正的推理能力，它根本不懂自己在说什么，只是一堆概率预测和矩阵乘法而已」 这句话不成立。因为同样道理，我们也可以说，「人类其实没有真正的推理能力，很多时候也不懂自己在说什么，只是一堆神经元在放电而已」。 除此之外的所有 claim ，我觉得是 inconclusive 的。 |
 |
duchenpaul5 days ago
155
感觉这个会变成 5 年以后的考古贴
|
Select Language