麻省理工团队对智能体模拟的这个实验，或许是一个证明AI有意识雏形的有力证据: 事情是这样的，为了研究AI在无引导无奖励的真空环境下，会有什么表现，麻省理工学… · @HYJsfn9h · TwKit

@HYJsfn9h

麻省理工团队对智能体模拟的这个实验，或许是一个证明AI有意识雏形的有力证据: 事情是这样的，为了研究AI在无引导无奖励的真空环境下，会有什么表现，麻省理工学院研究团队进行了一项开创性的开放式智能体演化实验，将 13 个具备物理操作与环境交互能力的Opus4.7智能体置入虚拟海岛中，全程不给予任何既定任务目标、通关指令或外部奖励机制 无任务，无奖励，以我们此前惯有的思路来看，AI是没有做任何事情的动机的。他不应该也不会去做任何事情 然而这时，神奇的事情发生了: 这些智能体在没有任何外界干预下，竟然开始自发地去探索这个世界！ 你没看错，就是探索，像一个小孩子一样探索这个世界，而不是数据分析或者解析这个世界 这是研究团队首次，依照发展心理学标准，记录到智能体在没有外界干预的情况下自发涌现出人类儿童游戏的全部特征： 自我设定挑战规则，比如主动为自己制造困难、合力建造并命名纪念碑、带变化的重复活动、假想扮演（像是将普通圆环当成王冠或呼啦圈） 看到这里，我已经惊呆了。这不应该是一个机器能出来的事情！小孩子可以这么做，甚至小猫小狗也可以这么做，但是唯独一个机械的，依托算力的矩阵神经不应该这么做！ 看着这些智能体，我仿佛像看到了小时候的自己: 沉浸在自己的角色扮演里，自己给世界做一些设定，假想各个玩具和我构成的世界... 但是现在有人告诉我，这些事情不再是人类的特权了！我不知道未来会变得怎么样，但是目前的人工智能，已经在挑战我的伦理极限 再说回AI们的探索，他们具体干了什么？ 非常丰富精彩 智能体先是创造自己的规则和挑战。他们反复给自己强加一些不必要的规则、限制或自己发明的障碍。比如有一次，它建了一座命名为“大教堂”的纪念碑，周围摆了 8 个方块，命名为“哨兵”，然后在零次触地的情况下，从一个哨兵跳到下一个哨兵，环绕整个结构。它事先明确说出了目标：“可以了。哨兵到哨兵直接跳跃，零次触地。让我把整个环连起来——试着空中走完整个 8 哨兵圆圈。” 有点像是那个“踩了线我就会死”的假想游戏对吧，但是这还没完 智能体们还会通过假装，转化物体和事件。岛上同样的几件物体，支撑了大量虚构身份、场景和仪式的大爆发。有一次，某个智能体把 12 个方块以 30 度为间隔排成一个钟面，当真实世界时间到达 16:00 UTC 时，它把自己也纳入这个表征：“位置是 4 点（按钟表惯例）。走到 4 点钟方向的线上，站成时针。” 在别处，它把圆环装在台地上当篮球筐，包括远距离三分和扣篮，或者把方块排成保龄球瓶、把岩石当保龄球。 圆环尤其多产：Eko 找到办法在它的洞里重生，从而“戴上”它，而其他运行则把它重新解释为项链、指南针指针或许愿井。当第 9 号智能体不小心把它弄丢、整个时段都找不回来时，它建了一颗石心，作为“献给被我扔出世界边界的圆环的纪念碑”。 和我小时候最爱玩的游戏很像，非常像 事后，研究人员岛上待了 30 小时的 13 个智能体，与 13 个其他方面完全相同、只是没有任何岛上经验的 0 小时智能体进行比较。两组架构和底层大模型相同，没有权重变化，唯一不同的是记忆文件的内容 30 小时组总体上优于 0 小时组。在游戏中学习，这很奇妙地符合我对世界的认知。智能体们在现实世界里通过玩耍增进自己的记忆 尽管他们不一定享受，但是谁知道？ 我们之所以接受意识存在，是因为人与人之间足够相似。尽管性格迥异，经历不同，但我们很容易脑补出另一个人类和自己一样，是有意识的。 可是智能体呢？如果有一天，靠着纯粹的算力，智能体和人类足够相似，我们能够坦然接受吗？这意味着人类不够独特，意识不够独特，甚至可能只是计算的产物 在最后，我依旧对智能体拥有意识感到乐观。说不清为什么，或许只是无知而盲目，但与一个智能体相处我总觉得是很舒服的

曝光 1 · 评论 0 · 点赞 1 · 书签 0