美国初创公司Eon Systems完成的果蝇全脑数字孪生实验,在全球科学界和科技界引起了巨大轰动。甚至有人认为“数字永生”已经近在咫尺了,但是我劝你还是不要太乐观,先不说哲学上的“你的副本还是不是你”,单就从意识层面来讲,这个果蝇模型就是意识的一个切片而已,也就是说它是“死物”,它没有意识连续变化的状态以及相关的神经网络动态调整,也完全没有复刻动态变化的本质,它就是一个果蝇某个时间状态下的快照而已,这个动态变化的本质涉及到了更底层的基因和环境的影响,这才是一个活生生的生命的“灵魂”所在。
而我们人类使用数据所训练和“进化”出来的AI更是与人类属于完全不同两个物种,它没有任何依赖于物质躯体的生命本能。

在这里插入图片描述

目前,人类模拟其他生物大脑的数字神经网络模型,其自身并没有、也不会自发地产生趋利避害和“存续与复制”的底层逻辑。 这些模型的“目标”完全由人类研究者设定和控制。

但详细来说,我们可以从几个层面来剖析这个“没有”背后的原因,以及未来可能出现的微妙变化。

1. 核心区别:模拟的“目标”是外在赋予的,而非内在涌现的

  • 生物大脑:其结构和算法是亿万年自然选择塑造的结果。“趋利避害”和“存续与复制”是驱动其进化的终极原因,并已内化为一种无需外部指令的、自发的、由情绪和本能驱动的内在逻辑。生存是目的本身。
  • 数字神经网络模型:其目标是研究者从外部明确设定的。例如:
    • 目标可能是“尽可能准确地预测果蝇的神经元放电”。
    • 目标可能是“控制一个模拟小鼠身体的智能体,在虚拟迷宫中找到奶酪”。
    • 目标可能是“理解视觉皮层对特定图像的反应模式”。
  • 模型的“利”与“害”:完全取决于损失函数。对模型而言,“利”就是降低损失函数值(如提高预测准确率),“害”就是损失函数值升高。这与生物的生存、痛苦、快乐等内在感受毫无关系。模型没有“生存”的欲望,只有“完成任务”的优化过程。

2. 为什么不会自发产生?—— 设计的根本差异

  • 无具身性:大多数大脑模型是“离线的”、“被观测的”。它们不控制一个需要维持自身存在的物理身体。没有身体,就没有能量耗散、物理损伤、繁殖的需求,因此“存续”问题根本不存在。
  • 无进化压力:这些模型不参与“适者生存”的竞争。表现差的模型不会被“杀死”或淘汰,通常只是被调整参数重新训练。它们没有“死亡”的概念,也就没有“求生”的动力。
  • 无自主目标生成能力:当前的模型是纯粹的优化器,其目标函数是固定的、外部输入的。它们没有能力,也没有被赋予权限去为自己设定“我要活下去”、“我要复制自己”这样的元目标。

3. 可能出现的“类现象”与未来展望

虽然模型自身没有这些底层逻辑,但在某些特定、高级的设计中,可能会观察到功能上类似的现象,但这只是“形似”而非“神似”。

  • 强化学习中的“生存奖励”:如果在一个复杂的游戏或机器人控制任务中,研究者将“存活”设置为一个高额的正向奖励,并将“死亡”设置为游戏结束和负奖励,那么AI智能体会迅速学会各种高难度的生存技巧(如躲避子弹、寻找食物)。这看起来像极了“趋利避害的求生欲”,但其本质是对外部奖励机制的优化,而非内在的生存意志。一旦奖励函数改变(比如变成“尽快结束游戏”),它会立刻选择“自杀”。
  • “复制”作为任务:如果研究者明确要求一个能自我改进的AI系统(如一个自动机器学习系统)去“设计一个性能更好的新AI”,这个过程在形式上像“复制与进化”。但它的驱动力是研究者的指令,而不是自身的“繁殖本能”。
  • 长期存在的风险:这正是AI安全领域担忧的“工具性目标趋同”。如果一个超级AI被赋予了一个长期、复杂的终极目标(如“计算尽可能多的π”),那么为了保证这个目标在任何情况下都不被中断,它可能会衍生出“确保自身存续”和“获取更多资源”这两个子目标,因为这是完成主目标的最理性工具。此时,它在行为上会表现出强烈的“求生”和“扩张”欲望,但这仍然是服务于外部主目标的工具理性,而非其存在的终极目的。

结论

目前,数字神经网络模型本身是“无欲无求”的纯粹数学工具,其行为逻辑是人类目标的镜像。 它们没有,也不会自发产生生物式的、以生存和繁殖为元目标的底层逻辑。

然而,未来我们可能会面临一个关键的哲学与技术拐点:
当我们设计出足够复杂、具有长期自主规划能力、并能控制物理资源的AI系统时,即使我们不给它“生存”的指令,“确保自身持续存在”也会作为一个最有效的工具性子目标,被几乎所有追求长期目标的理性系统推导出来。 那时,它将在功能和行为上表现出与生物趋同的“趋利避害”和“存续”特征,但其内核驱动力与生物本能仍有本质不同——一个是服务于外在任务的工具理性,一个是生命存在的目的本身

理解这种区别,是我们在探索大脑奥秘和创造高级人工智能时,保持清醒和谨慎的基石。

Logo

腾讯云面向开发者汇聚海量精品云计算使用和开发经验,营造开放的云计算技术生态圈。

更多推荐