《仿生人会梦见电子羊吗》

仿生人的悲剧

外在环境的压力迫使人类文明趋向于创造出超越人类自身能力的造物,并把它们作为工具,而随着造物不断接近人类本体,双方必然产生无法调和的矛盾冲突。

仿生人悲剧的必然

人类必然需要为自己的造物上一层保险,限制它们的超级能力反过来危害人类,但同时这种限制成为检验人性善恶的一面镜子,将引起人类文明伦理道德基准的反思与动摇。

工具必然会接近并超越人类 vs 工具天然处于被支配地位 人类对工具严格限制
-> 矛盾造成悲剧

推论与现实对照

追求强大工具的客观现实必要性

这篇小说的设定里,作者采用了一个近未来后启示录背景,也就是《圣经》中启示录的末日预警之后。这种设定在科幻小说里很常见,巨大的灾难比如核战争,毁掉了地球,人类进入了极端残酷的生存环境。这样设定带来最重要的点,就是故事中的人类面临的生存压力非常大。在巨大的压力下,各种东西都会被推到极端,很多温情脉脉的面纱都会揭掉,露出最残忍的人性本性来。

我们可以对应地看一下现实,推动工具快速进步的主要是人类永远无法满足的欲望。地球人口有七十亿,2004 年的时候,地球生态报告警告人类消耗已经超出了地球负荷。光是维持人类的食物供应,农药,化肥,杂交育种,辐射育种,很多技术在争议中快速发展。如果停下来,我们可能就无法供养人类的生活。在这一点上,我们本质和小说中巨大的生存压力并无区别。

工具能力向人类逼近,直到超越人类

工具处于支配地位

所以必须严格限制出厂条件

必然产生矛盾

人类为何同情仿生人

约翰・罗尔斯在《正义论》里提出过一个重要的概念,叫 “无知之幕”。这个概念提出一种原则,来实现社会政策的正义公正。无知之幕的意思是,当选择社会政策的时候,每个选择的人都应该删除自己是什么身份地位出身的记忆,以 “无知” 的方式进行选择。比如选择应不应该保留黑人奴隶制度的时候,你不知道自己是黑人还是白人。选择买卖妇女是不是合法的时候,你不知道自己是男人还是女人。

这个无知之幕,立在一个基础上,就是 “我们” 拥有对等的能力和智慧,我们相信白人和黑人、男人和女人在幸福和痛苦上是平等的,一方感受到的东西,另一方也能感受到。所以我们能真切地 “同情” 到对方。你不能跟龙虾、跟带鱼一起披上无知之幕,因为你们在能力、智慧和感知上不可能平等。

但是当人类创造出来的工具越来越接近我们,在能力上越来越平等的时候,不管他们是 AI、机器人还是仿生人,我们总有一天能和他们一起披上无知之幕。当我们披上无知之幕,我们就能明白,我们对仿生人命运悲剧的同情,本质是希望避免自己有一天也遭遇同样的悲剧。

Q:为什么创造的工具外表要无限逼近人??