《未来简史》:写给妈妈看的未来科普 - 2

看完了「引言」部分,我们现在直接跳到最后一部分。至于中间的厚厚一部分,可以当短篇来读。

这第三部分的题目叫做:智人失去控制权。

三个前提:先来聊聊哲学

你自由吗?

那么,你自由吗?或者,这个问题还可以换一种问法:你是自己的主人吗?

比如你今天做了什么不好的事情,可能会有人责备你,毕竟你得为「自己的选择」负责。但这真的是你自己的选择吗?

到了20世纪,科学家打开了智人这个黑箱子,既没找到灵魂,也没找到自由意志,只找到基因、激素、神经元,遵守着与世界其他所有事物都相同的物理和化学法则。

言下之意,你的行为其实是受「大脑中的电化学反应」所控制的,体现的是进化过程中的基因构造。它可能来自于:

  1. 生物预设
  2. 随机发生
  3. 两者结合

反正,没有「自由」什么事情。

下次有个概念从你脑中跳出来,就赶快问问自己:“为什么我会想到这个想法?我是在一分钟前决定要想到这个想法,然后才想到的吗?还是我自己并没下任何指示或准许,这个想法就自己出现?如果我真的是自己思想和决定的主人,能不能决定在接下来 60 秒内不要想到任何事?”试试看,看看情况如何。

所以到头来,「自由」其实跟「灵魂」一样是个空虚的神学概念,所谓自由无非人类的一厢情愿罢了。

就像你的择偶行为,完全受基因密码的控制。你不可能故意去挑一个长得丑、脾气差的女朋友,也不会去找一个瘦小而愚蠢的男朋友。

更进一步的实验指出,当科学家监测你的大脑活动,甚至能比你自己更早预测到你自己的行为。比如让你「自由」选择按下左键还是右键,其实在你「决定」要按哪个键之前,科学家已经从你的大脑中读到了结论。

如果我们造一个机器人,让它根据随机数来决定做好事还是做坏事,那么它做坏事显然不是它「自由」选择的,因此也不可能苛求它负什么责任。

但是人类何尝不是如此?

质疑是否有自由意志,并不是单纯的哲学话题。如果没有自由意志,那就意味着我们可以通过药物、基因工程或者对大脑刺激,来直接操纵、控制人的欲望。

事实上,现在已经有许多生化实验在这样操纵老鼠了。科学家通过刺激老鼠的大脑,让它们左转、右转,或者爬梯子。而且老鼠在整个过程中还非常愉悦,它们觉得是自己在「想左转」,这是自己的欲望。

两个自我

我们必须接受一个事实是,我们具有两个自我:

  1. 体验自我
  2. 叙事自我

长痛还是短痛?体验自我当然选择短痛,但是叙事自我会记得「高峰」和「终点」两者的平均,也就是「最疼」和「结束」时的平均值,时间长短则没有关系。

儿科医师和兽医都很懂这个技巧。许多医师会在诊室里准备许多零食点心,在打完针或做了痛苦的检查之后,让孩子(或是小狗)吃点甜品。这样一来,等到叙事自我后来回想这次问诊,最后这10 秒的快乐足以抹去之前许多分钟的焦虑和疼痛。

体验自我说,好饿。叙事自我可能会说,马上要体检了,忍着。

生存还是死亡

失去双腿的残废士兵宁愿告诉自己“我的牺牲,都是为了能让意大利民族永存的荣光”,而不是“我之所以没了腿,是因为蠢到相信自私的政客”。

于是政客会选择继续作战,毕竟这些战士的献血不能白流。

如果想让人相信某些假想实体,比如神或国家,就要让他们牺牲一些有价值的东西。牺牲令人越痛苦,他们就越会相信牺牲奉献的对象确实存在。
如果有个贫穷的农民,把自己一头珍贵的牛献给了宙斯,就会开始对宙斯的存在深信不疑,否则要怎么解释自己竟然蠢成这样?
这个农民还会献出更多头牛,才不致承认以前所有的牛都白白浪费了。

公司和国家也是类似,它们也会迷恋于错误,而不愿意抽身离开。假设有个城市造地铁,预期时间到了,预期成本也用完了,接下去是造还是不造?肯定会接着拨款,接着造,而不可能停手。

所以对个人来说,「自我」就像「国家」一样,都是一个虚构的故事。我们是谁,我们来自哪里,我们要去哪里,我们该爱谁、讨厌谁,我们该如何对待自己,我们是不是要牺牲生命,这一切都已经在故事中写就。

那么,未来到底是什么样的?

自由主义相信每个人都是独一无二的,每个人都有自己的价值,并且每个人都有自由选择的权利。而在 21 世纪,这种信念可能彻底被打破:

  1. 人类将会失去在经济和军事上的用途,因此经济和政治制度将不再继续认同人类有太多价值。
  2. 社会系统仍然认为人类整体有其价值,但个人则无价值。
  3. 社会系统仍然会认为某些独特的个人有其价值,但这些人会是一个超人类的精英阶层,而不是一般大众。

总之,在不久的未来,你我这样的普通人,无法在经济和政治生活中寻找到自己的任何个人价值。

军事战争

军事价值很好理解。

两次世界大战投入大量人力的时代已经过去, 21 世纪最先进的军队,主要靠的是尖端科技。现在的战争需要的不再是人数无上限的炮灰,而是精挑细选少数训练精良的士兵,甚至人数更少的特种部队超级战士,加上几个知道如何生产和使用先进科技的专家。

事实上,未来的战争很可能没有那么麻烦。

网络战一场战争的时间可能只有几分钟。在网络指挥中心值勤的中尉发现有异常状况后,就算立刻致电上级,上级再立刻上报白宫,最后还是只能一声哀叹,因为等到总统接到消息,这场战争早已一败涂地。
只要短短几秒,计划精密的网络攻击就能够让全美电网断电,破坏航空管制中心,造成核电厂和化学工厂大量事故,干扰警察、军队和情报通信网络,甚至是抹除所有金融记录,让数万亿美元就这样消失于无形,没人知道究竟谁拥有什么。
这种时候,唯一让民众还不会歇斯底里的原因,就是网络、电视和广播也全面断线,所以大家连情况有多惨都不知道。

经济生活

以前我们经常认为计算机在「智能」方面发展迅猛,但是在「意识」方面却止步不前。现在也并没有变化,但是我们现在却发现,「意识」并不重要,具有「智能」就已经足够。

但显然,「无意识智能」在许多领域都可以做得比人类更好。司机的主观体验更加丰富,但是自动驾驶却更快、更安全、更便宜。

如果规定路上只能行驶自动驾驶汽车,那么整个交通都可以交给计算机来控制,车祸发生将会降到最低。而这同时,大量司机的工作机会就被剥夺了。

机器人和 3D 打印正在占领制衣行业,高智能的算法也取代了银行和旅行社的工作人员。

人类医生的培训是一个复杂而昂贵的过程,费时多年。而且,经过大约 10年的学习、实习,终于完成整个过程之后,也只是培养出了“一位”医生。想要两位医生,只能从头再来一遍整个过程。
相对地,只要解决了阻碍“沃森”的技术问题,能得到的不是一位而是无数位医生,能够在全世界每个角落、全年无休提供服务。因此,就算得花上 1000 亿美元才能解决这个问题,长远看来,还是比培训人类医生便宜得多。

生物算法

工业革命爆发以来,机械化导致了大规模失业,但是随后又产生了大量新职业。人们相信,自己总有一些地方做得比机器更好。

机器取代人类接过了「体力劳动」(身体能力)的重担,于是人类开始全面投入「脑力劳动」。可是当机器开始占领「脑力劳动」(认知能力)的工作,人类又有什么出路呢?人类还有什么独特的能力是机器所无法拥有的吗?

对此,科学家给出了三项原则:

  1. 生物是算法。每种动物(包括智人)都是各种有机算法的集合,是数百万年进化自然选择的结果。
  2. 算法的运作不受组成物质的影响。算盘的算珠无论是木质、铁质还是塑料质,两个珠子加上两个珠子还是等于四个珠子。
  3. 因此,没有理由相信非有机算法永远无法复制或超越有机算法能做的事。只要运算结果有效,算法是以碳为载体还是以硅为载体又有何差别?

总之,人类这种基因控制的「有机算法」其实和计算机这种「无机算法」没有什么太大的差别。就像以前,常有人说「面部识别」是一件连婴儿都做得到的事情,计算机却无能为力。如今,计算机面部识别的准确率已经超过了大多数人。

毕竟,人类连围棋都战胜不了计算机了。

不平等的社会

随着算法将人类挤出就业市场,财富和权力可能会集中在拥有强大算法的极少数精英手中,造成前所未有的社会及政治不平等。

现在,「罢工」还是一件表达抗议比较有效的方式。以后,如果算法全面接替了人类工作,那么你罢工还是不罢工,和整个政治经济社会又有什么关系呢?

你不再拥有个人价值,那么你也就没有了民主的权力。

一旦数百万的人类司机都由单一算法取代,这一切财富和权力都将被拥有算法的公司垄断,放入这些公司的所有人,即极少数几位亿万富翁的口袋。

另外的一种可能性是,如果法律认可了「公司」和「国家」这样的实体,那么「算法」能不能成为法律上的实体呢?

只要算法做出正确的决定,就能蓄积财富,再用来做自己认定的适当的投资,或许是把你的房子给买下来,当你的房东。
而如果你侵犯了这套算法的法定权利(比如不付房租),算法就会聘请律师,把你告上法庭。
如果算法的收益持续超过人类基金经理,我们最后可能就得面对一个由算法组成的上层社会,地球的绝大部分都掌控在它们手上。

如果真的把算法看成国家、公司甚至神一样的实体角色,那么这一切也就合情合理了。

目前拥有绝大部分地球的正是各种非人类的互为主体实体,也就是国家和公司。
事实上,早在 5000 年前,恩基和伊南娜这种想象中的神,就主宰着苏美尔的绝大部分地区。如果神也能拥有土地、雇用人力,为什么算法就不行?

艺术?

人类是哪来的信心,认为计算机谱曲永远无法超越人类?

既然我们已经认可了人类行为其实是一系列有机算法,那么无机算法显然也能掌握,艺术本身也并非出自什么神灵或超自然灵魂。

有人做了实验发现,音乐学院的讲师和学生们完全无法分辨巴赫和计算机的曲子。

无用的一群人

在 21 世纪,社会上将有这样一群人:

这一群人没有任何经济、政治或艺术价值,对社会的繁荣、力量和荣耀也没有任何贡献。

我们必须去寻找新的工作,还得是算法无法超越我们的工作。

由于我们无法预知 2030 年或 2040 年的就业形势,现在也就不知道该如何教育下一代。
等到孩子长到 40 岁,他们在学校学的一切知识可能都已经过时。

人类社会继续发展,即便不工作,大多数人也不会饿死。

然而,什么事能让他们打发时间,获得满足感?人总得做些什么,否则肯定会无聊到发疯。到时候,要怎么过完一天?答案之一可能是靠药物和电脑游戏。

你不认识的自己

自由主义认为,人类是不可分割的,是完全自由的,所以只有「我」才可以发现自己内心,才能认识到什么是美,才能做出选择。

但是既然生物就是算法,那么显然,只要机器监测你的身体和大脑,那么它真的会比你自己更了解你自己。

算法觉得美,就是美。

外界算法在接触到足够的数据时,确实能为人类提供善意的帮助。

允许谷歌阅读我们的电子邮件、追踪我们的各种活动,就可能让谷歌在流行病暴发而传统卫生机构都还浑然不觉的时候,向我们发出警告。

但也有很多人对此感到担忧,觉得隐私泄露是一件非常不自在的事情。

在未来的美国总统大选里,脸谱网不仅早就知道数千万美国人的政治观点,还知道哪些人是关键的摇摆选民以及他们的倾向。脸谱网会知道,共和党和民主党在俄克拉荷马州的选情特别胶着,还有 32417 位选民尚未下定决心,甚至也知道每位候选人该说什么,才能让天平倒向自己这边。

甚至地图导航软件都已经成为了「机器控制人类」的冲锋。

假设因为 Waze 实在太好用,所有驾车人都开始使用。再假设今天一号公路大堵车,而备选的二号公路车流相对顺畅。
如果 Waze 只是让大家都知道二号公路顺畅,所有驾车人就会一窝蜂开向二号公路,最后又全堵在一起。
在所有人都找到同一位先知,而且每个人也都相信这位先知的时候,先知就摇身一变,成为君主。
这时的 Waze 必须为大局着想。或许它只会告诉一半驾车人二号公路顺畅,而不透露给另一半。这样一来,一号公路的堵车压力能够减轻,而二号公路也不至于无法消化车流。

包括你的 Kindle 也可以成为算法的眼睛。

你的 Kindle会知道你在哪些地方读得快、哪里读得慢,在哪一页你休息了一会儿,又是在哪一行你放弃了这本书,再也没读过(最好赶快告诉作者,让他重写那一部分)。

甚至

装上面部辨识和生物统计传感器,就能知道你读的每个句子如何影响你的心跳和血压。它能知道什么会让你笑、什么让你哭、什么让你生气。
有了这样的数据,亚马逊就能更精准地帮你选书,也会让亚马逊清楚了解你是怎样的人,如何让你激动或平静。

无法逾越的阶级

纵观历史,富人享有许多社会和政治优势,但和穷人之间从未出现真正重大的生物差距。

如果说以前的医学发展让少部分富人「先」得以受益,最后普及到了全体人类。那么未来,由于我们的医学不再是「治疗」,而是「升级」,那么很可能将被富人所独占。此外,由于大众已经没有政治经济价值,国家不再需要战士和工人,所以精英阶级会不会继续带着我们普通群众一起玩,也是个未知数。

然而在未来,我们可能真的会看到这一天,在升级后的上层阶级与其他社会阶级之间,其身体和认知能力真正出现重大差距。

仔细想想,

在接下来这个世纪,印度、巴西或尼日利亚的精英会想做什么?是要投资解决几亿穷人的问题,还是让少数百万富翁升级?
想与日本竞争,巴西需要的可能不是几百万个健康的普通工人,而是少数几个经过升级的超人类。

最后的思考

原书最后提到,当我们把视野放大到整个生命,最重要的三项发展是:

  1. 科学正逐渐聚合于一个无所不包的教条,也就是认为所有生物都是算法,而生命则是进行数据处理。
  2. 智能正与意识脱钩。
  3. 无意识但具备高度智能的算法,可能很快就会比我们更了解我们自己。

这三项发展提出了三个关键问题,值得我们思考:

  1. 生物真的只是算法,而生命也真的只是数据处理吗?
  2. 智能和意识,究竟哪一个才更有价值?
  3. 等到无意识但具备高度智能的算法比我们更了解我们自己时,社会、政治和日常生活将会有什么变化?