综合新京报记者何安安
据《华盛顿邮报》报道，78岁的美国作家安德鲁·卡普兰将借助人工智能基础和数字助理设备，成为第一个“数字人类”，在云中实现“永生”——换句话说，卡普兰将永久保存在future的服务器上，只要互联网存在，他就能获得永生。
比尔·盖茨认为，雷·库兹韦尔是预测人工智能未来最准确的人。
但我们提到的公开信只强调了自主武器的发展，可以在没有人为干预的情况下选择和攻击目标，会带来军事风险，而人工智能的影响比自主武器更深远，这与一个更有害的“存在性风险”有关:人工智能剥夺了我们决定自己命运的权利，正在扼杀我们的人性特征。简而言之，机器给人类带来的危险至少等同于核能，但机器给人类带来的是“去道德化”。
在大众心目中，机器其实与人类自主性的丧失息息相关，我们会发现自己正在退化为黑猩猩的状态。其实这种威胁由来已久:工业革命以来，机器似乎是人们越来越感到无助的原因。这是奥地利哲学家冈瑟·安德斯所描述的“普罗米修斯自惭形秽”的原因，也是贬低自我的因素。但好像各种制成品和自动化装置还不够，机器现在似乎垄断了智能，一切已成定局:机器会从我们拥有的更具体、更有价值的零件开始，取代我们，所以机器会让人类逐渐消失。“存在”的整个问题就是要知道为什么机器似乎带走了人类的智慧，为什么我们不能想象挑战它的权威？
劳伦特:我们不能质疑他们的能力，因为他们的能力已经超越了人类。谢尔盖·布林在2014年宣称:“我们希望创造一种比人类拥有更好的思维、推理和工作能力的机器。”谷歌公司联合创始人的预测标志着文明的改变:硅将超越神经元。算法可能不会杀死我们，但它可以创造一个革命性的局面。
人工智能将把人类带入一个没有更多工作和金钱的文明。过去，人工智能一直是科幻小说的主题。未来，它的实现只是时间问题:计算能力的爆炸式增长使得人工智能有望在未来几十年内超越人类智能。
让-米歇尔:你用了“智力”这个词。我发现这个词现在被广泛使用:智能手机、智能汽车、集体智能等等。形容词“智能”将与所有能够释放和接收信号并做出相应反应的事物联系在一起。这真的合理吗？
智力概念本身的语义收缩是一种迹象:一种幻灭的迹象，或者是人类自我呈现令人不安的简化的迹象。行为主义人类观念的盛行使我们每个人都成为受害者。20世纪初为公立学校低能儿发明智商测试的心理学家阿尔弗雷德·比奈可以说服我们:“什么是智力？答:这是我的测试标准。”当然，可能有必要终结一种把智力变成一种灵魂能力的哲学观念。这种想法认为，上帝给灵魂注入了一些永恒的思想，正是有了这些思想，我们才有能力解决问题，因为我们对环境刺激的反应本能太少了……我们需要一门智力科学。
但这门科学的引入，是否意味着所有的智能都是通过计算体现的，也就是说，不仅是计算，还有计算？这就解释了算法机器不断取得胜利所带来的问题:所有的智能都是通过计算体现出来的，所有的生物都需要通过计算来辨别方向、做出反应、做出决策，而机器可以快速完成所有这些事情，它们的速度也会越来越快。人类用自己的智能去设计制造这些机器，然后人类被它们超越，那么人类就会灭亡！
劳伦特:你的想法和哲学家的一致。哲学家担心人工智能的使用会导致自由意志的终结，他们做出了很多毁灭性的预言。我们担心的是，超级人工智能会成为人类的敌人。
DeepMind的创始人认为这种情况几十年都不会发生，但我们真的能放心吗？教机器欺骗、支配、超越人类合理吗？教他在围棋游戏中隐藏自己的意图，还是采取强硬激进的策略，才是明智之举？来自NBIC的专家尼克·博斯特罗姆支持这样一种观点，即在宇宙的一个区域中只能有一个智能物种。因为所有智能物种的首要目标都是生存，人们可能会担心，人工智能为了防止人类将其扼杀，会将自己的攻击意图隐藏在互联网深处。我们甚至无法理解它的计划:2016年3月，阿尔法狗击败了世界上最好的围棋手。比赛一开始就被认为是下棋的严重失误，但其实是天才，证明了人工智能有着超越人类理解能力的巧妙策略。
尼克·博斯特罗姆，哲学家，牛津大学人类未来研究所创始所长。
我们不知道2050年前人工智能是否会对人类产生敌意，但如果我们不抓紧改革我们的教育体系，革命可能会发生。这不仅仅是技术的问题，这将是一场由世界99%的人口发起的真正的革命，因为他们在人工智能占主导地位的世界里没有立足之地，他们被盲目的教育置于可怕的绝望境地。目前，在学校接受培训的年轻人将进入劳动力市场，这种情况至少会持续到2060年。这些学校必须做出前瞻性的努力，以应对未来世界的变化，并需要确定人类智能在哪些领域是必不可少的或应该与人工智能合作，并在此前提下指导学生。
让-米歇尔:我发现你对智力的定义非常狭隘。稍有常识，我们就会发现，智力可以通过多种方式来表达，即与自己所处的环境建立和谐稳定的关系；稍微有一点政治意识，我们就会质疑普遍接受的深入偏远地区的计算逻辑。
心理学家霍华德·加德纳认为，有8到9种认知能力是物体、植物、动物或GAFA所不具备的:感知节奏和音乐的能力、内省的能力、沟通的能力、处理与自然关系的能力、感知存在的能力……至少这些能力可以保护人类不被机器羞辱，至少不用关注“大多数中国人将智商超过160，大规模征服世界”这样危言耸听的担忧。
劳伦特:你似乎忽略了我们已经处于一个算法世界。阿尔法狗标志着人工智能战胜人类的开始:几乎没有人类活动可以幸免。短期来看，硅脑的到来给大多数职业带来了巨大的挑战:如何在一个智力不再固定数量分布的世界中生存？
到目前为止，每一次技术革命都体现在产业之间的职业转移上:例如，从农业到工业。人工智能的到来带来了很大的风险，因为很多职业不是被转移，而是被摧毁。甚至一些需要资质的工作也不例外！在放射学方面，人工智能在诊断某些类型的肿瘤细胞转移方面已经超过了人类。脸书大学人工智能研究主任杨丽坤预测，人工智能将很快超越最好的放射学家。
让-米歇尔:杀死人体，杀死人的精神或夺走人的工作。人工智能将以不同的方式成为人类的杀手。机器人专家经常不同意生命未来研究所表达的担忧，这也是我在我们交流开始时提到的公开信发表的根源。最近，当阿尔法狗打败人类时，他们公开表达了这种态度。此前，他们在《深蓝》中击败了国际象棋冠军加里·卡斯帕罗夫，在《危险边缘》中击败了沃森专家系统在节目中获胜非常低调。为什么我们不听他们的话，让自己恐慌呢？可能是因为他们设计制造的机器的复杂程度给我们留下了深刻的印象。事实上，很难想象阿尔法狗体内放置了什么样的平行多层神经系统装置来指导它的动作。
为了纪念计算机诞生50周年，《深蓝》在美国费城的六场比赛中与卡斯帕罗夫进行了一场世纪大战。它赢了第一局，但最终以2-4输了。
一般来说，无知让我们感到无助，所以我们认为人工智能会毁灭人类。天要塌下来了——这是雷·库兹韦尔告诉我们的！然而，这些机器人专家并不担心他们的智能行为。有些人甚至想给他们的机器注入意识。他们制造危言耸听，同时声称要摧毁它。为了避免纵火消防员的出现，他们必须清醒，但他们不能，因为很长一段时间以来，我们还没有对舆论中心的情报问题有一个清晰的认识。
劳伦:但是我怎么才能醒来呢？谷歌的人工智能可能不会被禁止，但对硅脑的控制应该在全球范围内重新考虑，尤其是因为谷歌的胜利将加速那些将人工智能置于人类文明中心的互联网巨头之间的产业斗争。未来几十年，人工智能警察将非常重要。GAFA和IBM在这方面投入了大量资金，但谷歌是其中最大的。
进入后人类时代的未来是不是很不自然？
《美丽新世界》是奥尔德斯·赫胥黎于1931年创作的一部预言小说，描述了一个极权主义的世界，在这个世界里，国家有权筛选婴儿，决定他们是否能够生存，并根据他们的生物潜力将他们分配到相应的社会阶层。但是随着技术的飞速发展，赫胥黎的乌托邦可能很快就会成为现实。怎么处理？
《美丽新世界》，奥尔德斯·赫胥黎著，陈超译，上海译文出版社，2017年1月。
劳伦特:人类在21世纪的变化可能比过去几千年更大。我们应该做什么样的预测？我们的思想不准备考虑那么远的事情，所以可能会有两种极端的猜测，一种是理想化的，另一种是相反的，极度黑化的。第一反应是预测人类的消失:我们将进入一个由疯狂的科学家领导的冷酷、敌对、不人道的世界。生物保守主义者认为，拥有电子元件的后人类不再是人类。他们本能地认为这个未来是不自然的。
我们从未见过技术革命的到来。我们讨论的超人和后人类的概念可能是好莱坞科幻小说。尤其是在欧洲，NBIC技术能够带来的进步并不是特别为人所知。对于普通公民来说，我们将在几十年后成为后人类。这个想法可能就像另一个千年理论。但值得记住的是，乌托邦随时都会被严肃的人嘲笑。
让-米歇尔:从技术上讲，我们对未来的盲目并不是没有根据的。尽管如此，反乌托邦并没有消失；他们只是改变了语调，声称他们的表达将基于科学家建立的事实或未来技术专家推动的现实。我们非但没有从极权主义中吸取教训，反而越来越重视能够促进某些技术发展的宣传:创造人类、操纵人类基因组和情绪、消除人类存在焦虑和增加偶然性、使人类能够永生等等。
超人道主义者承诺给我们带来的快乐，就像群居昆虫所具有的状态一样:它们相互联系，保持稳定的内部环境，没有痛苦。
劳伦特:你谈到了生物极权主义的威胁。我认为，因为生物技术革命可以使人类增强自身力量，战胜死亡，所以人类不应该抗拒它。考虑到习俗的快速演变，到2080年，当你周围的人都是“天才”，几乎可以长生不老的时候，谁还会继续做一个老弱病残的人？当生物芯片提供的人工智能优于百万人脑之和，可以立即访问所有数据库时，谁会满足于只有普通的智商和简单的人类记忆呢？人类群居的本能，集体带来的压力，“处于社会标准”的必要性，将是大多数人支持生物技术的保障。
本文节选自劳伦特·亚历山大和让-米歇尔·柏尼尔合著的《未来人类的终极12个问题》一书，该书已获出版社授权出版。内容与原文相比有删节和修改，字幕由编辑添加，但不归原文所有。
作者|洛朗·亚历山大·让-米歇尔·柏尼尔
整合|和安安
编辑|余
校对|翟永军
