书读人工智能（三）“黄昏”还是“黎明”

　　人们对人工智能快速发展的担忧，集中体现在人工智能对人类智能的替代与超越，甚至有人认为人工智能的发展，将拉开人类灭绝的序幕，这被隐喻为“人类的黄昏”。

　　农业，让人类不再四处迁徙。今天，在发达国家和地区，从事农业生产的人口已经低于1%。但农业所提供的食物、棉花等依然是人类所必须的。

　　工业，大量农村人口涌向城市，工业化和城市化得以发展。今天，在发达国家和地区，从事工业生产的人口也不高于25%了。即便在今天的中国，GDP中的一半以上，也已经来自于服务业，而不是制造业。不过，很显然，制造业所提供的工业制成品，依然是现代社会人们日常生活所必须的。

　　进入后工业时代，服务业快速发展，大量就业人口被吸纳进服务业。产业升级也带来了更好的就业环境。

　　技术发展总会带来一些岗位流失和失业。卢克·多梅尔（Luke Dormehl）指出，随着新技术的问世，社会上现有工作的数量、类型和组成都会发生改变以适应新技术。在1847年法国人安东尼·勒迪耶（Antoine Redier）发明可调节机械闹钟之前，巴黎存在一种“敲窗人”的职业。不过，正如历史一再显示的，这类替代，无疑是一种进步。换言之，把人们从繁重的、危险的、肮脏的（所谓3D）和低附加值的生产活动中解放出来，本身就是科技进步的一个动力。约翰·马尔科夫引用1966年末兰德公司一份近2000页的报告（正文115页，附件1787页，其中对计算技术影响分析的部分长达232页）说：“技术消除的是岗位，而非工作”——技术性取代将成为对经济成长来说暂时但必要的垫脚石。

　　一般而言，科技进步还会创造更多的就业机会。科技正是因为能够创造出更多的更高收入的就业岗位，才一次又一次推动着经济发展和社会进步。多梅尔指出，1990年以后，有1500多种新工作正式出现，其中包括了软件工程师、搜索引擎优化专家、数据库管理员和在电子游戏中使用人工智能鼓舞数百万“粉丝”的游戏开发者。2014年，英国有6%的劳动力在新兴工作领域工作，大城市最为集中。2004年，在伦敦市中心的新兴工作占8.6%，10年以后上涨到9.8%。可以说，在许多新型技术行业中，进入这些工作领域的劳动者和企业家首先出现在城市中，之后将扩散到其他地域。马尔科夫引用2013年2月发布的一篇研究说，到2020年，机器人产业在全球范围内直接和间接创造的岗位总数将从190万增长到350万；次年发布的修正版报告指出，每部署一个机器人，将创造出3.6个岗位。互联网已经创造了新的岗位类别，比如“搜索引擎优化”，未来，肯定还会有其他互联网驱动的、意想不到的新工种出现。

　　人工智能可能有所不同，原因在于是智能仿真。佩德罗·多明戈斯（Pedro Domingos）认为，工业使手工业自动化，信息促进了更广泛的自动化，而人工智能和机器学习则使自动化本身自动化。“自动化本身的自动化”，使得事情开始变得不寻常。杰里米·里夫金认为“生产重构，以及机器人对人类劳动力的永久性取代，已经开始给数百万工人的生活带来了悲惨的代价。”

　　关于机器对人类劳动的替代，从工业发端之时，这种争论就已经开始了。根据传说，一位年轻而愚钝的男孩Ned Ludd破坏了两个纺织厂的机器。自从那以后，只要工厂的设备被神秘破坏，人们都会说，“又是Ned Ludd破坏的”。1812年，绝望的织工形成了一个秘密的组织——城市游击队。他们威胁恐吓工厂主，很多工厂主都屈从了。当问及他们的领导是谁时，这些游击队员会回答：“当然是Ned Ludd司令。”

　　对人工智能到底是会带来更多就业，还是会削减更多就业，争论将可能仍然持续下去。中短期来看，有理由相信，创造出的岗位会多于消失的岗位。但是，一旦“自动化的自动化”得以真正启动开始迭代，很难相信还能否继续创造更多的就业岗位。

　　进入现代社会以来，大多数人都感觉生活的更文明了，社会也更公平了。不过，有人却清醒地指出：不变的历史趋势就是权力、财富和资源逐渐集中在少数人手里。在颠覆性人工智能的时代，这一点也不会改变。生产资料（在这里就是人工智能技术）将仍然由少数有实力的大公司和个人控制。

　　智能科技带来的“赢者通吃”机制，使财富加速向科技巨头集聚。早在前些年，亚马逊的员工平均营收为85.5万美元。而沃尔玛，作为最大的实体零售商，则不过21.3万美元——零售业的最高收入之一。这就意味着为了完成100万美元的销售额，沃尔玛需要雇佣5个人，但亚马逊只需雇佣1个人多一点就够了。卡普兰随后指出，亚马逊所仰仗的正是智能科技。早在2016年，就有一项数据显示：全球最富有的1%的人，控制的财富已经超过了50%。琳达·麦奎格和尼尔·布鲁克斯根据美国的数据指出，在1980年和2008年之间，位于底部的90%的人口的收入增长了不到1%，平均增加额只有303美元。同时，位于顶端1‰的人的收入增长了403%，人均增长高达2190万美元。最富有的30万美国人如今享受的收入几乎与底端的1.5亿美国人的一样多。

　　网络经济的另一面：“免费”工作挤出有偿职位。阿伦·拉奥和皮埃罗·斯加鲁菲谈到美国2008年以来无就业增长时，认为美国旷日持久的失业原因之一是免费的社区内容。它创造的是不付薪的工作（诸如维基百科、Facebook、Twitter、Flickr和YouTube）。拉奥和斯加鲁菲甚至说道：那些免费提供知识的人是在工作，但他们没有就业，他们的工作是无偿的，并且出于他们自己的意愿；即使奴隶也不会这样做。他们带来的实际效果就是把现有的知识工作者赶走。具有讽刺意味的是，他们往往是同一批人。那些上传免费的图片、文字或视频的人，也正是（直接或间接地）需要寻找另一份（往往是报酬较低的）工作的人，而这种境遇正是他们提供免费劳动（直接或间接的）的后果。事实上，网络经济正朝着一种由一个人运营的经济演化。现在的网络工具能够使得仅仅一个人就可以完全在网络上建造一条装配线，生产为大众市场提供的产品和服务。这种一人生意一旦运转，其成功基本上取决于有多少人愿意无偿地贡献内容，也就是在互联网上能收获多少免费的劳动。布莱恩约弗森和麦卡菲断言：免费，满足了我们的生活，却对GDP毫无贡献，甚至还造成了GDP的下降。当然，需要看到的是，关于软件和互联网带来的福利，尚未充分被吸纳进GDP中，现在还有不少争议。

　　共享经济的异化发展带来了“经济奇点”。史蒂文·希尔认为，“经济奇点”正在来临，财富集中在极少数特别有能力的人手中。正是因由互联网等技术的发展，很多曾经的非核心工作被“外包”了，那些本应在谷歌、亚马逊等领工资的劳动者，现在不得不拿1099“独立合约人”（Miscellaneous Incom，MISC，杂项收入）表格。雇主在获取服务的同时，却不必为“1099工人”担负健康成本、退休、失业或者工伤补贴、午休、加班、残疾、疾病、节假日离岗及其他成本。支付给合同工人的只是他们在劳动过程中所花费的定量时间，而且这种工作时间正在被一件件“微工作”缩得越来越短。很多人不得不更加辛劳地工作，从早到晚，一天要打好几份工。美国劳工部报告显示，全国有比以往任何时候数量都多的临时工，约280万人，占总就业人数的2%（2015年）。作为共享经济的鼻祖之一，Airbnb在被调查的18个城市中，44%的总收入和45%的总客源都来自那些同时出租多套房屋的房主，而不是那些空闲房间的出租。而这些房间曾经住满了租客，现在，他们不得不搬迁得更远。希尔有些义愤填膺地说：这根本不是什么“共享”，这只是原始的、赤裸裸的资本主义。希尔认为应该加快建立新经济下的新型制度安排，如MEWA（多雇主福利安排）、“缩时工作制”等。

　　在20世纪末以前，就业一直随着生产率的增长而增长。从那以来，工作的增长就同生产率的提升分离了。布莱恩约弗森和麦卡菲接着说，我们不确定，但我们对技术的解读告诉我们，指数级的、数字化的、组合式创新的力量，以及机器智慧和网络智慧黎明的到来，都在预示着社会发展的更大突破。

　　随着大数据和弱人工智能等的持续深入应用，越来越多的工作都有智能助理介入了。当然也因此带来了一些问题。正如佩德罗·多明戈斯所说，人们担心计算机会变得过于智能而统治世界，但真正的问题是，它们还很愚蠢的时候就已经开始统治世界。

　　个人数据（关于用户的位置、通话、Web浏览和偏好的数字信息等）被称为“新经济时代的石油”。据研究，世界上90%的数据是和人的行为有关，而人的行为基本上是可预测。通过大数据，应用人工智能，就可以进行精准的个人画像。Facebook的面部识别系统就是通过分析740万张图像来训练系统的，这些图片是Facebook12.3亿活跃用户的脸。

　　吴军指出，大众在大数据时代对自己的隐私如此不在意，可能有三个原因。首先是不清楚大数据最终会严重侵犯个人隐私，因为在过去的技术中这不是问题。其次是抱着侥幸的心理，认为那么多用户数据，怎么可能数据的拥有者和操作者正好挖掘到我的隐私，事实上这不需要人工去做人肉搜索，计算机可以自动完成挖掘任务，而且做得非常智能。最后，很多人会觉得，我既不做什么坏事，也不担心行踪被暴露，也不是什么名人怕大家知道什么秘密，那些拥有我的数据的公司即便知道我的隐私，也损害不了我的利益。这种想法实际上是大错特错，因为用户的利益在隐私暴露之后很容易就被损害。

　　讽刺性的是，乔治·奥威尔这位预见技术敌托邦的大师，发现在其创作《1984》的伦敦公寓的方圆200码之内，安装了32部闭路摄像头。

　　不仅如此，对大脑的扫描，能够更方便地了解一个人的心思。1990年，日本物理学家小川诚二（Seiji Ogawa）和他的同事创立了一种脑成像技术，称为功能性磁共振成像，简称fMRI，由于能够找出哪部分大脑对某些类型的行为负责，它创造了许多令人瞩目的成就。也许未来经过扫描，人工智能就可以重建人们看到和听到的信息了。

　　尤瓦尔·赫拉利就不无担心地指出，过去的人文主义呼吁着：“聆听自己内心的声音！”而现在的数据主义则呼吁：“聆听算法的意见！”

　　在《算法时代》中，卢克·多梅尔就提到了所谓的“预测式警务”——基于计算机科学的发展，犯罪数据的收集与分析工作有可能做到“准实时”，因此在将来可用于提高预测、预防和响应犯罪行为的效率。

　　2008年，一位剑桥大学的年轻研究人员迈克尔·科辛斯基（Michal Kosinski）开发了一项可以在Facebook上进行的OCEAN测试。OCEAN的5个字母分别代表5种性格特性：开放性（对变革和新体验的接受性）、责任心（追求完美的倾向）、外向性（社交能力和与人相处的愿望）、亲和性（体贴和配合）、神经过敏性（是否易于不安或焦虑）。数千、数百万名用户将自己的人格偏好发给了他。到2012年，科辛斯基证明：“平均来说，根据一名用户在Facebook上的68个‘爱好’就可以推测其肤色（95%的准确率）、性取向（88%的准确率）、亲党还是共和党（85%的准确率）。”科辛斯基仅仅将结果用于学术和研究，但这对涉及活动的组织而言如同一个宝藏。伦敦的SCL（战略通信实验室）集团于2014年聘请科辛斯基前去工作。科辛斯基拒绝了这家公司的邀请，因为他不希望将他的研究用于商业。

　　2013年，SCL集团宣布成立一家公司。这家名为剑桥分析的公司使用OCEAN模型，专门从事宣传活动的精确微定位。该公司的绝大部分资金来自对冲基金管理者、亿万富翁兼特朗普支持者罗伯特·默瑟（Robert Mercer），特朗普的前首席战略师斯蒂芬·班农（Stephen K. Bannon）在这家公司的董事会中也担任重要职务。剑桥分析通过OCEAN测试以及购自Acxiom和Experian等第三方公司的个人信息，获得了超过2.2亿美国人的精确人格信息。

　　阿米尔·侯赛因由此认为，我们正进入一个人工智能增强操控的时代，一些人指挥着狭义人工智能开始入侵我们的认知，而且这种入侵正在变得越来越精密和快速。说到底，人，而不是技术（包括AI），才是最危险的。

　　他的担心不无道理，诺巴克什同样认为，由于精心设计的、自动化的互动试验和数据挖掘，人们的被完美地操控，那么民众做出的不再是真实的选择。相反，互动新媒体将真正取代独立的个人判断。

　　从“技术奇点”到“经济奇点”，似乎从20世纪90年代以来，科技创新给人们带来的有增长、有发展，更有困惑。也许，这正意味着新一轮科技与产业变革将更加不同。

　　泰勒·考恩说，从1880年到1940年的这段时间，难以计数的科技进步成果出现在我们的生活当中。这个超长的科技新成果清单里包括电、电灯、发动机、汽车、飞机、家电、电话、室内自来水、药品、大规模生产技术、打字机、录音机、照相机、收音机……根本说不完，伴随着电视机的发明，这个时期接近尾声。今天除了看上去很神奇的互联网以外，广义的物质生活层面并没有跟1953年差很多。系列《杰森一家》里描绘的场景并未出现——你还是没有自己的太空船，还是不能长生不老，也没去看过火星人。尽管生活是比以前好很多，但是，改变的步伐明显比过去的两三代人慢多了。这种已经持续了几十年的停滞还没算完。我们上几代人的主流就业者比我们赚得多多了，而且他们的生活质量每几十年就能改善一倍。我们现在几乎是在吃老本。

　　诺贝尔经济学得主埃德蒙德·菲尔普斯在《大繁荣》中指出，创新萎缩是1972年之后失业率上升和工资水平下降的主要原因。衰退和相关问题的根源是全要素生产率持续而普遍的增长减速，而这种减速只能归咎于自主创新的萎缩。

　　最具说服力的莫过于罗伯特·戈登在《美国增长的起落》详细说明。这位罗伯特·索洛（Robert M. Solow）（是的，就是那位“索洛残差”提出者、增长核算开创者）的高足，用了厚厚一本书，论证了1920—1970年是美国科技进步最快的时代。他指出，到1929年，马在城市街道几乎消失，而机动车辆与家庭数量的比值达到90%。人类已经基本征服了婴儿死亡难题，而医院和行医也采用了当今的从业许可和职业化的形式。工作日已经缩短。到1940年，大部分家庭实现了“五通”：通电、通气、通电话、通自来水和通下水道。到1970年，厨房充斥着大大小小的家用电器，微波炉是1970年以后唯一产生较大影响的家电产品。大部分重大变革在1970年才宣告结束。1970年之后的经济增长既让人眼花缭乱又令人无比失望。1970年之后全要素生产率的增速几乎只是1920—1970年相应增速的1/3。

　　我们的大脑是几百万年进化来的智能体。我们拥有语言和文字，可以进行方便地进行思想交流。不过，很可能我们已遇到一个瓶颈——语言和文字已不能足够快地交换我们的思想了。

　　杰夫·霍金斯指出，智能的核心是预测，预测的基础是记忆，智能的发展经历了三个时期，每个时期都利用了记忆和预测。第一个时期，生物将DNA作为记忆的载体，个体在其生命周期不能学习和适应。第二个时期出现了能快速形成记忆的可改变的神经系统，如鸟类和哺乳动物。第三个，随着语言的产生和新皮层的扩展而开始的，这是我们人类所特有的。

　　马文·明斯基认为，人类智能经过了3个大相径庭的时间跨度。一是遗传基因，造就了我们现代人的大脑。二是文化遗产，每一种文化都经历了数百年的发展变化。三是个体体验，人们都从自身的私人经验中收获数以百万计的知识碎片。

　　理查德·道金斯在其经久不衰的名著《自私的基因》中，给出了遗传基因、学习、文化“迷因”三个发展阶段的佐证。

　　玛蒂娜·罗斯布拉特引用并同意霍金斯的观点，但她在《虚拟人》中继续说道，随着虚拟人的出现，单一个体一生所学都将全部传给下一代。由于记忆和预测能力比以往任何时期都要更强，智能程度也将达到前所未有的高度，世界会迎来第4个智能时代。

　　佩德罗·多明戈斯认为，自然学习法本身已经经历了三个阶段：进化、大脑、文化。每个阶段都是前一个阶段的产物，而且每个阶段都会学得更快。逻辑上，机器学习是该进程的第4阶段。

　　库兹韦尔对智能拥有同样的观点：“进化大脑的主要原因是为了预见未来。”他将进化的历史概念划分为六个，物理与化学、生物与DNA、大脑、技术、人类智能与技术结合、宇宙觉醒。

　　如果从进化的视角来看待人工智能，不难发现，它的出现、兴起和发展，可能是进化中的重要一环——一个全息记忆、快速学习、超级预测的智能新时代的重要基石。

　　基于人工智能的帮助甚至是指引，人的创造力将极大地被激发，新一轮科技与产业变革将可能会带来类似甚至超越1920~1970年代那样更多更丰富的“低垂的果实”。

　　人工智能将可能带来前所未有的经济繁荣，也使得人们有了更高追求。1930年，凯恩斯在《我们后代的经济前景》中，预测了在一个世纪内（已经快了），持续的经济增长会允许我们在几乎不费任何气力的情况下就可以满足所有人的基本需求。他接下来区分了绝对需求和相对需求，提出一旦前者被满足，很多人就会“把自己的精力投向非经济目的”。卡普兰接着写到，他的经济分析很精准，但是让我们汗颜的是，他对财富分布的期待还没有实现。

　　泰勒·考恩认为，“日益扩大的收入差距”和“逐渐放缓的创新产出”是同一现象的两种表述。新的科技必将带来新的力量。当“低垂的果实”再次出现，很可能会出现巨大而令人预料不及的震荡，或许到那时，许多人会抱以的情绪回顾当前的这个时代。

　　赫拉利的《人类简史》副标题“从动物到上帝”，《未来简史》副标题“从智人到智神”。他认为，智人们已经达到前所未有的繁荣、健康与和谐，而由人类过去的记录与现有价值观来看，接下来的目标很快是长生不死、幸福快乐，以及化身为神。

　　赫拉利认为，人类有两种基本能力：身体能力和认知能力。在机器与人类的竞争仅限于身体能力时，人类还有数不尽的认知任务可以做得更好。然而，一旦等到算法在记忆、分析和辨识各种模式的能力上超过人类，会发生什么事？

　　如果认为人类永远都能有自己独特的能力，无意识的算法永远无法赶上，这只能说是一厢情愿。对于这种空想，目前的科学反馈可以简单概括为三项原则：

　　③因此，没有理由相信非有机算法永远无法复制或超越有机算法能做的事。只要运算结果有效，算法是以碳来表现还是硅来表现又有何差别？

　　迈克斯·泰格马克也指出：计算的“物质层面的独立性”暗示着我们，智能的出现并不一定需要血肉或碳原子。

　　大刘（刘慈欣）也讲过，根据过往人类的发明来看，如就飞行本领来说，飞机要比鸟类强大多了，因此，没有理由不相信人工智能没有可能不超过人类——就智能本身而言。

　　持同样观点的，还有孙正义，他投资的ARM公司（你正在看这篇文章的手机，其中的核心芯片，就是ARM定义的，不管你用的是华为还是苹果，抑或其他品牌的手机）、波士顿动力机器公司、合成生物公司正参与这一历史进程的创造。

　　泰格马克说，在2015年波多黎各会议上，与会人士认为，人类水平的通用人工智能会在2055年前发生。在两年后举行的后续会议上，这个预期已经提前到了2047年。

　　赫拉利断言，21世纪的主要产品将会是人的身体、电脑和心智，懂得与不懂如何进行这些大脑及身体工程的两种人，彼此的差距将远远大于的狄更斯的英国和马赫迪的苏丹。

　　数据越来越多，算力越来越强，联接越来越广泛，万物互联正将从互联网、物联网到脑联网囊括其中。思科系统公司估计物理世界中存在着1.5万亿个“物体”，而且99%的“物体”最终都会成为某个网络的一部分。米格尔·尼科莱利斯认为，未来10~20年，脑机接术将变得更加普遍，它可以使我们将计算与虚拟工具、装置及环境融合起来。凯文·凯利说，一个人的大脑很快就能和其他人直接连通了。这种全球化心智包括了所有人的集体智能、所有机器的集体行为、自然界的智能相结合形成的整体以及出现在这个整体中的任何行为。

　　人们很希望一个透明的人工智能系统，但难度却越来越大。卢克·多梅尔指出，“透明”一词的含义已经变得异常晦涩难解了，它是指我们在不了解其原理的情况下让某事顺利进行。用麻省理工学院精神分析学家雪莉·特克尔的话来说，现在说到计算机时，人们考虑越来越多的是其“界面价值”（interface value）。微软工程师亚历克斯·吉普曼完美地概括了界面价值的含义。在接受《纽约时报》记者的采访时，吉普曼骄傲地解释说，人类正在逐渐过渡到“技术对人类的理解越来越深刻，而人类却无须理解技术的时代”。当今我们面临的决定也相似：当我们开始制造庞大的、超人类的、难以理解的人工智能——它们会统治世界吗？我们会不会最终变成它们中的一个组件？

　　我们的未来是更强的灵长类，还是群集智能的高级蜂群，真不好说。泰格马克说，人工智能的尺寸越大，它产生全局思维的速度就越慢，因为信息在各部分之间流动的时间更长。一个地球大小的人工智能每秒钟大约只能产生10个意识体验，和人类差不多；而一个星系大小的人工智能每10万年才能产生一个全局思维。所以，就算我们的宇宙拥有了意识，到目前为止，它所产生的体验也不会超过100个！这会促使大型人工智能将计算过程委派给尽可能小的子系统，以加快速度，就像我们委派给一个小而快的无意识子系统一样。这意味着，如果未来一个巨大的人工智能拥有了意识，那么，它的几乎所有信息处理过程都是无意识的。这也意味着，如果一个由较小人工智能组成的我们突然提升了其交流能力，从而涌现出一个有意识的蜂群智能（hive mind），那么，那些速度更快的个体意识就会突然消失。的确，你甚至可以想象，意识可能组成了一个嵌套式的层级结构，从微观尺度一直嵌套到宏观的宇宙尺度。

　　1991年，帕克研究所（PARC）首席技术专家马克·韦泽（Mark Weiser）写了一篇名为“无处不在的计算”的文章。开头是这样的：“影响最深远的技术是那些消失的技术。它们将自己融入日常生活之中，以至我们无可分辨。”也许，人工智能就在我们身边悄悄地成长起来。

　　自动驾驶等的快速发展，使得人工智能的权责问题已经摆上议事日程。卡普兰说，希望人造人拥有资产的呼声会很强烈，因为这样的资产可以用于独立于人造人所有者的没收和罚款。合成智能的拥有者也会赞同把合同权利和财产权利赋予人造人，因为这样做会潜移默化地免除他们个人资产的责任。约翰·胡克借鉴了奴隶制的历史性分析，指出奴隶具有代理人（agency）的特征。人类代理人的正式概念需要两个条件：一是做出选择的能力；二是在现实中执行此选择的能力。只要人们将一个机器人看做是代理人，那么从道德的角度来看，就必须给予机器人与人相同的权利。

　　“超级人类主义”将可能超越人文主义成为未来人类社会的新。吕克·费希认为，超人类主义不仅旨在提高人类智力和道德，它还帮助人类摆脱与年龄、疾病、衰老和死亡相关的痛苦。

　　多明戈斯认为，计算机程序是世界上最快速的复制者，但创造它们却比较缓慢（如果这件事由人类完成）。机器学习克服了瓶颈期，留下最后一个：人类可接受改变的速度。这个到最后也会被克服，但并不是因为我们决定将东西移交给我们的“智能后代”，人类并不是生命之树上垂死的枝丫，相反，我们开始出现分支。这就是“技术人”。

　　波斯特洛姆认为，21世纪下半叶及以后，必须考虑到可能会出现一代基因增强的人群，他们可能是选民、发明家、科学家。而随着这些人繁衍，其基因增强的幅度还会更大更快。

　　未来，在你所提供参数的基础上设计细胞的计算机，以及以同样方式在功能规格的基础上设计微芯片的硅编译器；对应的DNA可以合成并插入一个“通用”细胞，将其转化成想要的那个；新的病原体一经确定，治疗方法立刻就被发现，你的免疫系统从网上将它下载下来；健康问题变成矛盾修饰法，然后DNA设计会让人们最后拥有他们想要的身体，迎来买得起的美丽时代……威廉·吉布森说了上述让人记忆深刻的线

　　无尽未来：未来已来，现在不再有不少通往人类水平和更高水平人工智能的合理路径，而且每一条路径的每一步在技术上都是可行的。时间表其实无所谓，除非你希望奇点及时出现，能够推动医学研究以延长自己的寿命。但是，默里·沙纳汉接着说，比你我寿命更重要的是我们留给子孙后代的世界，这一世界可能会因为人类水平人工智能的出现而被完全重塑。

　　18世纪40年代，本杰明·富兰克林设计的“宾夕法尼亚壁炉”采暖和排烟效果都很好，人们可以安心地关上房门。从此，在人们的心中，家变成了至圣所，披上了隐私与安全的外衣。

　　早期，烟囱清洁工的生活是十分艰苦的。烟囱清洁工中有很多都是儿童，因为他们体型较小，能够进入狭窄的烟囱道，而成年人却不能。他们当中，最小的三岁就开始当烟囱清洁工了。卢克·多梅尔说，由于长到9~10岁时他们的身体就无法再进入烟囱道，有些老板故意不让这些孩子吃饱，这样他们就可以一直在烟囱道里扫烟囱了。从烟囱上坠落或卡在烟囱里没人发现都有可能造成烟囱清洁工的死亡。还有许多孩子因长期吸入烟灰而造成了不可逆的肺部损伤。

　　古埃及的金字塔是令人叹为观止的巨大工程。很多人会认为，为了服务个人而耗费巨量的无用功可能会导致暴力，帝国也会因此而崩塌。但古埃及在几千年的时间内系统和经济系统都相对稳定。

　　卡普兰说，我们不需要劫富济贫，而需要精心设计税收鼓励项目、组合透明度以及增加的个人资产调配控制，这样将获得一种在财富越来越集中的浪潮中避免翻船的方法。

　　历史学家莫里斯指出，在石器时代，人们生活在争斗不休的小社会中，有十分之一甚至五分之一的可能会死于暴力。与之相反，在20世纪，即使人类经历了两次世界大战等大小战乱，每100个人也只有1个人死于暴力。

　　无尽的想象力，无尽的创造力，无尽的前沿，无尽的未来一团物质到底能进行多少次计算？麻省理工学院的塞思·劳埃德的研究表明，当今最先进的技术与物理的极限之间，还有庞大的33个数量级（

　　1033倍）需要跨越。也许，现在还不到担心技术极限的时候。最后，列出一些人工智能科学家和作家们的展望，从中可以看出，未来如此不一样。也正因此，才更值得我们去预见、去探索、去实现！

　　人工智能不会像聪明的坏人一样，试图奴役人类。人工智能、机器人、过滤技术、追踪技术以及其他一切技术将会融合在一起，并且和人类结合，形成一种复杂的依存关系。杰瑞·卡普兰：

　　更有可能的是圈养我们，或者把我们放进保护区，让我们生活得惬意且方便，并失去探索边界以外的世界的动力。尤瓦尔·赫拉利：

　　我们必须播下人工智能的种子，这是我们的终极发明。我们还必须赋予它们转化为最终形态的能力和权利。有朝一日，它们也将去寻找缺失的环节，它们可能会感知到我们理解范围之外的目标。我们即将进入一个人类最具创造力的——人工智能时代。佩德罗·多明戈斯：

　　人们想要不朽的原因只有两个：你正在享受生活；你认为如果继续活下去，你最终会享受生活。我渴望见到1000亿拥有人类级别意识的新生命。我们正处在从“智慧之人”（wise man）向着“有创造性的人”（creative person）转变的过程中。我认为，在宇宙中没有什么比健康、快乐的人类意识更加宏伟壮丽。正如科幻作家卡尔·萨根所言，

　　自我繁殖的超级智能机器不受任何地球生物需求的限制，能够承受对人类而言致命的极端温度和辐射量，在心理上不会因为要在星际空间穿行数千年而有任何不安，非常适合殖民整个银河系。从宏观来讲，促成这种未来变为现实可能就是人类的宿命，即使人类自身（未增强的）生理和智力都无法使人类参与其中。弗里德里希·尼采曾经说过，在未来思想者的门口，竖着这样的标牌：

　　“我又算得了什么！”。作者：李万（1973~），男，上海市科学学研究所副所长、研究员，研究方向为科技创新战略与规划、技术预见与技术路线图、科技创新政策等。文章观点不代表主办机构立场。