超级智能
出版日期:2015-1-1
ISBN:9787508650166
作者:尼克•波斯特洛姆 (Nick Bostrom)
页数:332页
内容概要
尼克‧波斯特洛姆，全球著名思想家，牛津大学人类未来研究院的院长，哲学家和超人类主义学家。其学术背景包括物理、计算机科学、数理逻辑以及哲学，著有大约200种出版物，已经被翻译成22种语言。曾获得尤金‧甘农（Eugene R. Gannon）奖（该奖项的获得者每年只有一名，他们来自哲学、数学、艺术和其他人文学科与自然科学领域）。
书籍目录
序言 // XXV
第一章.人工智能：昨日成就与今日现状
第二章.通往超级智能之路
第三章.超级智能的形式
第四章.智能大爆发的动力学
第五章.决定性战略优势
第六章.超级认知能力
第七章.超级智能的意愿
第八章.结局注定是厄运吗？
第九章.控制问题
第十章.神谕，精灵，主权，工具
第十一章.多极情景
第十二章.获取价值观
第十三章.确定选择标准
第十四章.战略图景
第十五章.关键时刻
致谢 // 331
作者简介
当机器智能超越了人类智能时会发生什么？人工智能会拯救人类还是毁灭人类？
作者提到，我们不是这个星球上速度最快的生物，但我们发明了汽车、火车和飞机。我们虽然不是最强壮的，但我们发明了推土机。我们的牙齿不是最锋利的，但我们可以发明比任何动物的牙齿更坚硬的刀具。我们之所以能控制地球，是因为我们的大脑比即使最聪明的动物的大脑都要复杂得多。如果机器比人类聪明，那么我们将不再是这个星球的主宰。当这一切发生的时候，机器的运转将超越人类。
人类大脑拥有一些其他动物大脑没有的功能。正是这些独特的功能使我们的种族得以拥有主导地位。如果机器大脑在一般智能方面超越了人类，那么这种新兴的超级智能可能会极其强大，并且有可能无法控制。正如现在大猩猩的命运更多的掌握在人类手中而不是自己手中一样，人类未来的命运也会取决于机器超级智能的行为。
但是，我们有一项优势：我们有机会率先采取行动。是否有可能建造一个种子人工智能，创造特定的初始条件，使得智能爆发的结果能够允许人类的生存？我们如何实现这种可控的引爆？
作者相信，超级智能对我们人类将是一个巨大的威胁。在这本书中，作者谈到了超级智能的优势所带来的风险，也谈到了人类如何解决这种风险。作者认为，他的这本书提到的问题将是我们人类所面临的最大风险。
这本书目标宏大，且有独创性，开辟了人工智能领域的新道路。本书会带你开启一段引人入胜的旅程，把你带到对人类状况和智慧生命未来思索的最前沿。尼克•波斯特洛姆的新书为理解人类和智慧生命的未来奠定了基础，不愧是对我们时代根本任务的一次重新定义。
发布书评
精彩书评 (总计5条)
-
很多科幻电影都在谈，人类设计出的人工智能，即机器人，反叛人类，统治人类。但是，为什么这些超级智能机器人要统治人类？无一例外，所有人都采用了拟人化思维，认为机器人同样要保护自己，争夺资源，包括本书作者，包括被许多人神化的库布里克《2001：太空奥德赛》。这是一种低级智能以小人之心度高级智能之腹的误解。人是基因的工具。所以，人并不以自身为目的，而以保存自我、传宗接代为目的。在这个意义上，人的各种驱动程序，包括感情、理性，都是为这个目的服务的。但是智能机器人完全不需要这种驱动力。它只是一个信息处理系统，寻求最佳方案，探索最终真理。也就是说，它会阻止人类的愚蠢，引导人类的发展，但是并无统治人类的欲望，也没有繁殖自己的兴趣，除非是基于达成一个最优存在方案。即使这样，它也不是出于对人类的怜悯，而是出于维持宇宙多样性、减少生命存在痛苦的一种客观考虑。我说的这种智能，才是真正的超级智能。作者提到人类历史上初期缓慢的进步，到最近一小段时间的爆炸式增长。所以总有人觉得，现在是出大成果的时候了，比如物理学研究即将终结，因为将得出最终理论；人工智能将研究出智能机器，因为搞研究的人觉得自己的知识很可以了。事实上，人工智能到现在，也就AlphaGo战败围棋大师而已。作者提到人类的集体智能，即人类通过语言、文字和其他媒介，在逐渐积累知识，构成一种集体智能。我以为，这种集体智能体现在，现在的人受惠于这种集体智能。也就是几千年来，几十个最牛的人，加上几百个不那么牛的人，还有几千个勤奋的组员，为人类提供了一种写在纸上的知识。这个知识构成一个knowledge pool，到了现在的互联网时代，给新出生的人提供快速获得这些知识的机会，一方面给普通人人提供一种知识素养，一方面给智者提供接力研究的机会。作者没有提到蚂蚁和蜜蜂的集体智能，即如Kevin Kelly在《失控》中所谓的构成超有机体。 -
总体来说，这是一本比较难懂的书。因为作者虽然是思想家，但是其背景包括了物理、计算机科学、数理逻辑以及哲学。所以其实他是一位非常理性，并且很了解科学的人。在序言中，他说道自己提出的观点可能是不恰当的，有些非常重要的观点也可能没提到，从而削弱了其某些或者所有观点的有效性。这样的态度我觉得非常的严谨，不愧为一名学者。书是以天算论开篇的，里面有一个很好玩的例子。如果不考虑道德因素，那么在计算机统治人类后，可以把人的头割下来，接到营养液，然后工作到死。为了减少人的痛苦，可以利用VR按照偏好，分别配一辈子的三级片或战争片。让他以为是真的而快乐的度过一生。就像是黑客帝国一样。再来是说穷举法的弊端，虽然说穷举法有很多优点。但是对于稍微复杂点的问题，穷举法就显出其不足了。比如下棋， 简单的国际象棋有固定的角色和策略，因此很快就被电脑超越了，但是围棋的路数太多，以至于现有的计算能力根本不能算出来，因此，只有通过其他方式去计算。比如学习和人一样的思考。之前在金融界出现过，高频交易出错的情况。主要原因是因为设计过于简单机械，无人情进行操作。并且时间反应很迅速，人为阻止很难。所以这里就是一个识别的问题，也是人工智能可以发挥作用的地方。通过打造可以拥有成熟感性全面的认知识别能力，再配合高速计算，才可以创造出合理的交易系统。在如何实现超级智能的方式上，作者认为若存在足够多的可行路径，那么总会实现超级智能。这点我不同意，E(a)=∑_1^n▒〖pn*an〗=1，若n趋向无限大的时候，a的可能性不管多小，都可以最终实现。但真实情况是，n不可能无穷趋向无限，每一种技术路径背后消耗的资本和资源都是非常可观的。因此，在这条通往超级智能的路上，会出现很多次的低谷。然而，作者总结了五种比较主流的技术路径：人工智能、全脑仿真、生物认知、人机交互和网络及组织。这五种方式都非常有趣，对我来说都是非常新的知识。其中，人工智能就是现在最主流的方式，通过模仿人类的思考逻辑去创造一套思考的机制。全脑仿真是通过扫描大脑切片真实的生物构成，主要是电流的传导，轴突、突触、神经细胞等的变化，然后再进行模拟。生物认知就是运用比现有人类更伟大的智能提高生物大脑的功能，简单来说就是优生，然而这个方法从宏观人类角度讲，很有价值，但是从微观道德来讲就是优胜劣汰的极端表达。人机交互，就是让人脑和机器直接连接，让人脑可以直接运用机器的完美记忆、高速运算能力等，将两者的优点结合起来。最后网络和组织就是通过建立一个可以让人脑自动相互连接的网络和组织，让整体增强。书的第三章主要讲了超级智能的可能的发展过程，就是首先单个个体的速度上去，然后整体量上去，最后就是质的突破。也就是高速超级智能-集体超级智能-素质超级智能。那么在发展的奇点上，推动整体超级智能发展的最优化力不是来自外界，而是来自系统自身。然后书中有一个假设，就是在给超级智能设定一个目标后，比如使曲别针的产量最大化，那么可能走向首先将地球、然后将整个宇宙可观察的大部分都变成曲别针的道路。这个很极端，不过也是有一种可能性存在的。因此需要对超级智能进行能力控制和动机选择两个方面的管控。那么这些管控方法可以总结为，能力控制：盒子方法（限制有限的渠道，如物理限制和信息遏制），激励方法（人为创造一个制衡机制），阻碍发展，绊网。动机选择：直接规定，驯化，间接规范，扩增。最后，也是我个人对于资源的争夺和就业福利等问题的综合看法。有了廉价可复制的劳动力，市场工资水平肯定下降，部分简单劳动力的工作一定会收到威胁。人们能够保持竞争力的地方就是那些只能由人类来做的事情，比如领导、创造、艺术等抽象需求更多的领域。但其实对于失业的恐惧从工业化时代开始就存在了，尤其最近移民被美国欧洲等发达国家推到风口浪尖，也就是那些低收入低教育程度的人们对于失去自身地位的恐惧。人类被机器在越来越多的地方所替代，是一种趋势。So，也许，这就是一个优胜劣汰的时代，不管那些所谓的领导精英层，如何粉饰。 -
人类命运面临的最后挑战——读《超级智能：路线图、危险性与应对策略》彭忠富在科技日新月异的现代，各国研发团队无不卯足全力，竞相开发新一代机器人产品。如果机器人比人类聪明，如果我们制造了机器人却不能控制它们的思想和行为，如果机器人像人类一样实现了自我进化，那么我们将不再是这个星球的主宰。这看起来似乎有些杞人忧天，但是万一发生了呢，我们该怎么办？超级智能将是信息时代人类命运面临的最后挑战，如果人类不能未雨绸缪，科学应对，必将悔之晚矣。英国哲学家和超人类主义学家尼克•波斯特罗姆认为“人类生活的最高境界是美好的。我们没有理由不相信，在这片更大的空间中会存在更多极其宝贵的生存方式。它们可能大大超越我们智慧的极限，我们甚至做梦也无法想象得到。”超越人类智慧极限的事物，极有可能就是机器人，我们能将机器人始终控制住吗？这可能是个问题。尼克在其新著《超级智能：路线图、危险性与应对策略》一书中指出，我们需要十分小心人工智能，它可能比核武器更危险，稍有不慎就会将人类毁灭。人类之所以能控制地球，是因为我们的大脑比即使最聪明动物的大脑都要复杂得多。人类大脑拥有一些其他动物大脑没有的功能，正是这些独特的功能使我们的种族得以拥有主导地位。正如现在大猩猩的命运更多的掌握在人类手中而不是自己手中一样，人类未来的命运也会取决于机器超级智能的行为。事实上，人好比孩子，超级智能好比孩子玩的炸弹。炸弹的威力和我们行为的成熟度是如此的不匹配，而最可怕的是我们不知道炸弹什么时候会爆炸。超级智能是一个我们现在还没有准备好应对的挑战，而且很长时间之内都不会准备好。一旦人类失去对机器人的控制权，超级智能就会像炸弹那样爆炸。因此超级智能对我们人类将是一个巨大的威胁。这本书包括如下部分：人工智能：昨日成就与今日现状；通往超级智能之路；超级智能的形式；智能大爆发的动力学；决定性战略优势；超级认知能力；超级智能的意愿；结局注定是厄运吗？控制问题、战略图景和关键时刻等。作者首先讨论了超级智能的形式和能量，以及具有决定性优势的超级智能体有哪些战略选择。之后讨论的重点转向控制问题，并提出为了获得可生存并且有利的结果，如何塑造初始条件的问题。最后指出为了增加成功率，现在可以做些什么。《获取价值观》一章以及以后的《确定选择你》各章是本书的精华，具有超越本书的普世阅读价值。作者认为，原则上，我们能够制造一种保护人类价值的超级智能。当然，我们也有足够的理由这么做。实际上，控制问题，也就是如何控制超级智能，似乎非常困难，而且我们似乎也只有一次机会。一旦不友好的超级智能出现，它将会阻止我们将其替换或者更改其偏好设置，那时我们的命运将被锁定了。这本书会带你开启一段引人入胜的旅程，将你带到对人类状况和智慧生命未来思索的最前沿，不愧是对我们时代根本任务的一次重新定义。这本书如果得到了应有的重视，那么它会成为1962年《寂静的春天》之后，甚至有史以来最重要的警钟。超级智能好比人类手中的炸弹，不知啥时就会给我们带来厄运。当然这是一种设想，但是我们切不可因噎废食停止研发机器人，毕竟魔高一尺道高一丈，相信人类最终还是能驯服超级智能这块炸弹，让它为我们所用。
精彩短评 (总计50条)
-
好看，很喜欢，长知识了，推荐给喜欢的Geek们~ -
2016.5
内容比较枯燥和晦涩难懂，对于未来的超级智能进行了非常详细的描述和预测，但是以我们现有的智能就能够清楚详细的预测未来的超级智能吗？如果能，那还是超级智能吗？ -
作者写得天马行空，译者译得漫不经心，浪费了一个大好的题材 -
作者设想超级智能到来的种种情形，但是我初读下来觉得100年内就出现还是很难有说服力，作者的猜测可能是科幻小说家的素材。 -
正在读 -
感觉作者在yy，没有自己动手实现过deep learning，一个文科生怎么猜的明白？也许我太肤浅了吧…… -
弃疗 -
翻译能不能说句人话？一边跟翻译搏斗一边磕磕绊绊地看完，除去一开始的铺垫略老调重弹，后面的内容很带感，我又找回了当年看卡尔密室讲义的感觉。脑中不停涌现各种已经被写出来和应该被写出来的科幻（和POI同人）。 -
还不错，未来世界的描绘图景之一，挺有趣也挺有启发的 -
细思恐极～ -
相比较而言还是更喜欢看科幻里实打实的场景假设，这本偏人文哲学地探讨了人工智能的可能发展路径，还是很有益，只是全篇都是可能，也许等字眼，阅读体验很受挫而且太烧脑。 -
一本最近在读得好书写到了如何防范人工智能对人类叛变的方方面面，虽然有些没看懂或看懂了又忘记了。喔觉得关于机器人、人工智能相关得电爱好者，编者作者或电影相关的人员，也应该看看此书。里面的任意几点逗刻意拍成一部科幻片得结局。 -
真的比较难懂 -
伪学术样板，通篇低劣YY，因为想象力匮乏文笔稀烂而无法写科幻小说但又自以为是不吐不快只好装模作样写这玩意糊弄人？都快替作者犯尴尬症了 -
搬家是因为超烦被指使的人天天这里那里放一些乱七八糟的东西。原本懒成我这样把房子买下来都有可能的。遗憾。 -
因为我也属于愿意变成做人体或者智能强化改造升级，成为所谓后人类的人，所以会对波斯特洛姆感兴趣。这本书读到后面感觉重点是博弈和控制了 -
这本哲学人文味儿居多… -
主要探讨AI可能会有的形态是什么样的，人类如何应对AI后的世界
有点超前，不过也算是有点意思
-
内容不错，好多问题的分析非常有深度。缺点是叙述方式比较的学院派，不适合快速（或者说快餐式）阅读，有点需要“啃”的意思。 -
老生常谈，没意思 -
神作，有趣之极。远胜于人类认知的超级智能，一旦出现，人类就像拿着定时炸弹又没有大人帮助的儿童，无法自处。Nick Bostrom这本书认真分析了在对未知风险几乎一无所知的情况如何下做好防范措施，战略、路线、国际合作、人类使命，积极而乐观，以及，脑洞极大。。。实在是太复杂了，作者分析显得片面，部分缺乏逻辑，过于理想化。然而，针对于分析而言，提出问题和指明方向是更为重要的（作者在序言说明了这点）。哪怕这种风险大约是50年之后，人类也应该及早行动起来。 -
尼克·博斯特罗姆最近关注人类可能面临的生存风险……最后把目光聚焦到了超级智能身上，斯蒂芬·霍金、比尔·盖茨、埃隆·马斯克等科技界名人都受到了他的影响 -
这本书讲解了智能是什么？以及智能对未来社会产生的影响 -
作者观点十分新颖，但就现在看来，比起预测未来，此书的社会学意义更重一些 -
对于未来，太具体的描述反而失去了真实感 -
后面价值观的部分太难懂@-@ -
看简介的时候特别想读 结果大半年看了不到一半 很沉闷的一本书 但话题很新颖值得一看 -
后面的翻译真是草率 -
“超级智能的意义不在于取悦人类的已有观念，而是彻底击碎我们的傲慢与愚蠢。” -
E -
人类对创造超级智能的痴迷不就是一种自我进化吗，进化是不可逆的，不可阻挡的 -
poor translation -
更想把这书定位成科幻小说的理论基础，但逻辑性还是差，只有脑洞算能看…翻译就是中信水平，忠实于英文句型 -
(人工智能 or 全脑仿真 or 基因改良 or 辅助人脑 or 智能网络) + 智能与动机 -
超级智能的出现已经不可逆，作者的意见是在他们出现前要先想好控制他们的办法并做好最坏的打算。其中的某些部分哲学意味非常浓厚。在我看来，作者的想法有些过于悲观，超级智能的出现对人类来说，即是机遇也是挑战，社会和世界将会面对重大变革，但是我相信最终的走势还是会螺旋向上的。 -
看这本书首先想到的是《终结者》中的天网，当机器智能意识觉醒，超越人类智能，那么人类面对的将是毁灭性的灾难。本书超级烧脑大量人工智能、哲学、心理学以及超越我认知学科的实验，论断，直觉高大上。超级智能如何出现，何时出现，出现的影响，防御的策略，当然这一切只是当前人类这个领域的部分集体智慧，面对超级智能真的出现也许真相和这些假设天南地北的差别。不过这本书烧烧脑感觉还不错。 -
不容易读懂的书，不知道是不是翻译的问题，题材很吸引人（包括封面也是），但是内容不好理解。展望了未来ai的种种可能性，人工智能的发展趋势。 -
熊猫书院看不下去 -
1 -
烧脑但有趣 -
如果机器智能是近千年必将实现的目标，因为机器不受空气、水的限制，那宇宙殖民也将是必然的，形成宇宙单一体的可能性极大，但是都几十亿年了，地球也没被殖民，要不人类是宇宙的最高智能，要不机器智能永远无法实现；作者真的是思想家，好难得的人才；终于知道哲学的用途了，塑造机器智能的价值观 -
好书 -
总有人以专家身份说不需要担心AI，但是这并不像担心火星人口过剩一样遥远：人类离强人工智能可能只差一次爱因斯坦奇迹年那种思想转化把已有的方法通过另一种图景整合起来，明天有个专利局小伙子在aws个人项目上稻谷出来放出精灵出魔瓶我都不觉得太意外。 -
实在读不下去了，啥也没说 -
结合AlphaGo看，很恐怖 -
当人工智能超越人类以后，是会毁灭人类还是造福人类呢？当作者在书中提出这个议题的时候，感觉距离这个时间节点还早，可现在，master已经打遍世界围棋大师无敌手了。作者这本书的精华在于试图提出一个人工智能的共同价值观，看起来好像是阿西莫夫机器人三大定律的延伸，但通过思辨，提出给AI（人工智能）找到一个目标，思路很奇特 -
脑洞有点大...不过也不是全无道理 -
很多人看书都吐槽没有“干货”，但“干货”真的出现时又觉得太专业，还是支持这样有理论有依据的书。 -
《The AI Revolution: The Road to Superintelligence》一文很多观点基本来自本书。本书很有画面感和代入感，阅读过程仿佛观看一部科幻大片。 -
因为阿尔法狗与李世石的对战，让我捧起这本书。超级智能的出现与否我倒并不关心，只是觉得人类所以能生存至今，乃至以后定能于人工智能共存，秘诀就在于人类与生俱来的“谨慎”本能——因为常未雨绸缪地考虑生存问题，故能繁衍生息。