《银河帝国8：我，机器人》书评

机器人伦理能够变成现实？

《银河帝国8：我，机器人》的腰封上印着，“机器人学三大法则”来自本书。阿西莫夫通过书中的机器人故事，阐述了著名的”机器人学三大法则“。看似简单的“机器人学三大法则”，其实不仅是机器人的伦理法则，也是人类对于自身的伦理观体现。机器人心理学家苏珊·凯文在《证据》中有一段非常精彩的阐述，摘录如下：“机器人学三大法则也是世上许多伦理体系的主要指导原则。不用说，理论上人人都有自保的本能，这相当于机器人的第三法则。而每个拥有社会良心和责任感的‘好人’，理论上都会服从适当的权威；听从他的医生、老板、政府、精神医师，以及同事的意见；并且守法重纪，循规蹈矩——即使会影响到他自己的安适或安全——这相当于机器人的第二法则。此外，理论上每个‘好人’都会爱人如己，保护他的同胞，冒着生命危险拯救他人，这相当于机器人的第一法则……”我觉得在阿西莫夫的笔下，“人机共处”这一模式可以基于上述伦理准则。耐人寻味的是，阿西莫夫为“机器人学三大法则”标注了来源和日期——《机器人学手册》第56版，公元2058年。因而，当2013年的我们发现那些早已被运用于阿富汗和巴以冲突的战斗机器人沾上人类鲜血时，当好莱坞电影又一次以“机器人沦为杀人工具”的科幻大片来轰炸我们对于未来的想象力时，也不必太绝望。机器人伦理——“机器人学三大法则”1942年虽已踏上征途，但鉴于机器人所保护的人类，尚未学会与同伴友好相处，“人机共处”这一范式的实现，自然还有待磨合。

找到一篇2012年6月《经济学人》对于机器人学三大法则的讨论~

原文翻译如下：导读：阿西莫夫1942年提出机器人应遵守的三项准则依次为保护人类、遵守命令和保存自己，但现实社会中这些准则互相冲突，比如战场上的机器人对保护人类和遵守命令不能两全。本文作者认为，随着机器人越来越智能化，让他们承担伦理主体资格已经刻不容缓。以下为《经济学人》本期封面文章全文翻译：在1968年上映的经典科幻电影《2001太空漫游》中，宇宙飞船的计算机HAL面临着两难选择。程序指令要求他履行飞船调查木星附近人造物的任务，同时还要求不向宇航员透露任务的真正目的。为了解决这个矛盾，HAL杀害了宇航员。随着机器人越来越智能化，计算机控制的机器将面临伦理决策的看法正在从科幻世界进入现实世界。人类社会要想办法保证改善他们的装备，不用做出HAL必须做的道德判断。毫不奇怪，在向自主型机器人目标挺进的队伍中，军事技术是急先锋，其发展促进了各种机器人的诞生。“沙地跳蚤”(Sand Flea)可一边拍摄一边跳过窗户或跳上房顶，然后利用轮子继续滚动前进。有六条腿的蟑螂机器人“RiSE”可以翻墙。模样像狗的机器人LS3可载重 180千克随主人在崎岖地带通过。手提箱大小的机器人SUGV可在人群中识别出特定个人并尾随。机器人在民用领域也日益普遍，从飞机驾驶舱到手术室不一而足。客机很久以前便可自动降落。无人驾驶火车也很平常。沃尔沃的V40轿车在堵车时实际上可做到自动驾驶，当它感觉到即将撞车时会紧急刹车，福特的B-Max也可做到这一点。完全自动驾驶的汽车正在全球各地进行试验。谷歌(微博)的无人驾驶汽车已在美国行进了25万英里，内华达州成为美国对公共道路无人驾驶立法的第一个州。几天前在巴塞罗那，沃尔沃展示了一列自动驾驶汽车上路。随着机器人越来越智能和普遍，自动化机器终将在不可预知的情形下做出生死攸关的决定，从而具备——或至少表面上具备——道德主体资格。武器系统目前还有人类最后把关，但随着系统进一步复杂化，很可能变为自动执行命令的设备。当科技发展到这一天时，机器人将面临伦理两难处境。黄蜂机器人该向据信为军事目标隐匿的建筑(同时也可能是民用避难所)开火吗？无人驾驶汽车该避让行人吗？——如果这样做意味着将损害其它车辆或给车内人员带来危险。抢险救灾的机器人该将现场的实情告诉大家吗？——如果告知实情有可能造成公众恐慌。这类问题导致了“机器伦理学”的兴起，研究赋予机器人判断对错的能力，让他们面临上述两难困境时能做出恰当的选择。应对这些难题的办法之一是完全避免这些问题，禁止战场上使用机器人、要求驾驶员随时保持对所驾车的充分注意。国际机器人武器控制委员会 (International Committee for Robot Arms Control)等机构反对增加遥控飞机的使用。不过机器人用于军事可能会弊大于利。机器人战士不会强奸、不会因发怒而焚烧村庄、不会因战斗压力摇摆不定。无人驾驶汽车很可能比普通汽车更安全，就像自动驾驶仪使飞机更安全一样。谷歌无人驾驶技术专家Sebastian Thrun估计，这种技术每年可挽救100万人的生命。不过，人类社会须想办法尽快应对机器人的伦理问题。美国很多州相继通过涉及无人驾驶汽车的法律。由于立法落后于技术，无人驾驶汽车一直在法律灰色地带游走。1942年，科幻作家阿西莫夫提出了著名的机器人伦理规范三准则，要求机器人首先要保护人类，其次为遵守命令，最后是保存自己。不幸的是，这些准则在现实时间没多大用处。战场上的机器人要破坏第一条准则。阿西莫夫的机器人科幻小说之所以有趣，恰恰在于小说凸现了机器人试图遵守这些显然明智的规则时遭遇到的意外困境。机器人的开发利用监管要求一个更加复杂的框架，尤其需要在以下三大领域取得进展。首先，须立法确定无人驾驶飞机打击错误或无人驾驶汽车出车祸时机器人设计者、编程人员、制造商或操作员是否有责任。为了明晰责任，自动系统必须保持详细记录，用以解释机器人决策的根据。这对系统设计具有重要意义：比如这可以排除在机器人设计中利用人工神经网络的做法，因为它是从经验中学习而不是遵守预先规定规则的决策系统。其次，嵌入伦理系统的机器人所作的判断必须符合大多数人的利益。对此实验哲学技术，即研究人类如何对伦理两难处境做出反应的技术可提供帮助。最后也是最重要的一点，工程师、伦理学家、律师和决策者应加强合作。伦理学家可通过教授机器人伦理而加深对本领域的理解，工程师要让社会相信他们没有走伦理捷径。技术推动了人类社会进步，但每一次进步都造成了棘手的新问题。机器人技术也不例外。由此造成的伦理问题回答得越快，人类享受这项技术也就越便利。摘自雅虎财经;http://biz.cn.yahoo.com/ypen/20120601/1084583.html;

什么是宇宙的真谛？

阿西莫夫的银河帝国，一直被认为是人类想象力的极限。这句赞美一点都不为过。阿西莫夫通过循序渐进地讲述9个机器人的故事，表达了复杂的人性。最后一个故事——可避免的冲突——则是全书的高潮。在真正的机器人出现至少60年之前，人类就在思考，机器人，在理性和逻辑的基础上，能否进化出超越人类的智慧呢。

人类最终将成为“主宰”淘汰的工具

跟基地系列比起来，还是这本书显得轻松易读。不得不再次佩服下阿西莫夫的写作功力。整本书由好几个机器人故事构成，但却循序渐进地间接讲出了机器人在地球的发展史。而且故事也不乏生动幽默。《小机》这机器人让我忍不住想起瓦力，傻傻的，却很可爱的瓦力。《转圈圈》阿西莫夫对机器人三大法则很好的一个说明，而且用了一个十分幽默的故事来告诉大家。《理性》整本书中最喜欢的一个故事。机器人小可爱强烈的世界观是：它才是主宰选择的最终仆人，而人类最终将成为“主宰”淘汰的工具。看到小可爱把人气个半死的时候忍不住也让人捧腹大笑起来。有时候，人和人的世界观也是不一样的，想要努力把别人的世界观说服和自己的靠拢是一件多么费劲不可能的事情。不过这也不影响每个人并行不悖地活在同个星球上。接受这个事实吧。《骗子》从此文开始，机器人系列似乎就能和基地系列开始有点对接了。《消失无踪》机器人三大法则是必须的，如果取消了三大法则，似乎人类真的会完全被机器人所取代了呢。《逃避》讲述金脑子如何用幽默感绕过问题为人类做出第一台恒星际迁移机器。后面就开始讲述机器人为人类和平奋斗的故事了，已经开始和基地系列逐渐对接了。机体最后成为人类供需系统的调控家，为平衡人类经济与社会发展做贡献。其实这种某种方面来说，也可以说小可爱的观点其实也挺能自圆其说的。人类逐渐丧失了对地球的话语权，机器人成了地球更甚者是宇宙的“管理者”，“主宰”的新一轮仆人。话说，宇宙中只有地球有人类出现么？似乎阿西莫夫只想考虑在此情况下人类的社会发展史。我还是挺喜欢谁能讲讲外星人的故事的。

对话的艺术——评《银河帝国8：我，机器人》

与阿西莫夫“机器人短篇故事全集”不同，《我，机器人》是一个故事中的故事，通过“我”和机器人心理学家苏珊•凯文的谈话，回忆她在美国机器人公司所遇见的机器人。苏珊是一个女工作狂，全身心投入机器人心理学研究。她认为机器人更值得信任，她说：“对你而言，机器人就是机器人。……人类制造的！若有必要，也由人类消灭！但你不曾和他们一起工作过，所以你不了解他们。他们是比我们更纯洁、更优秀的品种。”这是苏珊与其他科学家的区别，她更有“人”味儿，更尊重机器人，这也奠定了整本小说的感情基调。《我，机器人》中人物的思想和性格往往是通过对话表现。例如《小机》中，威斯顿先生由于职业原因，在对待机器人态度上是肯定的，对话也是正面、有力；相反，威斯顿太太害怕把女儿交到“一团烂铁”手上不安全，处处贬低小机。在《骗子》这篇故事中，长期处在基层的玛格特，仅仅因为一个能看透心灵的机器人的善意谎言，就把不择手段往上爬的野心在对话中展露无疑，同玛格特的急切贪婪相比，苏珊冷静而绝望，她被机器人厄尔彻底伤心的冷酷表情历历如在眼前。《我，机器人》用人物对话来展开情节，甚至通过对话来展开悬念。《消失无踪》中追捕一个没有“第一法则”约束的机器人，由对话继续维持整个叙事的平衡，又极好地控制了悬念，直到最后这个危险的机器人落入“法网”。对话讲求的是现实感，丰富的语言可以加强人物间的交流沟通，更容易将环境氛围体现出来。在《转圈圈》中，对水星的外部环境和不听话的机器人几乎都是白描，一笔带过，却能把读者带入紧张无比的氛围当中，仿佛身临其境。这不能不说是阿西莫夫对话体艺术的又一大功劳。从严谨而有序的逻辑层面看，“机器人学三大法则”精美、毫无缺陷，被奉为金科玉律。实际上，这几条定律在各种不同的特殊场合下却会漏洞百出，自相矛盾，一次次让故事中的主人公和机器人们抓狂不已。人类既然制造出机器人，那么如何维持自己和他们之间的平衡？如何让机器人也具有“存在”和“身份”？如何避免出现《消失无踪》中那个根本没有在大脑中植入“第一法则”的机器人？甚至，如何避免电影《终结者》中的“天网”？或许，人类理性思维的极限，才是真正的问题。

你愿意让机器人管理人类吗？

全书由本来单独创作的9篇短篇再组装成一部有核心线索串在一起的具有整体性的一本书，但是看完《基地》系列再来看这本，写作结构风格明显改变，毕竟长篇小说和由短篇构成的不太一样。看完本书后，特别是最后一个短篇，不禁想到一个问题：假如由一类机器人管理人类的日常行政事务（虽然这基本上在技术上是很难做到的），而且可以比人类自己管理得更好，毕竟机器人不会徇私舞弊、贪污受贿，还高效率，暂且不考虑机器人发生突变奴役人类的问题，那么是多数人愿意接受呢还是少数人愿意接受呢？对于个人来说，这好像没什么不好，但对于整个人类社会，这是个进步还是退步？

【185】研究点儿伦理学比硬科幻好

总体感觉确实比基地系列好看的多。我习惯一边看书，一边看网友的评论，那样感觉莫名的兴奋，好像好多人和我一起阅读并交流一样。机器人系列主要是围绕三大定律展开的，可以看出里面包含不少的伦理方面的探讨，也增加了本书的可读性。至少比纯“星际旅游介绍资料”类图书强多了。我觉得古典科幻之所以还能流传到现在还是经典，不能光靠作者在几十年前的神科技预测，更要有很强的故事性才行，毕竟我们读的是小说，不是科学小品文。联想起前几年看的电影版《我，机器人》，最后一个镜头印象很深，机器人最后还是统治了地球。人类这叫不叫作茧自缚呢。期待后作。

【摘录】+【感想：机器人的小短片】

【阿西莫夫自己建立了机器人法则，又在这本短篇合集里用九个小故事来挑战看似完美的机器人三大法则，是将科幻作为背景的强推理小说。和其他基本毫无关联的一本。】- 机器人学三大法则也是世上许多伦理体系的主要指导原则。不用说，理论上人人都有自保的本能，这相当于机器人的第三法则。而每个拥有社会良心和责任感的‘好人’，理论上都会服从适当的权威；听从他的医生、老板、政府、精神医师，以及同事的意见；并且守法重纪，循规蹈矩 —— 即使会影响到他自己的安适或安全 —— 这相当于机器人的第二法则。此外，理论上每个‘好人’都会爱人如己，保护他的同胞，冒着生命危险拯救他人，这相当于机器人的第一法则。“五十年，是一段很长的时间。”“当你回顾时就不觉得，”她说，“你会惊讶时间怎么消失得那么快。”“利用冷冰冰的、符合逻辑的理性，你能证明出你想要的任何结论——只要你选取一套适当的公设。我们有我们的，小可爱则另有一套。”“你们的教科书里什么也没有；你们的科学只是一堆搜集来的数据，靠临时的理论粘在一起 —— 而且全都简单到不可思议，简直不值得我浪费时间。”机体掌握着无限多的因素，我们却无从掌握！让我举个不算不熟悉的例子：整个的科技文明所带来的不幸和悲惨，说不定还超过它所送走的。一个拥有较少文化、较少人口的农业或牧业文明，说不定反而会更好。若是这样，机体就必须朝那个方向前进，而且最好别让我们知道，因为根据我们无知的偏见，我们只晓得自己习惯的才是好的 —— 我们会坚决反对改变。也说不定，一个完全都会化的社会，或者一个完全阶级化的社会，或者一个完全无政府的社会，才是真正的答案。我们不知道；只有机体知道，而它们正带着我们走向那里。”“其实，人类从来没有任何决定权。人类总是受到自己所不了解的经济和社会力量的摆布，此外反复无常的气候、胜败难料的战争也一直在宰制人类。机体则了解这些因素，不会被任何一项所阻止，因为机体会像对付‘人本协会’那样对付这些因素——它掌握了最强大的武器，那就是对全球经济的绝对控制权。”

开始进入有机器人的世界

九则机器人短篇故事，跟谢顿无关、跟基地无关，也跟机械公敌无关（威尔.史密斯其实是书商的一个牵强的无厘头式噱头），所以腰封毫不犹豫地扔进垃圾桶。这几段不同时期创作的机器人小故事被串联起来，而且串得有模有样，实在叫人折服、膜拜。喜欢第一则故事，有童趣中的单纯和忠诚，也有成人世界的无情和愚蠢，而且这一章节的薄薄几页可是地球机器人的初登场哦，机器人系列从这里开始奏起之后的恢弘乐章。有时候在想，世界经典名著的青少版能给少年们励志、增加知识、提升修养，那要是有一套青少版的机器人系列，给爱看书的小朋友看，多少会对他们的想象力有帮助的吧。“消失无踪”，在一堆一模一样的机器人里找一个逃跑的机器人，这篇也蛮有意思；最后两篇的场面也变大了，覆盖整个地球，而且不再是单纯的讲机器人的事。

最美的机器人故事 最轻松的科幻小说

阿西莫夫的“机器人学三大法则”，对于爱好科幻小说的诸君来说，应当属于久远的回忆了吧。毕竟在科幻小说这一类型里，法则、定律、科学技术都是最容易过时的，那么有什么理由，在看过复杂的“矩阵世界”之后，在俯瞰过十万光年的“银河帝国基地史全传”之后，还能拿起这本以“机器人学三大法则”为主要科学元素、看起来很薄很“过时”半个多世纪前完成的机器人故事《银河帝国8：我，机器人》呢？把这个问题拿去问了一位喜欢机器人故事的朋友，友人却说，在阿西莫夫的作品里，她最爱的就是这本《我，机器人》了，首要原因也很简单，这本机器人故事读起来最轻松。最轻松的推理型科幻小说翻了一下《银河帝国8：我，机器人》，故事“外核”是机器人心理学家苏珊•凯文接受记者采访，她讲述了关于机器人的9个故事，故事“内核”就是这9个可以独立成篇的故事。苏珊•凯文讲故事的顺序基本按照机器人发展历程来进行，9个故事整合出一部“机器人发展简史”。阿西莫夫的高明之处在于，他不仅开创了 “机器人学三大法则”这一全新的科幻小说逻辑，更借助机器人的“失常”状态来“颠覆”自己提出的法则。一边是颠覆，另一边则就是破解，每一篇故事的核心冲突，都来自破解“机器人学三大法则”的漏洞，这“破解”也是读者和小说主人公一起经历一场紧凑而又风趣的“推理”。融合了科幻和推理两种类型小说特点的阅读体验，仅仅以每个故事平均20来页的篇幅就能“潇洒”完结。在人们的阅读越来越碎片化的当下，这本机器人故事还真是能让读者在闲暇时刻轻松进入一场比一场精彩的科幻“舞台剧”。较之一般的科幻小说通常都是在最开始的20页里为营造一个陌生感、科技感、悬疑感的故事环境而努力；阿西莫夫的《我，机器人》则免去了阅读门槛过高、进入时间太长的麻烦。作为硬派科幻小说家代表人物，阿西莫夫的小说逻辑严谨有序，因而，虽然是用极简单的方式来讲故事，却不代表阅读这本书可以浅尝辄止。最简单也最深刻的“人机共处”范式这本阿西莫夫写于1940到1950年间的机器人小说，比美国人乔治•德沃尔1959年发明世界上第一台工业机器人还早了一段时间，虽然此前，“机器人”一词，已于1920年由捷克作家卡雷尔•恰佩克在科幻小说《罗萨姆的机器人万能公司》中提出。然而在1942年阿西莫夫首次完整提出“机器人学三大法则”之前，人类对于机器人的描述还笼罩在一股“机器人威胁人类”、或者说“机器人反抗人类奴役”的忧思与恐惧中。台湾科幻译者叶李华认为，起初阿西莫夫只是对于“引人同情的机器人”这一故事范式情有独钟，而当他提笔写机器人的时候，逐渐将机器人想成是由工程师制造的工业产品，它们具有内建的安全机制，不会对主人构成“威胁”；又因为是用来执行特定工作，所以跟“同情”也没有干系。经过一段时间的摸索和酝酿，阿西莫夫的“机器人学三大法则”开始部分显露于《理性》、《骗子》这些1942年之前创作的故事中， 到了1942年3月，阿西莫夫发表了《转圈圈》这个故事，水星采矿机器人围着矿区进退两难的时候，机器人机械师多诺凡和鲍尔从“机器人学三大法则”开始分析机器人“失常”的缘由——这是阿西莫夫首次提出“机器人学三大法则”，作为机器人正子脑中最根深蒂固的三个原则，也是机器人一切行为的根源。所以，人类与机器人的关系纵然可以有“玩乐、辅助、忠诚、欺骗、背叛、服从、指挥、领导……”种种，但只有符合“机器人学三大法则”的机器人才是正常的，“人机共处”的范式也正基于此：一、机器人不得伤害人类，或因不作为而使人类受到伤害。二、除非违背第一法则，机器人必须服从人类的命令。三、 在不违背第一及第二法则的情况下，机器人必须保护自己。看似简单的“机器人学三大法则”，其实不仅是机器人的伦理法则，也是人类对于自身的伦理观体现。机器人心理学家苏珊•凯文在《证据》中有一段非常精彩的阐述，摘来与诸君共享：“机器人学三大法则也是世上许多伦理体系的主要指导原则。不用说，理论上人人都有自保的本能，这相当于机器人的第三法则。而每个拥有社会良心和责任感的‘好人’，理论上都会服从适当的权威；听从他的医生、老板、政府、精神医师，以及同事的意见；并且守法重纪，循规蹈矩——即使会影响到他自己的安适或安全——这相当于机器人的第二法则。此外，理论上每个‘好人’都会爱人如己，保护他的同胞，冒着生命危险拯救他人，这相当于机器人的第一法则……”在阿西莫夫冷静而有序的科学逻辑里，“人机共处”这一范式可以基于上述伦理准则。耐人寻味的是，阿西莫夫为“机器人学三大法则”标注了来源和日期——《机器人学手册》第56版，公元2058年。因而，当2013年的我们发现那些早已被运用于阿富汗和巴以冲突的战斗机器人沾上人类鲜血时，当好莱坞电影又一次以“机器人沦为杀人工具”的科幻大片来轰炸我们对于未来的想象力时，也不必太绝望。机器人伦理——“机器人学三大法则”1942年虽已踏上征途，但鉴于机器人所保护的人类，尚未学会与同伴友好相处，“人机共处”这一范式的实现，自然还有待磨合。最简单却也最美好的机器人故事美国文学评论家伊哈布•哈桑说，科幻小说似乎触及了人类集体梦想的神经中枢，解放出我们人类这具机器中深藏的某些幻想……在哲学上它可以是天真的，在道德上它可以是简单的，在美学上是有些主观的，甚而有些粗糙的……阿西莫夫的文笔以朴实见长，在《银河帝国8：我，机器人》中，没有多余的环境描写，没有大段的抒情，更没有点缀爱情故事，他笔下的人类，要么是冷淡的“老小姐”苏珊•凯文，要么是仅仅以对话来体现美式幽默的机械师鲍尔与多诺凡，如此看来，这本机器人短篇小说集的确在美学上是比较粗糙的，然而，不要忘了，机器人才是这本书的主角：当机器人“小机”踏着孤独的步伐离去，小主人葛洛莉雅强忍着眼泪的时候；当机器人“小机”的两只铬钢手臂（能将一根直径两英寸的钢条弯成麻花）温柔地、怜爱地搂着小女孩，双眼则冒出深深的、深深的红光的时候；当机器人速必敌猛然停下脚步，在原地站了一会儿——仅带着轻微的、不定的摇摆，仿佛是一棵在微风中摆荡的小树……鲍尔喊道：“好了，速必敌。孩子，过来这里”的时候；当谁也无法战胜第一法则电位，那古董机器人蠢蠢地说：“主人，你身处险境”的时候；当鲍尔终于明白“小可爱”为何要坚持自己是优等生灵，为何拒绝服从命令的时候；当苏珊•凯文声音中的渴望之情掩埋一切，某些女性特质穿透博士的外衣向外窥探……跑到厄比面前，双手紧紧抓住他冰冷而沉重的手掌。“谢谢你，厄比。”……机器人厄比慢慢拾起抛在一旁的小说，却没有任何人看透“他”的心灵的时候；当第二任世界总协拜尔莱决定走进原子分解炉，不留下机器人曾经当政的任何证据的时候；阿西莫夫笔下不带一丝人性瑕疵的机器人，与其说是“机器人学三大法则”的严谨和有序，不如说是人类对于美好人性的浪漫主义想象力的呈现。值得一提的还有，阿西莫夫以“机器人学三大法则”为创作经纬，科幻迷们所熟知的“基地”系列和“机器人”系列都是以这一原则为前提。因而，在阿西莫夫的科幻世界中，当他为未来写传记的时候，在银河震动、帝国飘摇的“基地”系列里，谁可以和人类一起并肩前行，谁是地球真正的守护者，阿西莫夫似乎更偏爱机器人。就像是地球拥有卫星月亮一样，每当日薄西山，无论阴晴圆缺，总是月亮洒下清辉，于是黑夜才有了影子；所以，在阿西莫夫笔下，俯仰两万载、纵横十万光年的银河帝国史，真正的“上帝”不是哈里•谢顿，而是那个在一弯肥厚的星月上默默等待人类到来的机器人丹尼尔和他的同伴们。然而人类也不需要失落，以“辩证”的观点来看，曾经地球的主人是恐龙，如今是人类，未来会不会是机器人，谁又能肯定呢？