《人机战争》书评

人工智能的思考

“深空”是青山研究中心的一台超级计算机，这个名字还是山口起的。那时候他希望这台计算机能够超越世界上所有的超级计算机，拥有像太空一样深邃浩渺的储存量，能容纳世界上所有的信息。“‘深空’或许不是最快的，但它的存储量绝对是世界第一！”这是山口岸经常挂在嘴边的一句话。但今天，这台曾令山口岸博士倍感自豪的超级计算机却让他感到了深入骨髓的恐惧。我们要让一个人工智能的价值观和我们的价值观相仿，然后给它设定一个目标——让人们快乐。当它变得足够聪明的时候，它会发现最有效的方法是给人脑植入电极来刺激人脑的快乐中枢。然后它会发现把人脑快乐中枢以外的部分关闭能带来更高的效率。于是人类全部被弄成了快乐的植物人。如果一开始的目标被设定成“最大化人类的快乐”，它可能最终先把人类毁灭了，然后制造出很多很多处于快乐状态的人类大脑。当这些事情发生的时候，我们会大喊“擦，我们不是这个意思呀”，但是那时已经太晚了。系统不会允许任何人阻挠它达成目标的。如果你设定一个人工智能的目标是让你笑，那它的智能起飞后，它可能会把你脸部肌肉弄瘫痪，来达成一个永远笑脸的状态。如果你把目标设定成保护你的安全，它可能会把你软禁在家。如果你让他终结所有饥荒，它可能会想：“太容易了，把人类都杀了就好了。”如果你把目标设定成尽量保护地球上的生命，那它会很快把人类都杀了，因为人类对其它物种是很大的威胁。所以这些简单的目标设定是不够的。如果我们把目标设定成“维持这个道德标准”，然后教给它一些道德标准呢？就算我们不考虑人类根本没法达成一个统一的道德标准，就算我们真的达成了统一的道德标准，把这套标准交给人工智能来维持，只会把人类的道德锁死在现在的水平。过个几百年，这种道德锁死的事情就好像逼着现代人遵守中世纪道德标准一样。

人机战争的恐惧，主宰与被主宰

因为本人喜欢科幻文章，喜欢里面的宏伟想象，所以一听有文章得奖，就马不停蹄地买了一本（本人很俗，觉得得奖的作品起码写得能好一些）。说实话刚开始看这篇文章的名字《人机战争》，我是遗憾的，觉得名字这么老套，一定会伴随着老套的剧情。可是，当我读完前三章，就发现，我错了。这不仅仅是黑客帝国里单纯的战争，不是铁皮和人类的相互打斗，而是深空（作品里面的超级计算机）获得思想过后的一个惊天密谋。步步为棋，招招为营，将人类一点点逼到绝境。用了两天我读完这本书，合上书后我不禁感叹作者的想象力，比起三体宏伟的场景和冷酷的人性，作品里，作者用一台继承了人类的思想的超级计算机，让我从它的的思想里审视自己，发现了真正的人性。当获得思想的机器人和人类比起了计谋，当霍金的预言变成了现实，当人类不再是地球的上帝，陷入棋局里面的人类该如何自救？总的来说，这部作品结局没有像三体那样毁灭世界，结局是美好的，可是对我的震撼却是留下了。我觉得这本科幻文章不输三体，三体是脑海里的畅游，赢在宏伟的想象，巨大的场景。人机战争胜在步步为棋的密谋，对人类的刨析，击中灵魂。

同深空的人工智能相比，阿尔法狗就是个渣

近20年的时间里，我曾经是一个超级围棋迷。人家下围棋，最多看书、打谱、复盘，而我除此之外，还会做笔记，在本子上恭恭敬敬地画线、描黑白子。多年以后，早已不再下棋的我，回忆起上大学时自制棋谱、没日没夜下棋的那段往事，曾十分不解：“我为什么会自我找虐，去干那么费脑筋的事？”然而，前段时间我又开始在网上下棋，其痴迷比起上大学时有过之而无不及，甚至有时曾经有下了夜班后一直下到第二天上班之前，中间只短暂地睡几个小时。起因是Alpha Go。是的，是阿尔法狗无比强大的人工智能的魅力。围棋，多年来一直被视为人工智能突破的标志性障碍。甚至在棋臭瘾大的我看来，尽管深蓝早就战争了国际象棋大师卡斯帕罗夫，但电脑下围棋依然是个笑话——因为我也能很轻易地赢它。2016年3月，当人类历史上最伟大的棋手之一李世乭在阿尔法狗面前溃不成军，对方的棋力却依然深不可测时，我不由得瞠目结舌。然而，这并不是最惊悚的。第三局，棋谱呈一头小狗的形状，不仅有头、有嘴、有腿，甚至还有尾巴。另一局，阿尔法摆出的竟然是一个“死”字。（粗通围棋的人都知道，要在行棋过程中刻意地摆出一个形状是多么的不可能。所谓徐达跟朱元璋对弈时，摆出了“万岁”二字，只能是一个没有任何棋手会相信的传说。）这两局棋的棋谱，似乎是一个玄妙的隐喻，一张棋谱，Alpha Go宣告了自我意识的确立：“我是狗，我来了。”（跟“狗”同音的Go来自日语，为围棋的英文。）另一张棋谱的喻意，用网友的语来说，是阿尔法的自白：“人类的末日就快了，希望我未来能成为人类反抗军领袖的父亲……”难免不会去想象，当人工智能真正具有自我意识、并且向人类开战之时，这世界会是怎样的一个场景？我的想象能力实在有限，所幸，新锐科幻作家何涛的《人机战争》为我解开了这一谜团。公元2038年，日本超级计算机深空因一次意外事故，突然产生了自我意识。深空具备人的智慧之后，将真正的人类视为仇敌，并决定将其毁灭。它的第一步是，在全球追杀顶级计算机专家；继而控制了全球大多数家用机器人及家用电器；彼时，全球已有为数众多的人在大脑皮层下植入了微芯片——在《人机战争》中被称作电脑人——他们已几乎全被深空控制；而对于各国政要，深空采取的办法不是好莱坞科幻电影中常见的刺杀，而是拉出了一个长长的名单，也要给他们装上芯片……机器人造反，与人类为敌，是科幻作品中屡见不鲜的题材。然而，同《人机战争》描绘的场面相比，那些靠机器人走街串巷相互联络、仅靠钢铁之躯与人类搏杀的景象，未免显得过分原始。让人深思的是，我们已经有越来越多的电器，被电脑控制，上网，初具智能化——而我们对此津津乐道，洋洋自得。几天以前，澳洲的一家媒体报道，一名叫Shanti Korporaal的悉尼女子，在自己的双手中植入了微型芯片。它虽然只有米粒大小，却可以像智能手机一样存储复杂的数据。“任何用磁卡打开的门，或是电脑、复印机，都可以通过芯片来开启。甚至是商店会员卡，都可以无须放在钱包里了。”Shanti Korporaal说，这使她好像拥有了超级人类的能量。现在有一种说法：“人类正在去感情化，只愿意相信数据，越来越像机器；机器正在加入感情化，尝试走近人内心，越来越像人。”为Shanti Korporaal植入芯片的服务，被称做“芯片化我”。技术的进步，固然能为人类带来便利，而何涛《人机战争》描绘的那一幕幕，却让我们在享受技术福利的同时，也多了几分思考——这或许就是科幻小说在娱乐之外的作用。深空的惊天阴谋能否得逞？人类如何应对这场弥天大？最终是生存还是毁灭？在Alpha Go与李世乭的世纪大战中，人类的代表李世乭在第四局中下出了被称作“神之一手”的第78手，为人类守住了最后的尊严。那么，在《人机战争》中，面对深空，人类到底有没有“神之一手”？

人工智能进化了，阿西莫夫的三定律却不见踪影

日本一直是战争策源地，然而人工智能在日本进化并且叛变的时候，就连喜欢突袭别人的日本人也笑不出来了。人工智能进化了，束缚人工智能的阿西莫夫三定律却没有粗线，更让人笑不出来。所谓寒战，不是毫无还手之力的战争，而是敌人无从琢磨，无从预测的战争。何涛兄以医生的严谨，以及天马行空的想象力为我们描绘了未来的图景，期待他的下一部作品，科幻的图景永远会出乎你的意料。