《简捷启发式》书评

如何面对不确定性的幽灵

《Simple Heuristics that Makes us Smart》和《Bounded Rationality》这两本都是德国ABC研究小组（一个由计算机科学家、认知科学家、神经科学家、经济学家、数学家、统计学家等组成的跨学科研究团体）集体写的，都是引起领域内广泛关注的书，尤其是前一本，後一本则是对 Herbert Simon （决策科学之父，诺奖获得者）提出的人类理性模型的扩充研究），可以说是把什么是真正的人类智能这个问题提上了台面。核心思想是，我们的大脑根本不能做大量的统计计算，使用fancy的数学手法去解释和预测这个世界，而是通过简单而鲁棒的启发法来面对不确定的世界（比如第一本书中提到的两个后来非常著名的启发法：再认启发法（cognition heuristics）和选择最佳（Take the Best）。当然，这两本书并没有排斥统计方法就是了，数据量大的时候统计优势就出来了，而数据量小的时候统计方法就变得非常糟糕；人类简单的启发法则充分利用生态环境中的规律性（regularities），都做到计算复杂性小且鲁棒。我一直觉得人类的决策与判断是一个非常迷人的问题。这本书简单地说可以看作是《决策与判断》的更全面更理论的版本。系统且理论化地介绍人类决策与判断过程中的各种启发式方法（heuristics）及其利弊（为什么他们是最优化方法在信息不足情况下的快捷且鲁棒的逼近，以及为什么在一些情况下会带来糟糕的后果等，比如学过机器学习的都知道朴素贝叶斯方法在许多情况下往往并不比贝叶斯网络效果差，而且还速度快；比如多项式插值的维数越高越容易overfit，而基于低阶多项式的分段样条插值却被证明是一个非常鲁棒的方案）。在此提一个书中提到的例子，非常有意思：两个团队被派去设计一个能够在场上接住抛过来的棒球的机器人。第一组做了详细的数学分析，建立了一个相当复杂的抛物线近似模型（因为还要考虑空气阻力之类的原因，所以并非严格抛物线），用于计算球的落点，以便正确地接到球。显然这个方案耗资巨大，而且实际运算也需要时间，大家都知道生物的神经网络中生物电流传输只有百米每秒之内，所以 computational complexity 对于生物来说是个宝贵资源，所以这个方案虽然可行，但不够好。第二组则采访了真正的运动员，听取他们总结自己到底是如何接球的感受，然后他们做了这样一个机器人：这个机器人在球抛出的一开始一半路程啥也不做，等到比较近了才开始跑动，并在跑动中一直保持眼睛于球之间的视角不变，后者就保证了机器人的跑动路线一定会和球的轨迹有交点；整个过程中这个机器人只做非常粗糙的轨迹估算。体会一下你接球的时候是不是眼睛一直都盯着球，然后根据视线角度来调整跑动方向？实际上人类就是这么干的，这就是 heuristics 的力量。相对于偏向于心理学以及科普的《决策与判断》来说，这本书的理论性更强，引用文献也很多而经典，而且与人工智能和机器学习都有交叉，里面也有不少数学内容，全书由十几个章节构成，每个章节都是由不同的作者写的，类似于 paper 一样的，很严谨，也没啥废话，跟《Psychology of Problem Solving》类似。比较适合 geeks 阅读哈。另外，对理论的技术细节看不下去的也建议看看《决策与判断》这类书（以及像《别做正常的傻瓜》这样的傻瓜科普读本），对自己在生活中做决策有莫大的好处。人类决策与判断中使用了很多的 heuristics ，很不幸的是，其中许多都是在适应几十万年前的社会环境中建立起来的，并不适合于现代社会，所以了解这些思维中的缺点、盲点，对自己成为一个良好的决策者有很大的好处，而且这本身也是一个非常有趣的领域。

理性限制下的人工智能模式

思维模式方面的好书，大赞。优点是把研究过程叙述的十分详尽，可以看到严谨的研究方法。缺点是没太考虑读者，语言一看就是像论文一样的研究成果介绍，倒不影响阅读。另，如书中的【线索】等词初读时会有些别扭，不过前后照应很多，读起来障碍不大。《瓦尔登湖》里说，“我们的生命全给无谓琐屑的小事给浪费掉了……我是说，你只需要做好两三件事情，而不是做好成百上千事情……简化，简化，再简化。”这同样适用于为适应环境的头脑建立模型。书中的两个重要内容，基本是整本书的枝干：一、 快速节俭启发式规则新的启发式可以通过把【指导信息搜索】、【终止信息搜索】和【作出决策】的简单规则联结起来而形成。二、 理性观有限理性、生态理性和社会理性三者之间是密切相关的：理性受限启发式的成功依赖于它们利用生态和社会环境中信息结构的能力。【有限理性】利用一套较小的构筑快来形成快速节俭启发式时必须遵从一定的规则。同时，通过对时间、知识和计算能量受限制条件下仍能够做出准确推断的多种启发式范例的残所结果表明：对于理性来说，神灵般的能量和资源水平你是不必要的。【生态理性】快速节俭启发式取得令人惊异成效的原因有两个：（1） 它们充分利用了环境结构（2） 它们具有“耐用性”（与“匹配过当”不同，它们可以恰当地推论到新的环境中去）生态理性并非启发式本身具有的特征，而是启发式与环境之间相互磨合的结果。环境结构和节俭性的联姻产生了与我们的直觉相背离的情境，在那里几乎不需要再快速节俭性和准确性之间进行复杂权衡。【社会理性】人类和其他动物所面对的最富有挑战性的决策问题来自于这样一种环境，它是由同类动物的类似决策活动构成的。社会环境具有两个特征：（1） 它们的速度相当快（2） 生活在这种环境中的个体需要考虑其他个体做出的决策在本书中，作者证明了：当环境由于其他人的而行为而急剧变化时，当环境需要相继做出多种彼此关联的决策时，或者当必须与其他个体相互协调来作出决策时，快速节俭启发式均能够指导人们在此种富有挑战性领域中的行为。对每一种新的启发式，研究组都提出了三个主要的问题：（1） 它又多么好——相对于依附于传统理性管的其他决策机制来说它的成效如何？（2） 从生态学上看它是合理的吗——何时和为什么它在现实环境中是有效的？（3） 人类或其他动物实际上使用这种启发式吗？本书的注意力主要放在了第一个（最早产生的）的问题上，也找到了第二个问题的部分答案，但回答第三个（非常困难又相当重要的）问题的尝试才刚刚开始。书的前半部分读起来比较慢，后半部分更有意思些。我个人对智能比较感兴趣，以下是一些有意思智能相关内容：【37%规则】统计学家们一直将注意力集中在“秘书问题”（secretary problem）上。在此问题上，一个人必须从随机出现的一系列申请者中挑选出最好的秘书，这些申请者来自一个才智状况未知的总体。一旦遭到了拒绝，申请者将不再被召回。秘书问题追求完美的结果，要么如愿以偿的挑选出最好的申请者，要么一无所获——没有任何申请者被选中。它忽视了时间之类的搜索代价，也忽视了互动式双向选择问题，同时假定搜索者早已知道将会到来的申请者的确切数量。但它直接强调这样一个问题：当面对下一个申请者有可能比迄今所见过的最好的申请者还要优秀的不确定情况时，英爱怎么做？可以看出，解决秘书问题需要选出一定比例的申请者作为样本，记住其中最好的，然后挑选出下一个比他（她）更好的申请者。该样本的最佳数量是1/e（37%）。37%规则也在单项配偶搜索的算法规则——嫁妆问题上有所应用，只不过这需要较长的搜索时间。【人工智能领域的有限理性】当启发式方法不能很好地生效时，通常有两种应对方法。多数“过期优秀人工智能”专家采用了“两面夹攻法”。首先，为了简化问题，他们创立了一些维度有限且已知的“虚拟”问题，对于“虚拟的”计算机来说，只需稍加思考就可以解决它们。然后，他们用最新且最快速的计算机来从事仍然遗留下来的大规模运算问题。少数人工智能科学专家们倾向于采取另外一种方法，即为新的情境寻找新的启发式。遵循这一传统的实践者们严格按照特定环境信息结构的要求来寻求或建立系统，这种环境通常是现实世界的一部分。【国际象棋的虚拟简单环境】赫伯特•西蒙和乔治•贝勒（Baylor & Simon，1966）推论，国际象棋比赛的主要目标就是减少对方的可移动性——事实上，比赛的最终目标就是把对方王的可移动性减小到零——因此，搜索路径完全取决于对方每走一步棋后还有多少可移动步子。在第一种方案“MATER I”中，根据对方可以合理地作出多少种回棋来考虑第一步棋的走法，而不考虑对方回棋的质量如何。然后对这种留给对方最少回棋步骤的走法进行检查，看看在走了第二步棋后对方还有多少种适当走法，如此进行下去，直至能够将军。如果将军呢是不可能的，该程序将退回来，寻找第二种导致对方有最少回棋步骤的走法。第二种算法规则“MATER II”更加强调对方王的可移动性。那种事对方王无法移动或仅能向一两个方向移动的走法得到优先考虑。【有限理性与无限理性】除了认知心理学这个领域，有限理性和无限理性分别在人工智能、动物行为和经济学中扮演主要角色。在人工智能领域，启发式规则一直被认为是有用的和必要的。该领域的成功就是以这种规则所创造的“头脑”获得的成绩来界定的，但它偏出了特定领域，从而使得是真正有效的快速节俭策略成为罕见的。在行为生态学领域，最优化理论通常占有主导地位，但这些理论在实验上的失败要求用心的方法来建立关于野生状态下动物行为的理论，而且这样的理论已经出现了。其中大多数采取了受限制条件下的最优化形式，但也有一些包含了快速节俭策略。在经济学领域，有限理性思想与经典理论对峙了两个世纪之久，这为验证其合理性和推动理论的发展铺平了道路。每章开头给人启发性的名言：1、真理一向是以简明朴素的方式，而不是以令人眼花缭乱的复杂方式被发现的。虽然这个世界向我们的肉眼呈现了纷繁多样的事物，但当我们用哲学眼光来审视它的时候，其内部结构显然是相当简单的，惟其如此，它才能更好地被理解。——艾萨克•牛顿（Isaac Newton）2、人类的思维能力首先是由大力那个再认能力组成的，其次是由选择性搜索能力组成的。——赫伯特•A•西蒙（Herbert A. Simon）3、一个好名字胜过巨大的财富。——塞万提斯（唐•吉可德）4、认知心理学研究的全部问题即有限理性。有限理性研究不是对环境任务最优化的研究。——赫伯特•A•西蒙（Herbert A. Simon）5、心理学已经忘记了它是关于有机体与环境之间关系的科学，而变成了关于有机体的科学……这在某种程度上让人联想起了中世纪那些夸夸其谈的男性神科学家们所采取的立场：灵魂仅属于男人，而不属于女人。——艾冈•布伦斯维克（Egon Brunswik）6、不应该假定存在比绝对必要的东西更多的东西。——威廉•奥卡姆（William of Occam）7、我们很可能觉得能够同时顾及多种不同因素，因为尽管某些时候我们仅能专心于某一种因素，但我们却难以明确地意识到这一点。——罗杰•N•谢泼德（Roger N. Shepard）8、当灵感来时，不要再刻意去思考。——鲁德亚德•基普林（Rudyard Kipling）最后摘录一句话：推理活动要么是理性的，要么是心理学的。

适当理性

因为自己是一个特别感性的人，所以刻意培养自己的理性思维。包括很少看爱情小说，刻意的去看哲学和心理学方面的书，以及一些逻辑思维强的书籍。其实理性思维真的是可以培养的，在看这些书籍的过程，一遍遍跟着作者的思维强化自己的理性思维，重复的多了，遇事也就习惯理性的去思考。我将自己从一个软妹子变成一个习惯理性思维的人，只是这条路走的极端了。有时候太过理性，反而整个人会变得薄情。在感性和理性之间没有找到一种平衡，或者太追求绝对的理性，容易变成传说中的铁面无私。最关键的是企图通过无限理性来达到最优化往往事倍功半。《简捷启发式》中，作者分析了3种理性，有限理性，生态理性和社会理性。所有理性最终的目的是能够与现实环境（包括社会环境和自然环境）的要求想匹配。或许，真正理性的人就是那些“现实”的人。另外书中还重点介绍了一种“再认思维”。比如我们对某些气味，某些名字或长相觉得熟悉，却没想起来在哪里闻过，听过或见过。可是觉得熟悉，本身就是一种再认。选择食物时，我们倾向于认为吃过的食物比没有吃过的食物更好吃。这也是我们觉得妈妈的饭更好吃的原因。我们习惯于认为听过名字的学校比没听过名字的学校更好，就像认为从小学就开始知道的李白一定比后来才知道的曹雪芹更有才。这些过程都是“再认感”在作祟。当我们倾向于选择和自己爸爸或妈妈类似的人作伴侣时，或许也是一种“再认”的过程。人具有“恐新倾向”，“再认”就是对记忆中熟悉场景的一种搜索。那些明星不遗余力的增加自己在社交媒体出现的频率，就是为了让更多人认识，当人们对一个明星再认的时候，才可能给予他更多的关注度。另外还有一个“少即多效应”，有时候知道更多的人反而不如知道更少的人作出的判断准确。当再认效度大于知识效度时，少即多效应就会产生。有时候再认不一定是真实发生过的，很多想象中的画面从记忆中提取出来，也会让我们觉得是真实发生过。书看的很生涩，作者完全用写论文的方式在写书，对于非专业的人，完全可以直接搜书评或文章摘抄来看。行壹 2016.03.21