概率导论

章节摘录

插图：例1。12（蒙特霍问题，也称三门问题）  这是美国有奖游戏节目中的一个经常出现的智力测验问题。你站在3个封闭的门前，其中一个门的门后有一个奖品。当然，奖品在哪一个门后是完全随机的。当你选定一个门以后，你的朋友打开其余两扇门中的一扇空门，显示门后没有奖品。此时你可以有两种选择，保持原来的选择，或改选另一扇没有被打开的门。当你作出最后选择以后，打开的门后有奖品，这个奖品就归你的了。现在有3种策略：（a）坚持原来的选择；（b）改选另一扇没有被打开的门；（c）你首先选择1号门，当你的朋友打开的是2号空门，你不改变主意。当你的朋友打开的是3号空门你改变主意，选择2号门。最好的策略是什么呢？现在计算在各种策略之下赢得奖品的概率。在策略（a）之下，你的初始选择会决定你的输赢。由于奖品的位置是随机地确定的，你得奖的概率只能是1／3。在策略（b）之下，如果奖品的位置在你原来指定的门后（概率为1／3），由于你改变了主意，因而失去了获奖的机会。如果奖品的位置不在你原来指定的门后（概率2／3），而你的朋友又将没有奖品的那一扇门打开，当你改变选择的时候，你改变选择后所指定的门后一定有奖品。所以你获奖的概率为2／3。（b）比（a）好。在策略（c）之下，由于提供的信息不够充分，还不能确定你赢得奖品的概率。答案依赖于你的朋友打开空门的方式。现在讨论两种情况。

前言

本书是我们在MIT开设的一门概率论入门课程“概率系统分析”的基础上写成的。选择这门课程的学生来自全校各个科系，他们背景各异，且兴趣广泛，既有刚入学的本科一年级新生也有研究生，既有学工科的也有学管理的，为此，在教学上我们一直力求表达简洁而又不失分析推理的严格，我们教学的主要目的是培养学生构造和分析概率模型的能力，希望学生既具备直观理解力又注重数学的准确性。根据这种精神，概率论模型中某些很严格的数学推导被简化处理了，或者只是进行了直观的解释，免得复杂的证明妨碍了学生对概率论本质的理解，同时，有些分析留在每章最后的理论习题部分，它们用到高等微积分知识，此外，为了满足某些专业读者的需要，我们将某些推理过程中的数学技巧展示在注解中。本书包含了概率论的基础理论部分（概率模型、离散随机变量和连续随机变量、多元随机变量以及极限定理），这些都是概率论入门教材的主要内容，在第4～6章，也包含了一些较高级的内容，教师在讲授的过程中可以选择部分内容，以配合课程大纲的具体需求，其中第4章介绍了矩母函数、条件概率的现代定义、独立随机变量的和、最小二乘估计、二维正态分布等内容；第5～6章较为详细地介绍了伯努利、泊松和马尔可夫过程。我们在MIT开设的（一学期）课程中，讲授了第1～7章的几乎全部内容，只是略去了二维正态分布（4，7节）和连续时间马尔可夫链（6，5节）两部分，然而，也可以作如下选择：略去课本中关于随机过程的全部内容，这样可使任课教师集中精力介绍概率论的基本概念，或者增加一些感兴趣的其他材料。本书的主要省略之处是缺乏对统计学的全面介绍，我们引入了离散和连续情形下的贝叶斯准则和最小二乘估计，引入贝叶斯统计理论，但并不涉及参数估计和非贝叶斯假设检验。本书的习题可以分成三类（a）理论习题：理论习题（用+标明）是教材的重要组成部分，具有数学背景的学生会发现这部分内容是由课文自然拓展而来，我们同时给出了这部分习题的解答，但是，善于思考的读者会发现大部分（特别是前几章的）习题都能自己独立地做出来。

内容概要

Dimitri P. Bertsekas  美国工程院院士，IEEE会士。1971年获MIT电子工程博士学位。长期在MIT执教，曾获得2001年度美国控制协会J. Ragazzini教育奖。其研究领域涉及优化、控制、大规模计算、数据通信网络等，许多研究具有开创性贡献。著有Nonlinear Programming等十余部教材和专著，其中许多被MIT等名校用作研究生或本科生教材。

John N. Tsitsiklis  美国工程院院士，IEEE会士，MIT教授。分别于1980年、1981年、1984年在MIT获得学士、硕士、博士学位。他的研究成果颇丰，已发表学术论文上百篇。

书籍目录

第1章　样本空间与概率　1

1.1　集合　2

1.1.1　集合运算　3

1.1.2　集合的代数　4

1.2　概率模型　4

1.2.1　样本空间和事件　5

1.2.2　选择适当的样本空间　5

1.2.3　序贯模型　6

1.2.4　概率律　7

1.2.5　离散模型　8

1.2.6　连续模型　10

1.2.7　概率律的性质　11

1.2.8　模型和现实　12

1.3　条件概率　15

1.3.1　条件概率是一个某些常用的随机变量的概率律　15

1.3.2　利用条件概率定义利用期望值进行决策　80

1.4　全概率定理和贝叶斯准则　24

1.5　独立性　30

1.5.1　条件独立　32

1.5.2　一组事件的独立性　34

1.5.3　可靠性　36

1.5.4　独立试验和二项概率　37

1.6　计数法　39

1.6.1　计数准则　39

1.6.2　n选k排列　41

1.6.3　组合　42

1.6.4　分割　44

1.7　小结和讨论　46

习题　47

第2章　离散随机变量　63

2.1　基本概念　63

2.2　分布列　65

2.2.1　伯努利随机变量　67

2.2.2　二项随机变量　67

2.2.3　几何随机变量　68

2.2.4　泊松随机变量　69

2.3　随机变量的函数　70

2.4　期望、均值和方差　71

2.4.1　方差、矩和随机变量的函数的期望规则　73

2.4.2　均值和方差的性质　76

2.4.3　均值和方差　77

2.4.4　概率模型　19

2.5　多个随机变量的联合分布列　81

2.5.1　多个随机变量的函数　83

2.5.2　多于两个随机变量的情况　84

2.6　条件　86

2.6.1　某个事件发生的条件下的随机变量　86

2.6.2　给定另一个随机变量的值的条件下的随机变量　87

2.6.3　条件期望　91

2.7　独立性　96

2.7.1　随机变量与事件的相互独立性　96

2.7.2　随机变量之间的相互独立性　97

2.7.3　几个随机变量的相互独立性　100

2.7.4　若干个相互独立的随机变量的和的方差　101

2.8　小结和讨论　103

习题　105

第3章　一般随机变量　122

3.1　连续随机变量和概率密度函数　122

3.1.1　期望　126

3.1.2　指数随机变量　128

3.2　分布函数　129

3.3　正态随机变量　134

3.4　多个随机变量的联合概率密度　139

3.4.1　联合分布函数　142

3.4.2　期望　143

3.4.3　多于两个随机变量的情况　143

3.5　条件　145

3.5.1　以事件为条件的随机变量　145

3.5.2　一个随机变量对另一个随机变量的条件　149

3.5.3　条件期望　152

3.5.4　独立性　154

3.6　连续贝叶斯准则　157

3.6.1　关于离散随机变量的推断　158

3.6.2　基于离散观察值的推断　159

3.7　小结和讨论　160

习题　161

第4章　随机变量的深入内容　176

4.1　随机变量函数的分布密度函数　176

4.1.1　线性函数　178

4.1.2　单调函数　180

4.1.3　两个随机变量的函数　183

4.1.4　独立随机变量和——卷积　186

4.1.5　卷积的图像计算法　189

4.2　协方差和相关　190

4.3　再论条件期望和条件方差　194

4.3.1　条件期望作为估计量　197

4.3.2　条件方差　197

4.4　矩母函数　200

4.4.1　从矩母函数到矩　203

4.4.2　矩母函数的可逆性　205

4.4.3　独立随机变量和　207

4.4.4　联合分布的矩母函数　209

4.5　随机数个相互独立的随机变量之和　210

4.6　小结和讨论　214

习题　214

第5章　极限理论　228

5.1　马尔可夫和切比雪夫不等式　229

5.2　弱大数定律　232

5.3　依概率收敛　234

5.4　中心极限定理　236

5.4.1　基于中心极限定理的近似　237

5.4.2　二项分布的棣莫弗-拉普拉斯近似　240

5.5　强大数定律　242

5.6　小结和讨论　244

习题　245

第6章　伯努利过程和泊松过程　255

6.1　伯努利过程　256

6.1.1　独立性和无记忆性　257

6.1.2　相邻到达间隔时间　260

6.1.3　次到达的时间　261

6.1.4　伯努利过程的分裂与合并　262

6.1.5　二项分布的泊松近似　263

6.2　泊松过程　266

6.2.1　区间内到达的次数　268

6.2.2　独立性和无记忆性　270

6.2.3　相邻到达时间　271

6.2.4　第k次到达的时间　272

6.2.5　泊松过程的分裂与合并　274

6.2.6　伯努利过程和泊松过程，随机变量之和　276

6.2.7　随机插入的悖论　277

6.3　小结和讨论　279

习题　280

第7章　马尔可夫链　290

7.1　离散时间的马尔可夫链　290

7.1.1　路径的概率　293

7.1.2　n步转移概率　294

7.2　状态的分类　297

7.3　稳态性质　300

7.3.1　长期频率解释　305

7.3.2　生灭过程　307

7.4　吸收概率和吸收的期望时间　310

7.4.1　平均吸收时间　314

7.4.2　平均首访时间及回访时间　315

7.5　连续时间的马尔可夫链　316

7.5.1　利用离散时间马尔可夫链的近似　319

7.5.2　稳态性质　321

7.5.3　生灭过程　323

7.6　小结和讨论　324

习题　325

第8章　贝叶斯统计推断　348

8.1　贝叶斯推断与后验分布　351

8.2.1　点估计　360

8.2.2　假设检验　363

8.3　贝叶斯最小均方估计　367

8.3.1　估计误差的一些性质　372

8.3.2　多次观测和多参数情况　373

8.4　贝叶斯线性最小均方估计　374

8.4.1　一次观测的线性最小均方估计　374

8.4.2　多次观测和多参数情形　378

8.4.3　线性估计和正态模型　379

8.4.4　线性估计的变量选择　379

8.5　小结和讨论　380

习题　380

第9章　经典统计推断　390

9.1　经典参数估计　391

9.1.1　估计量的性质　392

9.1.2　最大似然估计　393

9.1.3　随机变量均值和方差的估计　396

9.1.4　置信区间　399

9.1.5　基于方差近似估计量的置信区间　400

9.2　线性回归　405

9.2.1　最小二乘公式的合理性　407

9.2.2　贝叶斯线性回归　408

9.2.3　多元线性回归　410

9.2.4　非线性回归　411

9.2.5　实际中的考虑　412

9.3　简单假设检验　412

9.4　显著性检验　422

9.4.1　一般方法　423

9.4.2　广义似然比和拟合优度检验　428

9.5　小结和讨论　431

习题　432

索引　443

附表　448

标准正态分布表　450

编辑推荐

《概率导论(第2版)》内容丰富，除了介绍概率论基本知识点外，还介绍了矩母函数、最小二乘估计、泊松过程、马尔可夫过程和贝叶斯统计等内容。书中实例丰富，图文并茂，针对每节主题设计了相应的习题，还提供了部分难题的解答，便于读者自学。《概率导论(第2版)》多年来在MIT、斯坦福大学、加州大学等名校被用作概率课程教材，经过课堂检验和众多师生的反馈得以不断完善，新版更是在表述简洁和推理严密之间取得了完美的平衡。Dimitri P.Bertsekas美国工程院院士，IEEE会士。1971年获MIT电子工程博士学位。长期在MIT执教，曾获得2001年度美国控制协会J.Ragazzini教育奖。其研究领域涉及优化、控制、大规模计算、数据通信网络等，许多研究具有开创性贡献。著有Nonlinear Programming等十余部教材和专著，其中许多被MIT等名校用作研究生或本科生教材。美国工程院院士力作！全球众多名校采用的畅销教材！

作者简介

《概率导论(第2版)》是在MIT开设概率论入门课程的基础上编写的, 其内容全面, 例题和习题丰富, 结构层次性强, 能够满足不同读者的需求。书中介绍了概率模型、离散随机变量和连续随机变量、多元随机变量以及极限理论等概率论基本知识, 还介绍了矩母函数、条件概率的现代定义、独立随机变量的和、最小二乘估计等高级内容。

《概率导论(第2版)》可作为所有高等院校概率论入门的基础教程, 也可作为有关概率论方面的参考书。

图书封面

---

 概率导论下载 精选章节试读

---