本书共分15章,包括古典概型,概率公理、随机变量及其分布、独立性、条件概率、离散随机变量、连续随机变量、期望以及其他数字特征(矩、熵)、典型分布模型、多元随机变量、条件期望、特征函数、概率不等式、大数定律和中心极限定理等方面的内容。作为面向工程类专业读者撰写的概率论入门教材,素材选择充分考虑了读者的工科基础基础,尽量使用基础微积分的方法和技巧进行分析论述,力求通过严密和系统的计算来强化读者对基本概念和方法的理解和掌握。这对于培养读者运用数学工具解决问题的能力有积极作用。本书可作为相关专业大学本科生教材使用,也可供工程技术人员自学和参考。
本书以编者过去五年来在清华大学电子工程系讲授“概率论与随机过程(I)”课程所用讲义为基础,加以适当的扩充改编而成,总结了编者的实际教学经验,并参考了历届学生对该课程教学的反馈与建议。
针对目前市面上已有大量概率论相关教材存在的现状,编者试图在以下几点尝试差异化处理,以突出本书的特色。首先,结合编者以及教学对象的电子信息专业特点,本书强调信息论与概率论的紧密关联,不但将熵看作和期望、方差同等重要的随机变量数字特征加以介绍,而且还使用最大熵原理来引出典型的连续分布(均匀、指数和高斯),以期让读者在学习概率论的同时,接触和熟悉信息论的基本概念,为电子信息专业的后续学习提供便利。其次,针对工程学科读者数学基础相对薄弱,大多缺乏严格的实分析训练的现实,本书并没有对概率论基础选择回避,而是大胆使用比较平易的方式介绍基于测度的公理化概率论,并以普通微积分作为基本工具,用相对严格的方式讨论随机变量、独立性、期望、条件期望等基本概念。编者的实际教学经验表明,这样做不但能够使得拥有扎实微积分基础的工科读者大体接受并掌握其中的关键知识点,而且有利于读者进一步学习和了解严格概率论及其广泛的应用。本书还包括超过300个不同类型的例题,内容涵盖了电子信息、金融、统计等多个领域,并辅之以部分概率发展历史的简要叙述。这些例题不但能够加深读者对于基本概念和方法的理解和认识,扩充知识面,还可以增强阅读的趣味性。
本书共分为十五章。我们以古典概型作为引入,用严格但几乎自洽的方式介绍概率公理、随机变量及其分布、独立性和条件概率等概率论基础内容,并在此基础上讨论离散随机变量和连续随机变量、期望以及其他数字特征(矩、熵)并面向具体应用展开。我们将一些面向应用的典型分布以基本分布的变换形式加以统一处理。多元随机变量虽不是本书重点,我们仍将基本概念作了清晰的呈现。条件期望作为重要的概率论工具,编者给予了充分重视,不仅给出了严格的定义和关键性质,而且还用较多实例帮助读者掌握应用的技巧。特征函数和概率不等式是深入学习和研究概率论不可或缺的手段,本书均有所涉及。大数定律和中心极限定理是现代概率论的核心内容,本书进行了比较详细的陈述,供有兴趣的读者选读。
本书的每一章都分为四个部分,分别以PartA~D进行标示。PartA是本章节的基本内容,读者在可能的情况下应尽可能仔细阅读;PartB是扩展内容,读者可根据自身兴趣选看;PartC是习题,包括“热身”“习题”和“挑战”三个部分,形成递增的难度梯次。本书的习题配备不求多求全,读者可根据自身情况选做。如果读者希望能够进行系统的习题训练,应选择专门的概率论习题书籍来进一步研作。PartD是参考文献和必要的文献点评。
本书尽量使用具备微积分知识的读者所熟悉的方法和技巧进行分析论述,这一方面可以复习巩固以往所学;另一方面可以在新课程的学习中增强灵活运用已有知识的能力。本书力求通过严密和系统的计算来强化读者对基本概念和方法的理解和掌握。这对于培养读者运用数学工具解决问题的能力有积极作用。
本书可供相关专业本科生作为概率论入门教材使用,也可供工程技术人员自学和参考。限于水平,本书难免有许多不足和不确切之处,恳请读者批评指正。
第1章 古典概型
1.1 古典概型的定义
1.2 计算实例
1.3 “球-盒”计数问题
1.4 几何概率
1.5 古典概型与统计物理
1.6 概率研究的起源
1.7 Pascal-Fermat corre-spondence(Ⅰ)
第2章 概率论的公理化
2.1 Kolmogorov公理体系
2.2 概率的基本性质
2.3 实数集上的概率构造
2.4 不可测集
2.5 概率扩张的唯一性
2.6 其他概率模型
第3章 随机变量与分布函数
3.1 随机变量的基本概念
3.2 随机向量
3.3 分布函数
3.4 随机对象
3.5 简单函数逼近
3.6 奇异连续分布与Lebesgue分解
第4章 离散随机变量
4.1 离散随机变量的概念
4.2 Bernoulli分布
4.3 二项分布
4.4 Poisson分布
4.5 超几何分布
4.6 几何分布
4.7 负二项分布
4.8 多周期二项模型定价公式
4.9 匹配问题的推广
第5章 独立性
5.1 独立性
5.2 集合的运算
5.3 Borel-Cantelli引理
5.4 Lovasz局部引理
5.5 0-1律
5.6 Borel-Cantelli引理的推广
第6章 条件概率
6.1 基本定义
6.2 乘法公式与全概率公式
6.3 Bayesian公式
6.4 条件概率的概率属性
6.5 三门问题
6.6 Lovasz局部引理的证明
第7章 随机变量的期望
7.1 期望的基本定义
7.2 期望的线性性质
7.3 方差及高阶矩
7.4 熵的基本概念
7.5 期望的概率空间定义
7.6 矩问题
7.7 熵与信息论
第8章 连续随机变量
8.1 连续随机变量的基本概念
8.2 最大熵优化
8.3 典型的连续随机变量
8.4 最大熵、相对熵与指数族分布
8.5 Hermite多项式
8.6 指数分布的Monte Carlo模拟
第9章 随机变量的函数
9.1 随机变量函数的分布
9.2 随机变量的初等函数
9.3 Gamma函数
第10章 多元随机变量
10.1 多元分布函数
10.2 二元随机向量函数的分布
10.3 二元随机向量映射的联合分布
10.4 顺序统计量
第11章 条件期望与条件分布
11.1 条件期望
11.2 条件分布
11.3 条件期望与Radon-Nikodym定理
11.4 条件期望性质的证明
11.5 条件期望的几何意义
第12章 特征函数
12.1 基本定义
12.2 基本性质
12.3 逆转公式
12.4 周期性
12.5 多维特征函数
12.6 特征函数的判定方法
12.7 特征函数的解析性质
第13章 概率不等式
13.1 集中不等式
13.2 集中不等式的应用
13.3 Chernoff不等式的推广
第14章 大数定律
14.1 大数定律的引入
14.2 随机变量的收敛
14.3 弱大数定律
14.4 强大数定律
14.5 强收敛与弱收敛
14.6 定理14.5 的证明
14.7 一致大数定律
第15章 中心极限定理
15.1 de MoiVre-Laplace定理
15.2 依分布收敛
15.3 中心极限定理
15.4 Skorokhod表示定理的证明
索引