第四章 概率论(Probability Theory)
在大多数数量金融面试中,你至少会遇到几道概率题。概率论是数量金融各个领域的基础,因此,对每一位量化面试候选人来说,掌握概率论都十分重要。良好的直觉和逻辑能帮助你解决许多概率题,但全面理解基础概率论,可以让你以清晰、简洁的方式处理一些看似违反直觉的结果。
本章复习的基础概率论不仅经常出现在面试里,也能为后续概率问题提供必要知识。知识固然重要,但直觉与逻辑也不可或缺。切勿以为学会了概率知识就能替代分析判断;第二章讨论的解题技巧依然很有帮助。下面从几个有趣的概率问题开始。
4.1 概率的基本定义与集合运算(Basic Probability Definitions and Set Operations)
先回顾概率论中的基本定义与记号。这些概念在学习过程中往往只是一笔带过,却是系统研究概率问题的基础。
- 结果(Outcome,
):一次实验或试验的结果。 - 样本空间(Sample space,
):实验中所有可能结果的集合。 - 结果的概率:
,并且 。 - 事件(Event,
):样本空间的一个子集,即一组结果; 。 - 并集:
表示属于事件 或 (或两者都属于)的所有结果。 - 交集:
(也记作 )表示同时属于 和 的所有结果。 - 补集:
表示事件 不发生。 - 互斥事件:
。对于两两互斥的 ,有
随机变量(Random variable):把样本空间
以投掷一枚公平六面骰子为例,样本空间是
题目:硬币游戏(Coin toss game)
两名玩家玩抛硬币游戏。玩家
查看解答
先从事件和对称性着手。移走
: 的 枚硬币正面数较多; :两人正面数一样多; : 的 枚硬币正面数较少。
由对称性,
题目:扑克牌游戏(Card game)
赌场使用一副52张扑克牌,13种点数各有4张。你从充分洗好的牌中抽一张,然后庄家再抽一张,不放回。若你抽到的点数大于庄家,就获胜;如果点数小于或等于庄家,则庄家获胜。你的胜率是多少?
查看解答
一种计算方法是依点数枚举。若你抽到点数为2的牌,庄家点数较小的概率为
更简洁的方法是利用对称性。将事件分为你的点数较大、点数相同、你的点数较小。第一个和第三个事件概率相同。给定你抽到某张牌,剩下51张中有3张点数相同,故平局概率为
题目:醉酒乘客(Drunk passenger)
100名乘客排队登机,原本每人持有对应座位号码的机票。第一个人醉酒,随意坐进一个空座位;此后每位乘客若自己的座位空着,就坐自己的座位,否则随机选择一个空座位。你是最后一名乘客(100号),最终坐到自己座位的概率是多少?
查看解答
关注1号和100号座位。若1号座位先被占,100号最后就会坐在自己的位置;若100号座位先被占,最后一名乘客就无法坐到自己的位置。由于整个过程对这两个座位是对称的,最终概率为
若想严格理解,可从第一个人开始追踪:他若坐进自己的1号座位,剩余乘客就会各就各位;若占了100号座位,则最后一名乘客无法坐到原位;若占了中间某个
题目:圆上的 个点(N points on a circle)
在圆周上随机独立抽取
查看解答
选定一点作为顺时针起点,把
这些事件在忽略概率为零的边界情形后彼此互斥:如果从点

类似地,设某个圆弧的长度占整个圆周的比例为
4.2 组合分析(Combinatorial Analysis)
许多概率题只需要数清某个事件可能发生的方式即可。组合分析是这种计数的数学基础。本节复习几个常用概念。
基本计数原理与常用公式
基本计数原理:设长度为
排列(Permutation):把对象排成有顺序的序列,顺序不同就算不同排列。当
组合(Combination):从
二项式定理:
容斥原理(Inclusion–Exclusion):
一般地,
题目:扑克牌型(Poker hands)
一副52张扑克牌有13种点数,每种点数4种花色。随机抽出5张,分别得到“四条”(4张同一点数)、“葫芦”(3张同一点数加另外2张同一点数)和“两对”(两组不同点数的对子,另加一张其他点数牌)的概率是多少?
查看解答
5张牌组合的总数是
- 四条:先选4张相同点数牌的点数,有13种;第5张可以在其余48张中任选,因此组合数为
。 - 葫芦:先选三张相同点数牌的点数,有13种,花色选法为
;对子有12种剩余点数,花色选法为 。组合数为 。 - 两对:先选两种点数
,每对各选2种花色 ,剩余牌在另外11种点数的44张中选一张。因此组合数为 。
分别除以所有5张牌组合数,得到
题目:跳楼梯的兔子(Hopping rabbit)
一只兔子在有
查看解答
从小规模情况着手:
这是斐波那契数列的递推形式,可以据此计算任意
题目:海盗分赃(二)(Screwy pirates 2)
第二章的海盗和平分完战利品后,又找到新战利品,把队伍扩充至11人。他们买了一只坚固的宝箱,要用锁保护。由于不信任其他人,他们同意:只有至少6人(严格多数)一起合作才能打开宝箱。他们让锁匠在箱子上装一定数量的锁,每把锁有自己的钥匙,锁匠可以为每位海盗配多把钥匙。问最少需要多少把锁?每位海盗要带多少把钥匙?
查看解答
本题是组合分析在信息分享与密码学中的一个例子。任意5人的小组都不应能打开宝箱,但任意6人都应该能够打开。
为11人中每个5人小组安装一把独有的锁,并且不给这5人该锁的钥匙,其余6人每人持有这把锁的钥匙。这样,任何5人凑在一起,总有至少一把锁无法打开;任何6人凑在一起,对每把锁至少有其中一人持钥匙。
因此,最少锁数是所有不同5人小组的数量:
每把锁有6把钥匙,分发总钥匙数为
题目:国际象棋淘汰赛(Chess tournament)
一场国际象棋单败淘汰赛有
查看解答
有两种思路:条件概率的乘法公式,或直接计数。
条件概率法:1号和2号没有在首轮相遇的概率为
计数法:每轮淘汰赛的晋级树把选手分为规模相等的两半。由于1号总能获胜,为了在决赛遇到2号,两人必须处于不同的

题目:寄错求职信(Application letters)
你给5家公司投递求职申请,分别是 Morgan Stanley、Lehman Brothers、UBS、Goldman Sachs 和 Merrill Lynch。你分别写好5封个性化求职信并装入5只信封,却不小心把信随机放入信封。问5封求职信全部寄错公司的概率是多少?
查看解答
这是典型的错排与容斥原理问题。令
任意指定
所以所有5封信都寄错的概率为
题目:生日悖论(Birthday problem)
一间教室至少要有多少人,才能使至少两人同一天生日的概率超过
查看解答
设教室有
至少两人生日相同的概率为
题目:小数点后的第100位(100th digit)
查看解答
利用提示:
右侧所有项均为整数,因此左侧和为整数。又因
所以
题目:整数的立方(Cubic of integer)
从1到
查看解答
把整数写为
要使个位为1,必须有
4.3 条件概率与贝叶斯公式(Conditional Probability and Bayes’ Formula)
很多金融交易都需要在信息有限、甚至不完整的情况下做出判断。条件概率不仅常见于量化面试,也是数量概率论应用最广泛的主题之一。本节先回顾基础定义,再通过题目展示条件概率的应用。有些题并不依赖复杂计算,关键在于逻辑分析。
条件概率、乘法公式与独立性
若
乘法公式:
全概率公式:若
独立事件:
贝叶斯公式:若
题目:两个孩子的性别(Boys and girls)
A:某公司为至少有一个儿子的在职母亲举办聚餐。Jackson女士应邀参加,她有两个孩子。已知她至少有一个儿子,问她的两个孩子都是男孩的概率是多少?
B:新同事Parker女士有两个孩子,你曾见过其中一个孩子,知道他是男孩。问她的两个孩子都是男孩的概率是多少?
查看解答
A:把两个孩子按长幼排序,基本样本空间为
B:与A不同,你看到的是其中一名确定的孩子。给定这名孩子是男孩,在两名孩子性别独立、男女各半的假设下,另一名孩子同样是男孩的概率为
两问看似类似,但条件信息不相同:A是“至少有一名孩子为男孩”的家庭层面条件;B则是在特定一个孩子的性别已知时,询问另一个孩子的性别。
题目:全是女孩的世界?(All-girl world?)
在一个假想社会里,每对夫妇都希望生一个女孩。每次分娩独立,生女孩和男孩的概率均为50%。每对夫妇只要还没生出女孩,就继续生;一旦生出女孩就不再生育。这个社会的女孩占全部孩子的比例是多少?
查看解答
这种题容易让人误以为:由于每家最终至少有一个女孩,所以女孩会更多。关键是题设规定每次分娩男女概率各半、不同分娩相互独立;停止规则并不会改变每个新生儿为女孩的概率。因而在足够多家庭的总体中,女孩与男孩的占比仍为
题目:不公平硬币(Unfair coin)
1000枚硬币中有1枚不公平硬币,两面都是正面;另999枚都是公平硬币。随机选取一枚,连续抛10次,结果全部为正面。选中不公平硬币的条件概率是多少?
查看解答
设
原书把结果近似记为0.5。
题目:用不公平硬币制造公平概率(Fair probability from an unfair coin)
一枚硬币出现正面和反面的概率未知,可能并不公平。能否只使用这枚硬币,构造胜率恰好为1/2的游戏?
查看解答
一次抛掷显然无法保证公平;连续抛两次即可。设正面概率为
把
原书说明:这是一个最简单的方法,而非效率最优的方法;更复杂的方法可参考 John von Neumann 的无偏抽样思想以及相关随机位提取研究。
题目:飞镖游戏(Dart game)
Jason向圆形靶心投出两支飞镖,第二支比第一支离靶心更远。假设他再向同一靶心投第三支,第三支比第一支更接近靶心的概率是多少?
查看解答
三次投掷独立且距离服从相同的连续分布,没有并列的情形。在已知第二支比第一支远的前提下,三次投掷距离由近到远的6种排列只剩下3种:
| 排列 | 最近 | 居中 | 最远 |
|---|---|---|---|
| 1 | 第一支 | 第二支 | 第三支 |
| 2 | 第一支 | 第三支 | 第二支 |
| 3 | 第三支 | 第一支 | 第二支 |
其中后两种满足第三支比第一支更近,因此概率为
另一种推法是扩展成
题目:生日排队(Birthday line)
在电影院,一位经理宣布会赠送电影票给队列中第一个生日与队列中此前任何一人相同的人。假设你不知道其他人的生日,每个生日在一年365天中等可能。你应该站在第几位才能最大化获赠电影票的概率?
查看解答
若你站在第
当
解不等式
题目:三次掷骰递增(Dice order)
连续掷一枚公平六面骰子三次,所得点数严格递增的概率是多少?
查看解答
点数严格递增要求三次均为不同点数。三次互不相同的概率为
题目:蒙提霍尔问题(Monty Hall problem)
电视游戏有三扇门,其中一扇后有车、另两扇后有山羊。主持人知道奖品的位置。你先选一扇门,主持人随后从剩余两扇门中打开一扇有山羊的门,再让你决定保留原选择还是改选第三扇门。是否应该换门?换门获车的概率是多少?
查看解答
如果不换门,能否获车只取决于最初选择,因此概率为
关键是主持人知道奖品位置,且总会打开一扇有山羊的门;不能把主持人打开门后的两扇未开门直接视为各有1/2概率。
题目:阿米巴虫种群(Amoeba population)
池塘里有一只阿米巴虫。每过一分钟,它以相同概率出现以下四种情况:死亡、不变、分裂为2只、分裂为3只。所有后代每分钟都独立遵循同样规则。求这一种群最终灭绝的概率。
查看解答
设最终灭绝概率为
整理得
有效解包括1和
题目:罐子里的糖果(Candies in a jar)
罐子里有10颗红糖果、20颗蓝糖果和30颗绿糖果。一次随机取出一颗,直至取完。求最后取出的红糖果比最后一颗蓝糖果和最后一颗绿糖果都更早取出的概率。
查看解答
设
事件
类似地,
因此
题目:轮流抛硬币(Coin toss game)
查看解答
设
若
若
代回全概率公式:
合理性检查:
题目:俄罗斯轮盘赌系列(Russian roulette series)
传统轮盘赌使用有6个弹巢的左轮手枪,其中随机装入1颗子弹,转动弹巢。两名玩家轮流向自己头部扣动扳机;枪响者输。如果你是其中一人,可以选择先手还是后手,你应该选哪个?首问假设每次扣动扳机后不重新转动弹巢。
接下来改变规则:每次扣动扳机前都重新随机转动弹巢,你应该选择先手还是后手?自己中弹的概率是多少?
最后,改为在6个弹巢中随机放入2颗子弹。你的对手先扣动一次扳机且幸存,现在轮到你。若两颗子弹的位置随机,应该转动弹巢吗?若两颗子弹位置连续,又应该转动吗?
查看解答
一颗子弹,不重新转动:子弹在6个弹巢中的位置等概率。首手会在第1、3、5个弹巢中枪,后手在第2、4、6个弹巢中枪。因此两人的失败概率都为
一颗子弹,每次重新转动:设每轮先手中弹概率
因此应当选择后手,后手最终中弹概率为
随机放置两颗子弹:给定前一发为空且对手幸存,若不转动,在剩余5个弹巢里有2颗子弹,下一发中弹概率为
两颗子弹相邻:已知前一发为空,子弹位置连续,不转动时,下一发是子弹的条件概率为

题目:四名玩家分A牌(Aces)
将一副52张牌随机平均分给4名玩家,每人13张。每名玩家恰好拿到一张A的概率是多少?
查看解答
可以直接计数:均分整副牌的总方式数为
还可以使用条件概率:第一张A可以在任何一名玩家手里;第二张A落到另外三名玩家的39个空位中的概率为
题目:赌徒破产问题(Gambler’s ruin problem)
赌徒初始有
查看解答
设
利用
再利用
题目:篮球得分(Basketball scores)
一名篮球运动员投100次罚球。如果前一次没投进,那么下一次必定进;如果前一次投进,那么下一次投进概率等于他截至目前已经投进的次数占总投篮次数的比例。例如,前40次投进23次、且第二次投篮没进,则第41次投进概率为
查看解答
设
由这些小规模情况,可以归纳得到对
用归纳法验证。若前
边界情形也满足相应递推。于是前100次中总共投进50球的概率为
题目:公路上出现汽车(Cars on road)
假定在20分钟内至少观察到一辆汽车经过某段公路的概率为
查看解答
把20分钟划分为4个5分钟区间。设5分钟内至少出现一辆汽车的概率为
解得
4.4 离散分布与连续分布(Discrete and Continuous Distributions)
本节复习量化建模中常见的随机变量分布。无论是否熟记各个分布的公式,理解分布的基本性质并能够快速推导它们,都是非常实用的技能。先从基础定义和公式开始。
随机变量常用函数(Common functions of random variables)
| 概念 | 离散型随机变量 | 连续型随机变量 |
|---|---|---|
| 累积分布函数(CDF) | ||
| 概率质量函数(PMF)或概率密度函数(PDF) | ||
| 期望 |
||
| 函数期望 |
||
| 方差 |
同左 | |
| 标准差 |
同左 |
表4.1:离散型与连续型随机变量的基本性质。积分默认在相应的定义域上进行。
离散型随机变量(Discrete random variables)
离散均匀分布:若
二项分布:在
泊松分布:在固定时间区间里计数某事件的发生次数;若事件按固定强度
几何分布:连续独立伯努利试验中,首次成功所需的试验次数。
负二项分布:连续独立伯努利试验中,达到第
| 名称 | 概率质量函数与取值 | ||
|---|---|---|---|
| 离散均匀分布 | |||
| 二项分布 | |||
| 泊松分布 | |||
| 几何分布 | |||
| 负二项分布 |
表4.2:常见离散分布的 PMF、期望和方差。
连续型随机变量(Continuous random variables)
均匀分布:随机变量在有限区间
正态分布(高斯分布):由于中心极限定理,它在许多随机现象中自然出现。
指数分布:常用于描述常强度泊松过程相邻两次事件的时间间隔。
伽马分布:有两个参数
贝塔分布:定义在
| 名称 | 概率密度函数与定义域 | ||
|---|---|---|---|
| 连续均匀分布 | |||
| 正态分布 | |||
| 指数分布 | |||
| 伽马分布 | |||
| 贝塔分布 |
其中
表4.3:常见连续分布的 PDF、期望和方差。原书以“率参数”
题目:银行家碰面概率(Meeting probability)
两名银行家分别在下午5:00到6:00之间随机且独立地到达车站,每人的到达时间均服从均匀分布。每人只愿意等对方最多5分钟;如果5分钟内对方不来,就离开。求两人碰面的概率。
查看解答
令
正方形中两块不满足条件的直角三角形各有两条长55的直角边。因此

题目:随机折棒能否构成三角形(Probability of triangle)
在一根直棒上独立、均匀地随机选取两个切点,切成三段。三段能够组成三角形的概率是多少?
查看解答
不失一般性,令棒长为1,两个切点分别为
这些不等式在

题目:泊松过程与等车(Property of Poisson process)
你在公交站等车,车辆按照平均10分钟一辆的泊松过程到达(
查看解答
泊松过程的到达间隔服从指数分布:
指数分布的关键性质是无记忆性:
无论你已经等了多久,未来的剩余等待时间仍然服从相同的指数分布。因此,下一辆车的期望等待时间为
用相同的思路考察过去。从随机时刻往回看,泊松过程的过去与未来对称,也没有记忆性,所以自上一辆车离开以来经过的时间同样服从期望为10分钟的指数分布。答案是
这看起来违反直觉:相邻两辆车的平均间隔明明只有10分钟,但你到站时,上辆车平均已走10分钟、下辆车平均还需10分钟。原因是随机到站更容易落在较长的发车间隔中。例如,30分钟的间隔比5分钟的间隔更容易被随机时刻选中,这就是长度偏差抽样的作用。原书还指出,对一般更新过程,随机时刻的平均前向剩余时间可写为
题目:标准正态分布的矩(Moments of normal distribution)
若
查看解答
标准正态分布的均值、方差、偏度和峰度密切联系于前四阶矩。其密度为
依次求导,有
因此,
取
4.5 期望、方差与协方差(Expected Value, Variance & Covariance)
期望、方差与协方差在估计投资收益和风险时不可或缺,也经常出现在量化面试中。先回顾基础性质。
期望、协方差、相关系数
若期望有限,期望的线性性为
无论各个随机变量是否独立,这个性质都成立。若
协方差(Covariance):
相关系数(Correlation):
若
方差的线性组合公式:
条件期望、条件方差与全期望公式
条件期望在离散型变量下写作
连续型变量时,
全期望公式(Law of total expectation):
题目:连接面条(Connecting noodles)
碗里有1000根面条,蒙上眼睛后,随机拿起任意两根尚未连接的面条端点,将它们接在一起。每根面条的任一端被选中的机会相同。重复这一过程,直到没有自由端点。求最终形成圆圈的数量的期望。
查看解答
先处理简单情况。只有1根面条时,唯一的连接方式是首尾相连,
有3根面条时,6个自由端点共有
一般地,若有
从而1000根面条最终圆圈数的期望为
题目:最优对冲比率(Optimal hedge ratio)
你买入一股股票
查看解答
做空
对
二阶导数为
题目:掷骰收益游戏(Dice game)
重复掷一枚公平六面骰子,每次得到相应面值的收益。若某次掷出4、5或6,你可以继续掷;一旦掷出1、2或3,游戏结束。求该游戏的预期总收益。
查看解答
设从任一新一轮开始的期望总收益为
题目:第一张A的出现位置(Card game)
一副标准52张扑克牌经过充分洗牌。从牌堆顶端依次翻牌,直到翻出第一张A。所需翻牌张数的期望是多少?
查看解答
共有4张A和48张其他牌。为48张非A牌逐一构造示性变量
考虑特定一张普通牌与4张A之间的相对位置,这5张牌中任何一张都有相同概率排第一,因此
更一般地,在
题目:独立均匀随机变量之和(Sum of random variables)
设
查看解答
从小规模着手。当

用数学归纳法验证。假设
归纳结论为
题目:集齐优惠券(Coupon collection)
早餐麦片盒中随机放有
A:若孩子想集齐全部
B:如果孩子已经收集了
查看解答
A:令
总购买数
其中
B:对第
由期望的线性性得到
原书脚注的相关问题:把18个球随机投进10个盒子,空盒子的期望数量为
题目:联合违约概率(Joint default probability)
假设债券
查看解答
先用极端事件关系理解结果。当每次
也可用相关系数推导。令示性变量
对于上述两类伯努利变量,相关系数的可行范围为
这里相关系数不能任意取
4.6 顺序统计量(Order Statistics)
设
利用独立性,可以直接得到二者的分布函数及概率密度:
题目:最大值与最小值的分布及期望(Expected value of max and min)
设
查看解答
对
对最小值,
题目:最大值与最小值的相关系数(Correlation of max and min)
令
查看解答
先求条件概率。给定

由上题知,当
从边际密度
因此
还需计算
对
最终,
另一种更简洁的计算
这两个顺序统计量具有正相关性:当最小值增大时,最大值往往也会较大;当最小值较小时,最大值的变化范围则更大。
题目:随机爬行的蚂蚁(Random ants)
500只蚂蚁随机放在一根1英尺长的绳子上,位置彼此独立、服从
查看解答
看似复杂的关键是相遇后的转向。两只蚂蚁迎面相遇后交换方向,与两只蚂蚁在相遇时互换身份并继续直行,从整体位置变化来看完全相同。由于500只蚂蚁的位置随机且身份对最后掉落时间无影响,我们可以假装它们互不碰撞、直接穿过彼此。
因此,对每只蚂蚁而言,若它从位置
最后一只蚂蚁掉落所需的时间,等价于500个独立均匀随机变量的最大值。根据本节前面的顺序统计量公式,
原书印刷页103的结果写作
掌握状态与复习
关掉资料独立完成后记 A;提示后完成记 B;需要重学记 C。
记录尽量保存在当前浏览器,建议定期导出备份。