ARTICLE · INTELLIGENCE

战地情报 · 详情页

来自尧图项目组的一线实战观察与深度解析

概率论与数理统计笔记:从抛硬币到用数据说话的完整指南

概率论与数理统计笔记:从抛硬币到用数据说话的完整指南

简介:这份PDF笔记面向正在学习概率论与数理统计的高校学生与备考者,系统梳理课程核心概念、公式与定理,适合课堂同步复习、期末突击及考研基础阶段查漏补缺。内容按随机事件及其概率、随机变量及其分布、随机向量及其分布、数理统计四大板块展开,涵盖古典概型与几何概型、分布函数与概率密度、常见离散与连续型分布、数字特征、大数定律与中心极限定理,以及点估计、区间估计、假设检验、方差分析和回归分析等考点,并以表格形式归纳概念释义与性质,便于对照记忆。资源包共1个PDF文件,约432KB,轻量便携,手机与电脑均可随时翻阅。目前已有5985人学习下载,适合需要一份条理清晰、覆盖全面的公式定理速查笔记的读者使用。

1. 概率论与数理统计笔记:从“抛硬币”到“用数据说话”的一门学问

抛一枚硬币,正面朝上的可能性有多大?这个问题三岁小孩都能脱口而出“一半一半”。但如果有人告诉你,某批零件的不合格率是 2%,你凭什么信?你抽了 50 个发现坏了 3 个,这算不算“打脸”?再往深一层,如果一家公司说“用户平均停留时长 8 分钟”,这个“平均”到底靠不靠谱,误差能有多大?

这些问题的背后,站着同一门学问:概率论与数理统计。通俗地说,概率论负责“从模型推结果”——已知规则,算可能性;数理统计负责“从结果反推模型”——拿到一堆数据,反过来猜背后的规律。一个正着走,一个倒着走,合起来就是一套完整的“不确定性处理工具”。搞懂它,你才不会把“巧合”当“规律”,也不会被一个孤零零的百分比唬住。这份笔记把随机事件、随机变量、随机向量到数理统计四大块串成一条线,正好适合拿来建立整体认知。

2. 概率论到底在算什么:把“不确定”装进公式里

2.1 随机事件:先学会用集合的语言描述“可能发生什么”

概率论的第一课,不是算概率,而是学会“把话说清楚”。一次随机试验的所有可能结果构成样本空间,记作 Ω;其中每一个可能结果叫样本点;而“我们关心的某件事”就是样本空间的一个子集,叫随机事件。比如掷一颗骰子,样本空间是 {1,2,3,4,5,6},“掷出偶数”这个事件就是子集 {2,4,6}。

一旦用集合来描述事件,事件之间的关系就完全对应集合运算:A 与 B 同时发生是交集,至少一个发生是并集,A 不发生是补集。两个事件不可能同时发生叫互斥,A 不发生就是 A 的对立事件,一个发生与否不影响另一个叫独立。这里有个初学者最容易翻车的点:互斥和独立不是一回事。互斥说的是“不能同时发生”,独立说的是“发生了也不影响概率”,两个非零概率的事件如果互斥,那它们一定不独立——因为一个发生,另一个就彻底没戏了。

还有一个概念叫完备事件组:把样本空间切成若干互不重叠、又刚好铺满全集的“块”。它本身不难,但它是后面全概率公式和贝叶斯公式的地基,值得单独记一笔。

2.2 概率的三条公理:整个体系只靠三句话撑起来

概率是什么?不是“感觉上有多大可能”,而是一个满足三条规则的集合函数:非负性(任何事件概率不小于 0)、规范性(必然事件概率为 1)、可列可加性(两两互斥的事件,并的概率等于各自概率之和)。就这三条,撑起了整座大厦。

从这三条能推出一串常用性质:不可能事件概率为 0;P(A−B) = P(A) − P(AB);对立事件概率之和为 1;加法公式 P(A+B) = P(A) + P(B) − P(AB),多个事件时按容斥原理展开。乘法公式则把条件概率串起来:P(AB) = P(A)P(B|A),多个事件连乘即可。

真正让概率论“好用”的是两个公式。全概率公式说:如果一件事能通过一组完备的“原因”发生,那就把每种原因下的概率加权求和。贝叶斯公式反过来:已经看到结果了,回头推断是哪个原因导致的。打个比方,全概率是“从原因推结果”,贝叶斯是“从结果倒查原因”,后者在垃圾邮件过滤、疾病筛查里天天用。

提示:条件概率 P(A|B) 的分母是 P(B),所以 P(B)=0 时条件概率没有定义,别硬算。

2.3 古典概型与几何概型:两种“等可能”的算法模板

古典概型要求两件事:样本空间有限,且每个基本事件等可能。此时概率就是“目标样本点数 ÷ 总样本点数”,数数就行。几何概型把“数个数”换成“量面积/长度/体积”:样本空间是一个可度量的几何区域,事件对应其中子区域,概率等于子区域度量与总度量的比值,只和大小有关,和位置形状无关。

两者的共同灵魂是“等可能”,区别只在有限还是无限。很多人做题时把“有限”当成古典概型的唯一条件,忽略了等可能性——比如掷两枚骰子,把“点数和”当成基本事件就不等可能了,得回到 36 个有序结果去数。

3. 随机变量:给每个结果贴上一个数字标签

3.1 从事件到函数:为什么要引入随机变量

直接研究事件很别扭,因为事件是集合,不好做加减乘除。随机变量的思路是:给样本空间里每个结果配一个实数,把“事件”翻译成“数值满足某条件”。比如掷两枚骰子,与其研究“点数和为 7”这个集合,不如定义 X = 两枚点数之和,然后问 P(X=7)。这一步转换,让概率论从“数集合”升级成“研究函数”。

描述一个随机变量,核心工具是分布函数 F(x) = P(X ≤ x)。它有三条硬性特征:单调不减、右连续、取值在 0 到 1 之间且两端极限分别是 0 和 1。这三条同时也是判断“一个函数能不能当分布函数”的充要条件。

按取值特点,随机变量分两类。离散型的取值可以一个个列出来,用分布律 P(X=xᵢ)=pᵢ 描述,所有 pᵢ 非负且求和为 1。连续型的取值不可数,用概率密度 f(x) 描述,满足非负且全轴积分为 1,而它在任何单点的概率都是 0——这一点常让人困惑:概率为 0 不等于不可能发生,只是“单点”在连续世界里太瘦了,量不出重量。

3.2 期望与方差:两个数字概括一整条分布

一条分布信息量很大,但人脑装不下,于是用几个“数字特征”来概括。期望 EX 是加权平均,反映取值的中心位置;方差 DX 衡量取值相对期望的分散程度,等于 E(X−EX)²,也常写成 EX² − (EX)² 方便计算。标准差就是方差开根号,量纲和原变量一致,解释起来更直观。

期望是线性的:E(aX+bY) = aEX + bEY,无论独不独立都成立。方差没这么好心:D(aX+b) = a²DX,而 D(X+Y) = DX + DY + 2cov(X,Y),只有独立(或不相关)时协方差项才消失。这个差别是考试和实战里的高频翻车点。

再往上一层是矩:k 阶原点矩 E(Xᵏ),k 阶中心矩 E(X−EX)ᵏ。期望是一阶原点矩,方差是二阶中心矩;三阶中心矩看分布偏不偏,四阶中心矩看分布陡不陡。协方差 cov(X,Y) = E[(X−EX)(Y−EY)] 衡量两个变量同向波动的程度,相关系数 ρ 则是把它标准化到 [−1,1],只反映线性相关强弱。

注意:不相关只代表没有线性关系,不代表一定独立。两个变量可能强烈依赖,但相关系数为 0。

3.3 常见分布速查:什么场景配什么分布

离散型里,0-1 分布对应“只有两种结果”的一次试验;二项分布 B(n,p) 是 n 重伯努利试验中成功次数;泊松分布 P(λ) 描述大量试验中稀有事件的频数,比如单位时间内的呼叫数、每页的印刷错误数,当 n 大 p 小时二项分布可近似为泊松。几何分布 G(p) 是“等到首次成功”的试验次数,有无记忆性;超几何分布 H(n,M,N) 是“不放回抽样”数次品,当 N 很大时可近似二项。

连续型里,均匀分布 U(a,b) 是“区间内等可能落点”;指数分布 E(λ) 常用来描述寿命,同样有无记忆性——已经用了多久,不影响还能用多久的分布;正态分布 N(μ,σ²) 是最常见的“钟形”,身高、工件直径、测量误差都爱用它。正态分布的计算靠标准化:Z = (X−μ)/σ 服从 N(0,1),然后查表。σ 越小钟形越陡,σ 越大越扁平。

分布参数期望方差典型场景
二项 B(n,p)n, pnpnp(1−p)n 次独立试验成功次数
泊松 P(λ)λλλ单位时间稀有事件数
几何 G(p)p1/p(1−p)/p²首次成功的等待次数
均匀 U(a,b)a, b(a+b)/2(b−a)²/12区间内等可能落点
指数 E(λ)λ1/λ1/λ²寿命、等待时间
正态 N(μ,σ²)μ, σ²μσ²自然与社会现象测量值

3.4 随机变量函数:换了层皮,分布怎么跟着变

已知 X 的分布,要求 Y = g(X) 的分布,思路分两种。离散型最直接:把 g 取值相同的那些 x 的概率加起来,就是 Y 取该值的概率。连续型则用分布函数法:先写 F_Y(y) = P(g(X) ≤ y),把不等式解成 X 的范围,再用 X 的密度积分,最后对 y 求导得密度。如果 g 单调可导,也可以直接用公式 f_Y(y) = f_X(h(y))·|h′(y)|,其中 h 是 g 的反函数。

这里的关键不是背公式,而是理解“概率守恒”:X 落在某个小区间的概率,必须等于 Y 落在对应区间的概率,密度只是把这个概率“摊”到 y 轴上,所以换元时要乘雅可比因子。

4. 随机向量:当一件事由多个变量共同决定

4.1 联合分布、边缘分布与独立性

现实里的随机现象很少只有一个变量。一个人的身高和体重、一次测量的横纵坐标,都是“多个随机变量绑在一起”,这就是随机向量。二维情形最常用,描述工具是联合分布函数 F(x,y) = P(X≤x, Y≤y),离散型用联合分布律 pᵢⱼ,连续型用联合密度 f(x,y)。

从联合分布能“抽”出单个变量的分布,叫边缘分布:离散型把列联表同一行或同一列的概率相加,连续型对另一个变量积分。反过来不成立——边缘分布一般推不出联合分布,因为丢掉了变量之间的关联信息。

独立性是这里的分水岭:X 与 Y 独立,当且仅当联合分布等于边缘分布之积,离散型是 pᵢⱼ = pᵢ·p·ⱼ,连续型是 f(x,y) = f_X(x)f_Y(y)。判断独立性,最稳的办法就是验证这个乘积关系,别凭感觉。

4.2 条件分布:知道一个,另一个怎么变

给定 X = xᵢ 的条件下,Y 的条件分布律是 pᵢⱼ / pᵢ·,也就是“在 X 取这一值的行里重新归一化”。连续型的条件密度是 f(y|x) = f(x,y) / f_X(x),前提是边缘密度不为 0。条件分布是贝叶斯思想和回归分析的起点:它回答的是“已知一部分信息,另一部分的分布长什么样”。

二维常见分布里,多项分布是二项分布的推广(每次试验有多种结果),多元超几何是不放回抽样的推广,二元正态则是正态分布的推广,其相关系数 ρ 直接刻画两个分量的线性关联。

4.3 二维随机向量函数与两个“大数”定理

二维函数 Z = g(X,Y) 的分布,思路和一维一致:离散型把满足 g(x,y)=k 的所有联合概率加起来;连续型先写 F_Z(z) = P(g(X,Y) ≤ z),在区域 g(x,y) ≤ z 上对联合密度积分,再对 z 求导。

再往后是两个撑起“用样本推断总体”的定理。大数定律说:样本量足够大时,样本均值会依概率收敛到总体均值——这就是“多测几次取平均”的理论依据,辛钦大数定律和伯努利大数定律是常用版本。中心极限定理更进一步:不管总体什么分布,只要独立同分布且方差有限,样本均值标准化后就近似服从标准正态——这条定理解释了为什么正态分布在自然界如此普遍,也是后面区间估计和假设检验的底层支撑。

5. 数理统计:拿着数据反过来猜规律

5.1 总体、样本与统计量:先把“数据”定义清楚

数理统计的起点是把研究对象分成总体和个体,从总体中随机抽取的一部分叫样本。合格的简单随机样本要满足两条:代表性(每个分量与总体同分布)和独立性(各分量相互独立)。样本里个体的数量叫样本容量,观测后得到的具体数值叫样本值。

统计量是样本的函数,且不能含任何未知参数——这条限制很关键,含了未知参数就没法算。常用统计量有样本均值、样本方差(分母是 n−1,这样才无偏)、样本 k 阶原点矩和中心矩。注意样本方差不是样本二阶中心矩,后者分母是 n,两者差一个系数,这是高频易混点。

5.2 点估计与区间估计:给参数一个“值”还是一个“范围”

参数估计分两条路。点估计直接给一个数:矩估计法用样本矩替换总体矩,依据是大数定律;最大似然估计法则是选一个参数值,让“当前这批样本出现的可能性最大”,操作上就是写似然函数、取对数、求导令其为零、解方程。

点估计好不好,看三条标准:无偏性(平均来看等于真值)、有效性(均方误差小)、一致性(样本量增大时依概率收敛到真值)。区间估计则给一个范围:在给定置信度 1−α 下,构造置信下限和上限,使得参数落在区间内的概率为 1−α。常用方法是枢轴变量法——找一个含参数但分布已知且不依赖未知参数的样本函数,再解不等式。

单正态总体下,均值 μ 的区间估计分 σ 已知(用 U 统计量)和 σ 未知(用 t 统计量)两种;方差 σ² 的估计用卡方统计量。双总体则涉及两个均值差和两个方差比的估计,分别用正态、t 和 F 统计量。

5.3 假设检验:先假定,再看数据打不打脸

假设检验的逻辑很像“反证法”:先提出原假设 H₀ 和备择假设 H₁,构造检验统计量,给定显著性水平 α(一个小概率),确定拒绝域 W,最后用样本算出的观测值判断落不落在拒绝域里。

这里有两类错误:拒真错误(H₀ 为真却被拒绝)和取伪错误(H₀ 为假却被接受)。两者此消彼长,除非增大样本量,否则没法同时压低,所以通常采用“先控制第一类错误、再尽量减小第二类”的原则。单正态总体下,均值检验同样按 σ 已知/未知分 U 检验和 t 检验;方差检验用卡方;双总体用 F 检验比较方差比。

除了参数检验,还有非参数的皮尔逊拟合优度检验(检验总体是否服从某个已知分布)和独立性检验(用列联表判断两个变量是否独立),两者都基于“实际频数与理论频数偏差平方和”构造卡方统计量。

6. 什么时候该用、什么时候别硬套:一份边界清单

这套工具不是万能的,用错场景比不会用更麻烦。下面按“能用”和“别用”两类说清楚。

场景建议原因
样本量小且总体分布未知别急着套正态近似中心极限定理要样本量够大才生效,小样本优先考虑 t 分布或非参数方法
数据明显有异常值先处理再估计均值和方差对极端值极敏感,一个离群点能把结论带偏
变量间是非线性关系别只看相关系数相关系数只测线性关联,ρ≈0 不代表无关
多次重复比较校正显著性水平反复检验会放大第一类错误,整体 α 会失控
抽样不随机结论别外推统计推断的前提是样本有代表性,抽样偏了后面全白搭

举个具体例子。某实验室做一批传感器的寿命测试,抽了 12 个样品,想估计平均寿命并判断是否达到 5000 小时的标称值。这里样本量只有 12,总体分布未知,正确做法是:先看数据有没有明显偏态或异常值;用样本均值和样本标准差做点估计;区间估计和均值检验都走 t 统计量而不是正态 U 统计量;如果数据严重偏离正态,还得考虑对数变换或非参数方法。反过来,如果硬套正态近似,置信区间会偏窄,检验的显著性水平也会失真——这就是典型的“公式对、场景错”。

我自己的习惯是:每次拿到数据,先问三件事——样本是不是随机抽的、量够不够、分布大概长什么样,这三关过了再动公式。有一次帮人看一组只有 8 个样本的测量数据,对方直接上了正态检验,结论看着很漂亮,但把 t 检验一换,显著性就没了。从那以后我每次做估计和检验前,都强制先走一遍“样本量—分布—抽样方式”的检查,宁可多花十分钟,也不让结论建在沙子上。

这份笔记把四大块的概念、公式和适用条件整理在一起,适合放在手边随时对照。需要完整内容的话,下载后按章节过一遍,比零散搜公式更成体系。希望帮到你。

本文还有配套的精品资源,点击获取

RELATED READING

延伸阅读

更多一线实战笔记与深度复盘,助您持续精进