第一章 随机事件和概率
（1）排列组合公式 从m个人中挑出n个人进行排列的可能数。 从m个人中挑出n个人进行组合的可能数。 加法原理（两种方法均能完成此事）：m+n 某件事由两种方法来完成，第一种方法可由m种方法完成，第二种方法可由n种方法来完成，（2）加法和乘法原理 则这件事可由m+n 种方法来完成。 乘法原理（两个步骤分别不能完成这件事）：m×n 某件事由两个步骤来完成，第一个步骤可由m种方法完成，第二个步骤可由n 种方法来完成，则这件事可由m×n 种方法来完成。 重复排列和非重复排列（有序） （3）一些常见排列 对立事件（至少有一个） 顺序问题 如果一个试验在相同条件下可以重复进行，而每次试验的可能结果不止一个，但在进行一次试验（4）随机试验之前却不能断言它出现哪个结果，则称这种试验为随机试验。 和随机事件 试验的可能结果称为随机事件。 在一个试验下，不管事件有多少个，总可以从其中找出这样一组事件，它具有如下性质： ①每进行一次试验，必须发生且只能发生这一组中的一个事件； ②任何事件，都是由这一组中的部分事件组成的。 这样一组事件中的每一个事件称为基本事件，用 来表示。 （5）基本事件、样本空间和事基本事件的全体，称为试验的样本空间，用 表示。 件 一个事件就是由 中的部分点（基本事件 ）组成的集合。通常用大写字母A，B，C，…表示事件，它们是 的子集。 为必然事件，Ø为不可能事件。 不可能事件（Ø）的概率为零，而概率为零的事件不一定是不可能事件；同理，必然事件（Ω）的概率为1，而概率为1的事件也不一定是必然事件。 （6）事件的关①关系： 1 / 22
系与运算 如果事件A的组成部分也是事件B的组成部分，（A发生必有事件B发生）： 如果同时有 ， ，则称事件A与事件B等价，或称A等于B：A=B。 A、B中至少有一个发生的事件：A B，或者A+B。 属于A而不属于B的部分所构成的事件，称为A与B的差，记为A-B，也可表示为A-AB或者 ，它表示A发生而B不发生的事件。 A、B同时发生：A B，或者AB。A B=Ø，则表示A与B不可能同时发生，称事件A与事件B互不相容或者互斥。基本事件是互不相容的。 -A称为事件A的逆事件，或称A的对立事件，记为 。它表示A不发生的事件。互斥未必对立。 ②运算： 结合率：A(BC)=(AB)C A∪(B∪C)=(A∪B)∪C 分配率：(AB)∪C=(A∪C)∩(B∪C) (A∪B)∩C=(AC)∪(BC) 德摩根率： ， 设 为样本空间， 为事件，对每一个事件 都有一个实数P(A)，若满足下列三个条件： 1° 0≤P(A)≤1， 2° P(Ω) =1 （7）概率的公理化定义 3° 对于两两互不相容的事件 ， ，…有 常称为可列（完全）可加性。 则称P(A)为事件 的概率。 1° ， 2° 。 （8）古典概型 设任一事件 ，它是由 组成的，则有 P(A)= = 若随机试验的结果为无限不可数并且每个结果出现的可能性均匀，同时样本空间中的每一个基本（9）几何概型 事件可以使用一个有界区域来描述，则称此随机试验为几何概型。对任一事件A， 。其中L为几何度量（长度、面积、体积）。 （10）加法公式 P(A+B)=P(A)+P(B)-P(AB) 2 / 22
当P(AB)＝0时，P(A+B)=P(A)+P(B) P(A-B)=P(A)-P(AB) （11）减法公式 当B A时，P(A-B)=P(A)-P(B) 当A=Ω时，P( )=1- P(B) 定义 设A、B是两个事件，且P(A)>0，则称 为事件A发生条件下，事件B发生的条件概率，记为 。 （12）条件概率 条件概率是概率的一种，所有概率的性质都适合于条件概率。 例如P(Ω/B)=1 P( /A)=1-P(B/A) 乘法公式： （13）乘法公式 更一般地，对事件A1，A2，…An，若P(A1A2…An-1)>0，则有 … …… … 。 ①两个事件的独立性 设事件 、 满足 ，则称事件 、 是相互独立的。 若事件 、 相互独立，且 ，则有 若事件 、 相互独立，则可得到 与 、 与 、 与 也都相互独立。 必然事件 和不可能事件Ø与任何事件都相互独立。 （14）独立性 Ø与任何事件都互斥。 ②多个事件的独立性 设ABC是三个事件，如果满足两两独立的条件， P(AB)=P(A)P(B)；P(BC)=P(B)P(C)；P(CA)=P(C)P(A) 并且同时满足P(ABC)=P(A)P(B)P(C) 那么A、B、C相互独立。 对于n个事件类似。 设事件 满足 （15）全概公式 1° 两两互不相容， ， 2° ， 3 / 22
则有 。 设事件 ， ，…， 及 满足 1° ， ，…， 两两互不相容， >0， 1，2，…， ， 2° ， ， （16）贝叶斯公则 式 ，i=1，2，…n。 此公式即为贝叶斯公式。 ，（ ， ，…， ），通常叫先验概率。 ，（ ， ，…， ），通常称为后验概率。贝叶斯公式反映了“因果”的概率规律，并作出了“由果朔因”的推断。 我们作了 次试验，且满足 u 每次试验只有两种可能结果， 发生或 不发生； u 次试验是重复进行的，即 发生的概率每次均一样； （17）伯努利概型 u 每次试验是独立的，即每次试验 发生与否与其他次试验 发生与否是互不影响的。 这种试验称为伯努利概型，或称为 重伯努利试验。 用 表示每次试验 发生的概率，则 发生的概率为 ，用 表示 重伯努利试验中 出现 次的概率， ， 。 第二章 随机变量及其分布
（1）离散型随设离散型随机变量 的可能取值为Xk(k=1,2,…)且取各个值的概率，即事件(X=Xk)的概率为 机变量的分布律 P(X=xk)=pk，k=1,2,…， 则称上式为离散型随机变量 的概率分布或分布律。有时也用分布列的形式给出： 。 显然分布律应满足下列条件： （1） ， ， （2） 。 （2）连续型随设 是随机变量 的分布函数，若存在非负函数 ，对任意实数 ，有 机变量的分布密度 ， 则称 为连续型随机变量。 称为 的概率密度函数或密度函数，简称概率密度。 4 / 22
密度函数具有下面4个性质： 1° 。 2° 。 （3）离散与连 续型随机变量的关系 积分元 在连续型随机变量理论中所起的作用与 在离散型随机变量理论中所起的作用相类似。 （4）分布函数 设 为随机变量， 是任意实数，则函数 称为随机变量X的分布函数，本质上是一个累积函数。 可以得到X落入区间 的概率。分布函数 表示随机变量落入区间（– ∞，x]内的概率。 分布函数具有如下性质： 1° ； 2° 是单调不减的函数，即 时，有 ； 3° ， ； 4° ，即 是右连续的； 5° 。 对于离散型随机变量， ； 对于连续型随机变量， 。 （5）八大分布 0-1分布 P(X=1)=p, P(X=0)=q 二项分布 在 重贝努里试验中，设事件 发生的概率为 。事件 发生的次数是随机变量，设为 ，则 可能取值为 。 ， 其中 ， 则称随机变量 服从参数为 ， 的二项分布。记为 。 当 时， ， ，这就是（0-1）分布，所以（0-1）分布是二项分布的特例。 泊松分布 设随机变量 的分布律为 ， ， ， 则称随机变量 服从参数为 的泊松分布，记为 或者P( )。 5 / 22
泊松分布为二项分布的极限分布（np=λ，n→∞）。 超几何分布 随机变量X服从参数为n,N,M的超几何分布，记为H(n,N,M)。 几何分布 ，其中p≥0，q=1-p。 随机变量X服从参数为p的几何分布，记为G(p)。 均匀分布 设随机变量 的值只落在[a，b]内，其密度函数 在[a，b]上为常数 ，即 a≤x≤b 其他， 则称随机变量 在[a，b]上服从均匀分布，记为X~U(a，b)。 分布函数为 a≤x≤b 0， x Φ(-x)＝1-Φ(x)且Φ(0)＝ 。 如果 ~ ，则 ~ 。 。 （6）分位数 下分位表： ； 上分位表： 。 （7）函数分布 离散型 已知 的分布列为 ， 的分布列（ 互不相等）如下： ， 若有某些 相等，则应将对应的 相加作为 的概率。 连续型 先利用X的概率密度fX(x)写出Y的分布函数FY(y)＝P(g(X)≤y)，再利用变上下限积分的求导公式求出fY(y)。 第三章 二维随机变量及其分布 （1）联合分布 离散型 如果二维随机向量 （X，Y）的所有可能取值为至多可列个有序对（x,y），则称 为离散型随机量。 设 =（X，Y）的所有可能取值为 ，且事件{ = }的概率为pij,,称 为 =（X，Y）的分布律或称为X和Y的联合分布律。联合分布有时也用下面的概率分布表来表示： Y y1 X x1 x2 y2 … yj … p11 p21 p12 p22 … … … p1j p2j … … … xi pi1 这里pij具有下面两个性质： （1）pij≥0（i,j=1,2,…）； 8 / 22 （2） 连续型 对于二维随机向量 ，如果存在非负函数 ，使对任意一个其邻边分别平行于坐标轴的矩形区域D，即D={(X,Y)|a 。 连续型 X的边缘分布密度为 Y的边缘分布密度为 （6）条件分布 离散型 在已知X=xi的条件下，Y取值的条件分布为 在已知Y=yj的条件下，X取值的条件分布为 连续型 在已知Y=y的条件下，X的条件分布密度为 ； 在已知X=x的条件下，Y的条件分布密度为 （7）独立性 一般型 离散型 F(X,Y)=FX(x)FY(y) 有零不独立 连续型 f(x,y)=fX(x)fY(y) 直接判断，充要条件： ①可分离变量 ②正概率密度区间为矩形 二维正态分布 ＝0 随机变量的函数 若X1,X2,…Xm,Xm+1,…Xn相互独立， h,g为连续函数，则： h（X1，X2,…Xm）和g（Xm+1,…Xn）相互独立。 特例：若X与Y独立，则：h（X）和g（Y）独立。 例如：若X与Y独立，则：3X+1和5Y-2独立。 （8）二维均匀设随机向量（X，Y）的分布密度函数为 10 / 22 分布 其中SD为区域D的面积，则称（X，Y）服从D上的均匀分布，记为（X，Y）～U（D）。 例如图3.1、图3.2和图3.3。 y 1 D1 O 1 x 图3.1 y D2 1 1 O 2 x 图3.2 y D3 d 11 / 22 c O a b x 图3.3 （9）二维正态设随机向量（X，Y）的分布密度函数为 分布 其中 是5个参数，则称（X，Y）服从二维正态分布， 记为（X，Y）～N（ 由边缘密度的计算公式，可以推出二维正态分布的两个边缘分布仍为正态分布， 即X～N（ 但是若X～N（ ，(X，Y)未必是二维正态分布。 （10）函数分Z=X+Y 布 根据定义计算： 对于连续型，fZ(z)＝ 两个独立的正态分布的和仍为正态分布（ ）。 n个相互独立的正态分布的线性组合，仍服从正态分布。 ， 若 相互独立，其分布函数分别为 ，则Z=max,min(X1,X2,…Xn)的分Z=max,min(X1,X2,…Xn) 布函数为： 分布 设n个随机变量 相互独立，且服从标准正态分布，可以证明它们的平方和 的分布密度为 我们称随机变量W服从自由度为n的 分布，记为W～ ，其中 所谓自由度是指独立正态随机变量的个数，它是随机变量分布中的一12 / 22 个重要参数。 分布满足可加性：设 则 t分布 设X，Y是两个相互独立的随机变量，且 可以证明函数 的概率密度为 我们称随机变量T服从自由度为n的t分布，记为T～t(n)。 F分布 设 ，且X与Y独立，可以证明 的概率密度函数为 我们称随机变量F服从第一个自由度为n1，第二个自由度为n2的F分布，记为F～f(n1, n2). 第四章 随机变量的数字特征 （1）一 维随机变量的数字特征 期望 期望就是平均值 设X是离散型随机变量，其分布律为设X是连续型随机变量，其概率密度为P( )＝pk，k=1,2,…,n， （要求绝对收敛） 函数的期望 Y=g(X) 方差 f(x)， （要求绝对收敛） Y=g(X) 离散型 连续型 13 / 22 D(X)=E[X-E(X)]2， 标准差 ， 矩 ①对于正整数k，称随机变量X的k次①对于正整数k，称随机变量X的k次幂幂的数学期望为X的k阶原点矩，记为的数学期望为X的k阶原点矩，记为vk,vk,即 νk=E(Xk)= , k=1,2, …. 即 νk=E(Xk)= ②对于正整数k，称随机变量X与E（X） k=1,2, …. 差的k次幂的数学期望为X的k阶中心矩，记为 ，即 = ， k=1,2, …. ②对于正整数k，称随机变量X与E（X）差的k次幂的数学期望为X的k阶中心矩，记为 ，即 = k=1,2, …. 切比雪夫不等式 设随机变量X具有数学期望E（X）=μ，方差D（X）=σ2，则对于任意正数ε，有下列切比雪夫不等式 切比雪夫不等式给出了在未知X的分布的情况下，对概率 的一种估计，它在理论上有重要意义。 （2）期（1） E(C)=C 望的性质 （2） E(CX)=CE(X) （3） E(X+Y)=E(X)+E(Y)， （4） E(XY)=E(X) E(Y)，充分条件：X和Y独立； 充要条件：X和Y不相关。 （3）方（1） D(C)=0；E(C)=C 差的性质 （2） D(aX)=a2D(X)； E(aX)=aE(X) （3） D(aX+b)= a2D(X)； E(aX+b)=aE(X)+b （4） D(X)=E(X2)-E2(X) 14 / 22 （5） D(X±Y)=D(X)+D(Y)，充分条件：X和Y独立； 充要条件：X和Y不相关。 D(X±Y)=D(X)+D(Y) ±2E[(X-E(X))(Y-E(Y))]，无条件成立。 而E(X+Y)=E(X)+E(Y)，无条件成立。 （4）常 见分布的期望和方差 0-1分布 二项分布 泊松分布 几何分布 超几何分布 均匀分布 指数分布 正态分布 t分布 （5）二期望 维随机变量的数字特征 函数的期望 期望 方差 2n (n>2) ＝ p np n 0 ＝ 方差 协方差 对于随机变量X与Y，称它们的二阶混合中心矩 为X与Y的协方差或相关矩，记为 ，即 与记号 相对应，X与Y的方差D（X）与D（Y）也可分别记为 与 。 相关系数 对于随机变量X与Y，如果D（X）>0, D(Y)>0，则称 15 / 22 为X与Y的相关系数，记作 （有时可简记为 ）。 | |≤1，当| |=1时，称X与Y完全相关： 完全相关 而当 时，称X与Y不相关。 以下五个命题是等价的： ① ； ②cov(X,Y)=0; ③E(XY)=E(X)E(Y); ④D(X+Y)=D(X)+D(Y); ⑤D(X-Y)=D(X)+D(Y). 协方差矩阵 混合矩 对于随机变量X与Y，如果有 存在，则称之为X与Y的k+l阶混合原点矩，记为 ；k+l阶混合中心矩记为： （6）协(i) cov (X, Y)=cov (Y, X); 方差的性质 (ii) cov(aX,bY)=ab cov(X,Y); (iii) cov(X1+X2, Y)=cov(X1,Y)+cov(X2,Y); (iv) cov(X,Y)=E(XY)-E(X)E(Y). （7）独（i） 若随机变量X与Y相互独立，则 ；反之不真。 立和不相关 （ii） 若（X，Y）～N（ ）， 则X与Y相互独立的充要条件是X和Y不相关。 第五章 大数定律和中心极限定理 （1）大数定律 切比雪夫设随机变量X1，X2，…相互独立，均具有有限方差，且被同一常数C所界：大数定律 D（Xi） 个体 样本 总体中的每一个单元称为样品（或个体）。 我们把从总体中抽取的部分样品 称为样本。样本中所含的样品数称为样本容量，一般用n表示。在一般情况下，总是把样本看成是n个相互独立的且与总体有相同分布的随机变量，这样的样本称为简单随机样本。在泛指任一次抽取的结果时， 表示n个随机变量（样本）；在具体的一次抽取之后， 表示n个具体的数值（样本值）。我们称之为样本的两重性。 样本函数和统计设 为总体的一个样本，称 量 （ ） 为样本函数，其中 为一个连续函数。如果 中不包含任何未知参数，则称 （ ）为一个统计量。 常见统计量及其样本均值 性质 样本方差 样本标准差 样本k阶原点矩 样本k阶中心矩 ， ， ， , 其中 ，为二阶中心矩。 （2）正态总体正态分布 下的四大分布 设 为来自正态总体 的一个样本，则样本函数 t分布 设 为来自正态总体 的一个样本，则样本函数 其中t(n-1)表示自由度为n-1的t分布。 设 为来自正态总体 的一个样本，则样本函数 其中 表示自由度为n-1的 分布。 F分布 设 为来自正态总体 的一个样本，而 为来自正态总体 的一个样本，则样18 / 22 本函数 其中 表示第一自由度为 ，第二自由度为 的F分布。 （3）正态总体与 独立。 下分布的性质 第七章 参数估计 （1）点估矩估计 计 设总体X的分布中包含有未知数 ，则其分布函数可以表成 它的k阶原点矩 中也包含了未知参数 ，即 。又设 为总体X的n个样本值，其样本的k阶原点矩为 这样，我们按照“当参数等于其估计量时，总体矩等于相应的样本矩”的原则建立方程，即有 由上面的m个方程中，解出的m个未知参数 即为参数（ ）的矩估计量。 若 为 的矩估计， 为连续函数，则 为 的矩估计。 极大似然估当总体X为连续型随机变量时，设其分布密度为 ，其中 为未知参数。又设 为总计 体的一个样本，称 为样本的似然函数，简记为Ln. 当总体X为离型随机变量时，设其分布律为 ，则称 为样本的似然函数。 若似然函数 在 处取到最大值，则称 分别为 的最大似然估计值，相应的统计量称为最大似然估计量。 若 为 的极大似然估计， 为单调函数，则 为 的极大似然估计。 19 / 22 （2）估计无偏性 量的评选标准 有效性 一致性 设 为未知参数 的估计量。若E （ ）= ，则称 为 的无偏估计量。 E（ ）=E（X）， E（S2）=D（X） 设 和 是未知参数 的两个无偏估计量。若 ，则称 有效。 设 是 的一串估计量，如果对于任意的正数 ，都有 则称 为 的一致估计量（或相合估计量）。 若 为 的无偏估计，且 则 为 的一致估计。 只要总体的E(X)和D(X)存在，一切样本矩和样本矩的连续函数都是相应总体的一致估计量。 （3）区间置信区间和设总体X含有一个待估的未知参数 。如果我们从样本 出发，找出两个统计量 与 ，估计 置信度 使得区间 以 的概率包含这个待估参数 ，即 那么称区间 为 的置信区间， 为该区间的置信度（或置信水平）。 单正态总体设 为总体 的一个样本，在置信度为 下，我们来确定 的置信区间 。具体步骤如的期望和方下： 差的区间估计 （i）选择样本函数； （ii）由置信度 ，查表找分位数； （iii）导出置信区间 。 已知方差，估计均值 （i）选择样本函数 (ii) 查表找分位数 （iii）导出置信区间 未知方差，估计均值 （i）选择样本函数 (ii)查表找分位数 20 / 22 （iii）导出置信区间 方差的区间估计 （i）选择样本函数 （ii）查表找分位数 （iii）导出 的置信区间 第八章 假设检验 基本思想 假设检验的统计思想是，概率很小的事件在一次试验中可以认为基本上是不会发生的，即小概率原理。 为了检验一个假设H0是否成立。我们先假定H0是成立的。如果根据这个假定导致了一个不合理的事件发生，那就表明原来的假定H0是不正确的，我们拒绝接受H0；如果由此没有导出不合理的现象，则不能拒绝接受H0，我们称H0是相容的。与H0相对的假设称为备择假设，用H1表示。 这里所说的小概率事件就是事件 ，其概率就是检验水平α，通常我们取α=0.05，有时也取0.01或0.10。 基本步骤 假设检验的基本步骤如下： (i) 提出零假设H0； (ii) 选择统计量K； (iii) 对于检验水平α查表找分位数λ； (iv) 由样本值 计算统计量之值K； 将 进行比较，作出判断：当 时否定H0，否则认为H0相容。 两类错误 第一类错误 当H0为真时，而样本值却落入了否定域，按照我们规定的检验法则，应当否定H0。这时，我们把客观上H0成立判为H0为不成立（即否定了真实的假设），称这种错误为“以真当假”的错误或第一类错误，记 为犯此类错误的概率，即 P{否定H0|H0为真}= ； 此处的α恰好为检验水平。 21 / 22 第二类错误 当H1为真时，而样本值却落入了相容域，按照我们规定的检验法则，应当接受H0。这时，我们把客观上H0。不成立判为H0成立（即接受了不真实的假设），称这种错误为“以假当真”的错误或第二类错误，记 为犯此类错误的概率，即 P{接受H0|H1为真}= 。 两类错误的关系 人们当然希望犯两类错误的概率同时都很小。但是，当容量n一定时， 变小，则 变大；相反地， 变小，则 变大。取定 要想使 变小，则必须增加样本容量。 在实际使用时，通常人们只能控制犯第一类错误的概率，即给定显著性水平α。α大小的选取应根据实际情况而定。当我们宁可“以假为真”、而不愿“以真当假”时，则应把α取得很小，如0.01，甚至0.001。反之，则应把α取得大些。 单正态总体均值和方差的假设检验 对应样本 条件 零假设 统计量 函数分布 已知 未知 未知 否定域 N（0，1） 22 / 22 因篇幅问题不能全部显示，请点此查看更多更全内容