概率论基本知识

1. 随机变量

随机变量X到底是什么呢？
如随机变量X为高三1班的身高，那么对于小红 $X_1$,其身高服从一个分布；对于小明 $X_2$也服从一个分布…故随机变量 $X=(X_1,X_2,...,X_n)$，其中每个 $X_i$都服从于一个分布。现在假设各个分布的 $X_i$一样，那么我们就说X服从一个分布（如X服从均值为165，方差为1的正态分布）。那么，平时见得X=(160,159,…186)的具体数据是什么呢？我们称之为样本的一个实现，即某次观察中 $X_1=160,X_2=159,...X_n=186$,那么由这个样本实现算出的均值和方差就可以当成X的 $\mu，\sigma$。具体推导可见概率论课本。

2. 概率

那么定义：

• P(AB)：事件A和事件B同时发生的概率
• P(A+B):事件A和事件B至少有一个发生的概率
• P(A-B)：事件A发生但是事件B没发生的概率
• 当事件A和事件B相互独立时，P(AB)=P(A)×P(B)。
• 当事件A和事件B互斥时，P(A + B)=P(A)+P(B)。当不互斥时P(A+B)=P(A)+P(B)-P(AB)
  
  

3. 积分与分布函数

3. 联合概率与条件概率及边缘概率的转换

已知联合概率能够推导出条件概率和边缘概率。已知边缘概率及条件概率能够推导出联合概率。如下例：
x取值为0,1，y的取值为a、b。已知联合概率p(x,y)：

则可知道边缘概率：p(x=0)=0.4;p(x=1)=0.6;p(y=a)=0.8;p(y=b)=0.2
条件概率： $p(x|y)=\frac{p(xy)}{p(y)}$，p(xy)是给出的，p(y)可以根据联合概率推导出，故条件概率也可以求得。具体推导略。
反过来，当已知条件概率P(X|Y)及边缘概率P(Y)可以求得联合概率P(XY)。
对于多个变量P(XYZ)上述结论也是适用的。