§2 事件独立性
从本节开始,我们引入一个新的概念:统计独立性。下面,先从只有两个事件的独立性开始,随后讨论更为一般的场合。
从考虑古典概率的一个例子作为出发点:
[例] 一口袋中装有
a
a
a 只黑球和
b
b
b 只白球,采用有放回地摸球。求:
在已知第一次摸得黑球的条件下,第二次摸出黑球的概率:
第二次摸出黑球的概率。
[解] 以事件
A
A
A 表示首次摸得黑球,事件
B
B
B 表示第二次摸得黑球,则:
P
(
A
)
=
a
a
+
b
P(A) = \frac{a}{a+b}
P ( A ) = a + b a
P
(
A
B
)
=
a
2
(
a
+
b
)
2
P(AB) = \frac{a^{2}}{(a+b)^{2}}
P ( A B ) = ( a + b ) 2 a 2
P
(
A
‾
B
)
=
b
a
(
a
+
b
)
2
P(\overline{A}B) = \frac{ba}{(a+b)^{2}}
P ( A B ) = ( a + b ) 2 b a 因此
P
(
B
∣
A
)
=
P
(
A
B
)
P
(
A
)
=
a
a
+
b
P(B|A) = \frac{P(AB)}{P(A)} = \frac{a}{a+b}
P ( B ∣ A ) = P ( A ) P ( A B ) = a + b a 而
P
(
B
)
=
P
(
A
B
)
+
P
(
A
‾
B
)
=
a
2
a
+
b
+
b
a
(
a
+
b
)
2
=
a
a
+
b
P(B) = P(AB) + P(\overline{A}B) = \frac{a^{2}}{a + b} + \frac{ba}{(a + b)^{2}} = \frac{a}{a+b}
P ( B ) = P ( A B ) + P ( A B ) = a + b a 2 + ( a + b ) 2 b a = a + b a 注意:此处的
P
(
B
∣
A
)
=
P
(
B
)
P(B|A) = P(B)
P ( B ∣ A ) = P ( B ) ,即:事件
A
A
A 发生与否对事件
B
B
B 发生的概率没有影响。 在这种情况下,我们可以称:事件
A
A
A 和事件
B
B
B 的出现存在某种“独立性”。
定义2.2.1 (统计独立性)
对事件
A
A
A 和事件
B
B
B ,若
P
(
A
B
)
=
P
(
A
)
P
(
B
)
P(AB) = P(A)P(B)
P ( A B ) = P ( A ) P ( B ) 则称它们是 统计独立 的,简称 独立的 。
注:
按照上述定义可知:必然事件
Ω
\Omega
Ω 和不可能事件
∅
\empty
∅ 与任何事件独立。
若
A
A
A 和
B
B
B 的位置对称,亦称
A
A
A 和
B
B
B 相互独立 。
推论2.2.1
若事件
A
,
B
A,B
A , B 独立,且
P
(
B
)
>
0
P(B)>0
P ( B ) > 0 ,则:
P
(
A
∣
B
)
=
P
(
A
)
P(A|B) = P(A)
P ( A ∣ B ) = P ( A ) 证明
由条件概率定义和
P
(
A
∣
B
)
=
P
(
A
)
P(A|B) = P(A)
P ( A ∣ B ) = P ( A ) 得:
P
(
A
∣
B
)
=
P
(
A
B
)
P
(
B
)
=
P
(
A
)
P
(
B
)
P
(
B
)
=
P
(
A
)
P(A|B) = \frac{P(AB)}{P(B)} = \frac{P(A)P(B)}{P(B) = P(A)}
P ( A ∣ B ) = P ( B ) P ( A B ) = P ( B ) = P ( A ) P ( A ) P ( B ) 因此,若事件
A
,
B
A,B
A , B 相互独立,则
A
A
A 关于
B
B
B 的条件概率和无条件概率
P
(
A
)
P(A)
P ( A ) 相等,这表示:
B
B
B 的发生对于事件
A
A
A 是否发生并不提供任何信息。
推论2.2.2
若事件
A
A
A 和
B
B
B 独立,则下列各对事件也相互独立:
{
A
‾
,
B
}
,
{
A
,
B
‾
}
,
{
A
‾
,
B
‾
}
\{ \overline{A},B\},\{A,\overline{B}\},\{\overline{A},\overline{B}\}
{ A , B } , { A , B } , { A , B }
证明
由于:
P
(
A
‾
B
)
=
P
(
B
−
A
B
)
=
P
(
B
)
−
P
(
A
B
)
=
P(\overline{A}B) = P(B-AB) = P(B)-P(AB) =
P ( A B ) = P ( B − A B ) = P ( B ) − P ( A B ) =
P
(
B
)
−
P
(
A
)
P
(
B
)
=
P
(
B
)
[
1
−
P
(
A
)
]
=
P
(
A
‾
)
P
(
B
)
P(B) - P(A)P(B) = P(B)[1-P(A)] = P(\overline{A})P(B)
P ( B ) − P ( A ) P ( B ) = P ( B ) [ 1 − P ( A ) ] = P ( A ) P ( B ) 故
A
‾
\overline{A}
A 和
B
B
B 相互独立,由它立刻推得:
A
‾
\overline{A}
A 和
B
‾
\overline{B}
B 相互独立;由
A
‾
=
A
\overline{A}= A
A = A 又推出
A
,
B
‾
A,\overline{B}
A , B 相互独立。
下面,我们考虑多个事件的独立性: 先定义三个事件:
A
,
B
,
C
A,B,C
A , B , C 的独立性。
定义2.2.2 (多个事件的相互独立)
对于三个事件
A
,
B
,
C
A,B,C
A , B , C ,若下列四个等式同时成立,则称他们 相互独立 :
{
P
(
A
B
)
=
P
(
A
)
P
(
B
)
P
(
B
C
)
=
P
(
B
)
P
(
C
)
P
(
A
C
)
=
P
(
A
)
P
(
C
)
\begin{cases}P(AB) = P(A) P(B)\\P(BC) = P(B)P(C)\\P(AC) = P(A)P(C)\end{cases}
⎩ ⎪ ⎨ ⎪ ⎧ P ( A B ) = P ( A ) P ( B ) P ( B C ) = P ( B ) P ( C ) P ( A C ) = P ( A ) P ( C )
P
(
A
B
C
)
=
P
(
A
)
P
(
B
)
P
(
C
)
P(ABC) = P(A)P(B)P(C)
P ( A B C ) = P ( A ) P ( B ) P ( C )
自然,我们不难提出这个问题:三个事件
A
,
B
,
C
A,B,C
A , B , C 两两独立,能否保证它们相互独立?事实上,这个问题的答案是否定的。
现在,我们当然可以定义
n
n
n 个事件的独立性。 定义2.2.3 (可列多个事件相互独立)
对
n
n
n 个事件
A
1
,
A
2
,
⋯
,
A
n
A_{1},A_{2},\cdots,A_{n}
A 1 , A 2 , ⋯ , A n ,若对所有可能的组合:
1
⩽
i
<
j
<
⋯
⩽
n
1\leqslant i<j<\cdots\leqslant n
1 ⩽ i < j < ⋯ ⩽ n 成立:
{
P
(
A
i
A
j
)
=
P
(
A
i
)
P
(
A
j
)
P
(
A
i
A
j
A
k
)
=
P
(
A
i
)
P
(
A
j
)
P
(
A
k
)
⋯
P
(
A
1
A
2
⋯
A
n
)
=
P
(
A
1
)
P
(
A
2
)
⋯
P
(
A
n
)
\begin{cases}P(A_{i}A_{j}) = P(A_{i})P(A_{j})\\P(A_{i}A_{j}A_{k}) = P(A_{i})P(A_{j})P(A_{k})\\\cdots\\P(A_{1}A_{2}\cdots A_{n}) = P(A_{1})P(A_{2})\cdots P(A_{n})\end{cases}
⎩ ⎪ ⎪ ⎪ ⎨ ⎪ ⎪ ⎪ ⎧ P ( A i A j ) = P ( A i ) P ( A j ) P ( A i A j A k ) = P ( A i ) P ( A j ) P ( A k ) ⋯ P ( A 1 A 2 ⋯ A n ) = P ( A 1 ) P ( A 2 ) ⋯ P ( A n ) 则称
A
1
A
2
⋯
A
n
A_{1}A_{2}\cdots A_{n}
A 1 A 2 ⋯ A n 相互独立 。
显然,若
n
n
n 个事件相互独立,则它们中的任意
m
(
2
⩽
m
<
n
)
m (2\leqslant m<n)
m ( 2 ⩽ m < n ) 个事件也是相互独立的。此外,对于多个相互独立的事件也成立类1似上述两个推论的结果。
最后,称无穷多个事件是相互独立的,若其中任意有限多个事件是相互独立的。
从事件独立性的定义可以立即看出:如果事件是独立的,则可以大大简化许多概率的计算。下面举两个例子:
[相互独立事件中至少发生其一的概率的计算]
若
A
1
,
A
2
,
⋯
,
A
n
A_{1},A_{2},\cdots,A_{n}
A 1 , A 2 , ⋯ , A n 是
n
n
n 个相互独立的事件,则由于:
A
1
∪
A
2
∪
⋯
∪
A
n
‾
=
A
‾
1
A
‾
2
⋯
A
‾
n
\overline{A_{1}\cup A_{2}\cup \cdots\cup A_{n}} = \overline{A}_{1}\overline{A}_{2}\cdots \overline{A}_{n}
A 1 ∪ A 2 ∪ ⋯ ∪ A n = A 1 A 2 ⋯ A n 因此
P
(
A
1
∪
A
2
∪
⋯
∪
A
n
)
=
1
−
P
(
A
‾
1
A
‾
2
⋯
A
‾
n
)
=
1
−
P
(
A
‾
1
)
P
(
A
‾
2
)
⋯
P
(
A
‾
n
)
P(A_{1}\cup A_{2}\cup\cdots \cup A_{n}) = 1-P(\overline{A}_{1}\overline{A}_{2}\cdots \overline{A}_{n}) = 1-P(\overline{A}_{1})P(\overline{A}_{2})\cdots P(\overline{A}_{n})
P ( A 1 ∪ A 2 ∪ ⋯ ∪ A n ) = 1 − P ( A 1 A 2 ⋯ A n ) = 1 − P ( A 1 ) P ( A 2 ) ⋯ P ( A n ) 该公式比起不独立的情况要简便得多。
有了事件独立性的概念,我们即可以定义试验的独立性。
直观上说,若试验
E
1
E_{1}
E 1 和试验
E
2
E_{2}
E 2 是独立的,则他们结果的发生是独立的。因此,我们需要通过各试验的事件间的独立性定义试验的独立性。为了做到这一点,我们首先要构造一个可以描述这些试验的,公共的样本空间。
设试验
E
1
E_{1}
E 1 的样本空间为
Ω
1
=
{
ω
(
1
)
}
\Omega_{1} = \{\omega^{(1)}\}
Ω 1 = { ω ( 1 ) } ,试验
E
2
E_{2}
E 2 的样本空间为
Ω
2
=
{
ω
(
2
)
}
\Omega_{2} = \{\omega^{(2)}\}
Ω 2 = { ω ( 2 ) } ,
⋯
\cdots
⋯ ,试验
E
n
E_{n}
E n 的样本空间为
Ω
n
=
{
ω
(
n
)
}
\Omega_{n} = \{\omega^{(n)}\}
Ω n = { ω ( n ) } 。为描述这
n
n
n 次试验,应构造复合试验
E
E
E ,他表示依次进行试验
E
1
,
E
2
,
⋯
,
E
n
E_{1},E_{2},\cdots,E_{n}
E 1 , E 2 , ⋯ , E n ,其样本点为:
ω
=
(
ω
(
1
)
,
ω
(
2
)
,
⋯
,
ω
(
n
)
)
\omega = (\omega^{(1)},\omega^{(2)},\cdots,\omega^{(n)})
ω = ( ω ( 1 ) , ω ( 2 ) , ⋯ , ω ( n ) ) 这个样本空间为
Ω
1
,
Ω
2
,
⋯
,
Ω
n
\Omega_{1},\Omega_{2},\cdots,\Omega_{n}
Ω 1 , Ω 2 , ⋯ , Ω n 的乘积空间,记为:
Ω
=
Ω
1
×
Ω
2
×
⋯
Ω
n
.
\Omega = \Omega_{1}\times \Omega_{2}\times \cdots \Omega_{n}.
Ω = Ω 1 × Ω 2 × ⋯ Ω n .
接下来,我们引入“与第
k
k
k 次试验有关的事件”的概念:这种事件的发生与否仅与第
k
k
k 次试验的结果有关,也就是说,为了判断某一样本点是否属于这个事件,我们只需要考察它的第
k
k
k 个分量。值得指出的是,必然事件
Ω
\Omega
Ω 和不可能事件
∅
\empty
∅ 可认为与所有的试验有关。 现在若以
A
k
\mathscr{A}_{k}
A k 记与第
k
k
k 次试验有关的事件全体,则可通过下列方式定义试验的独立性:
定义2.2.4 (试验的相互独立性)
若对于任意的:
A
(
1
)
∈
A
1
,
A
(
2
)
∈
A
2
,
⋯
,
A
(
n
)
∈
A
n
A^{(1)} \in \mathscr{A_{1}}, A^{(2)} \in \mathscr{A_{2}},\cdots,A^{(n)} \in \mathscr{A_{n}}
A ( 1 ) ∈ A 1 , A ( 2 ) ∈ A 2 , ⋯ , A ( n ) ∈ A n 均成立
P
(
A
(
1
)
A
(
2
)
⋯
A
(
n
)
)
=
P
(
A
(
1
)
)
P
(
A
(
2
)
)
⋯
P
(
A
(
n
)
)
P(A^{(1)}A^{(2)}\cdots A^{(n)}) = P(A^{(1)})P(A^{(2)})\cdots P(A^{(n)})
P ( A ( 1 ) A ( 2 ) ⋯ A ( n ) ) = P ( A ( 1 ) ) P ( A ( 2 ) ) ⋯ P ( A ( n ) ) 则称试验
E
1
,
E
2
,
⋯
,
E
n
E_{1},E_{2},\cdots,E_{n}
E 1 , E 2 , ⋯ , E n 是 相互独立的 。
注意到:
Ω
∈
A
i
,
i
=
1
,
2
,
⋯
,
n
\Omega \in \mathscr{A}_{i},i = 1,2,\cdots,n
Ω ∈ A i , i = 1 , 2 , ⋯ , n ,因此由定义推得:若
n
n
n 个实验相互独立,则其中的
m
(
2
⩽
m
<
n
)
m(2\leqslant m<n)
m ( 2 ⩽ m < n ) 个试验也是相互独立的。