UA MATH563 概率论的数学基础 中心极限定理24 随机变量的特征函数

定义 假设$X$是定义在$(\Omega ,\mathcal{F},P)$上的随机变量，定义
$$\varphi (t)=E[e^{itX}]$$

为$X$的特征函数(characteristic function)。

说明
记${\mu }_X$为$X$的分布，则$$\varphi (t)=E[e^{itX}]=\int e^{itX}d{\mu }_X$$

也就是说$\varphi (t)$其实是${\mu }_X$的Fourier变换，因此任意随机变量的特征函数总是存在的。我们可以将特征函数与矩母函数(moment generating function，也就是${\mu }_X$的Laplace变换)做个对比，
$$M_X(t)=E[e^{tX}]$$

被称为矩母函数，当且仅当$E[e^{tX}]<\infty$时，矩母函数存在。而$|e^{itX}|\le 1$，因此$E[e^{itX}]$必定存在。

常用分布的特征函数

1. 正态分布$N(\mu ,{\sigma }^2)$:$$\varphi (t)=\exp (it\mu -\frac{{\sigma }^2{t}^2}{2})$$
2. Gamma分布$\Gamma (\alpha ,\beta )$:$$\varphi (t)=(1-\frac{it}{\beta }{)}^{-\alpha }$$
3. 二项分布$B(n,p)$:$$\varphi (t)=(1-p+p{e}^{it}{)}^n$$
4. Poisson分布$\pi (\lambda )$:$$\varphi (t)=\exp (\lambda (e^{it}-1))$$
5. 负二项分布$NB(r,p)$:$$\varphi (t)=(\frac{p}{1-(1-p)e^{it}}{)}^r$$

特征函数的简单计算性质

1. $\varphi (0)=1$
2. $\varphi (t)=\overline{\varphi (-t)}$ (共轭)，如果$X$对称，则${\varphi }_X(t)$是实函数
3. $|\varphi (t)|\le 1$
4. $\varphi (t)$一致收敛，因为$|\varphi (t+h)-\varphi (t)|=|E(e^{it(X+h)}-e^{itX})|\le E|e^{it(X+h)}-e^{itX}|=E|e^{itX}||e^{ihX}-1|\le E|e^{ihX}-1|$，根据有界收敛定理，$h\to 0$，$E|e^{ihX}-1|\to 0$
5. ${\varphi }_{aX+b}(t)=e^{itb}{\varphi }_X(at)$
6. 假设$X_1+X_2$独立，则${\varphi }_{X_1+X_2}(t)={\varphi }_{X_1}(t){\varphi }_{X_2}(t)$

---

特征函数的分析性质: 特征函数与分布一一对应

证明
第一条。假设$F_1,F_2$是两个分布，并且它们有相同的特征函数$\varphi$，我们需要说明$F_1=F_2$。假设$X\sim F_1,Y\sim F_2$，引入$Z\sim N(0,{\sigma }^2)$，其中$\sigma$是一个非常小的数。

在第六讲时我们介绍过一个技巧，在对实际问题进行建模时，我们常常需要用随机变量，记为$X$，描述一些复杂的随机性，这样的随机变量通常是没有办法写出密度函数的解析式的，但是我们可以加上一个非常“小”的正态分布$Y\sim N(0,{ϵ}^2)$，使得$X+Y$有密度函数的解析式。这里用的就是这个思路，因为我们没有对$F_1,F_2$做任何假设，为了让它们解析性质更好一些，便于我们分析，就让他们对一个正态分布做卷积。

定义
$$\begin{gathered} G_1=F_1\ast F_Z=\int F_1(z-y)d{F}_Z(y) \\ {G}_2=F_2\ast F_Z=\int F_2(z-y)d{F}_Z(y) \end{gathered}$$

根据Fourier变换的反演公式，
$$\begin{gathered} g_1=\int f_Z(z-y)d{F}_1(y)=\frac{1}{2\pi }\int \varphi (t)e^{-itx}{e}^{-\frac{t^2{\sigma }^2}{2}}dt \\ {g}_2=\int f_Z(z-y)d{F}_2(y)=\frac{1}{2\pi }\int \varphi (t)e^{-itx}{e}^{-\frac{t^2{\sigma }^2}{2}}dt \end{gathered}$$

于是$g_1=g_2$，进一步，根据分布与密度的对应关系$G_1=G_2$，因为
$$G_1(x)=E[F_1(x-Z)],G_2(x)=E[F_2(x-Z)]$$

我们考虑${\sigma }^2\downarrow 0$，则$N(0,{\sigma }^2)\to {\delta }_0$，于是
$$E[F_1(x-Z)]=F_1(x)+E[F_1(x-Z)-F_1(x)]$$

考虑$E[F_1(x-Z)-F_1(x)]$，我们用truncation trick计算
$$\begin{gathered} E[F_1(x-Z)-F_1(x)]=E[F_1(x-Z)-F_1(x),|Z|\le ϵ] \\ +E[F_1(x-Z)-F_1(x),|Z|>ϵ] \end{gathered}$$

根据右连续性，$E[F_1(x-Z)-F_1(x),|Z|\le ϵ]\to 0$，
$$E[F_1(x-Z)-F_1(x),|Z|>ϵ]\le 2P(|Z|>ϵ)=0$$

因为$Z\to {\delta }_0$，于是
$$F_1(x)=E[F_1(x-Z)]=E[F_2(x-Z)]=F_2(x)$$