UA MATH566 统计理论1 充分统计量例题答案2

例1.12 找 $N(\theta,1)$的最小充分统计量
计算样本的联合密度
$f(x|\theta) = \prod_{i=1}^n \frac{1}{\sqrt{2\pi}} \exp(-\frac{(x_i-\theta)^2}{2}) \\ = (2\pi)^{-n/2} \exp(-\frac{1}{2} \sum_{i=1}^n (x_i - \theta)^2) \\ = (2\pi)^{-n/2} \exp(-\frac{1}{2} \sum_{i=1}^n x_i^2+\theta \sum_{i=1}^n x_i-\frac{n \theta^2}{2})$
计算 $(X,Y)$两组样本联合密度的比值
$\frac{f(x|\theta)}{f(y|\theta)} = \frac{(2\pi)^{-n/2} \exp(-\frac{1}{2} \sum_{i=1}^n x_i^2+\theta \sum_{i=1}^n x_i-\frac{n \theta^2}{2}) }{(2\pi)^{-n/2} \exp(-\frac{1}{2} \sum_{i=1}^n x_i^2+\theta \sum_{i=1}^n x_i-\frac{n \theta^2}{2}) } \\ = \frac{\exp(-\frac{1}{2} \sum_{i=1}^n x_i^2+\theta \sum_{i=1}^n x_i) } { \exp(-\frac{1}{2} \sum_{i=1}^n y_i^2+\theta \sum_{i=1}^n y_i )} = \frac{\exp(-\frac{1}{2} \sum_{i=1}^n x_i^2) } { \exp(-\frac{1}{2} \sum_{i=1}^n y_i^2)}e^{\theta(\sum_{i=1}^n x_i-\sum_{i=1}^n y_i)}$
显然要让这个比值与 $\theta$无关，除非让 $\sum_{i=1}^n x_i-\sum_{i=1}^n y_i=0$，因此最小充分统计量是 $T(X)=\sum_{i=1}^n X_i$。

例1.13 找 $\Gamma(\alpha,\beta)$的最小充分统计量
计算样本的联合概率密度
$f(x|\alpha,\beta) = \prod_{i=1}^n \frac{\beta^{\alpha}}{\Gamma{(\alpha)}}x_i^{\alpha-1}e^{-\beta x_i} = (\frac{\beta^{\alpha}}{\Gamma{(\alpha)}})^n (\prod_{i=1}^n x_i)^{\alpha-1}e^{-\beta \sum_{i=1}^n x_i}$
计算 $(X,Y)$两组样本联合密度的比值
$\frac{f(x|\alpha,\beta)}{f(y|\alpha,\beta)} = \frac{(\frac{\beta^{\alpha}}{\Gamma{(\alpha)}})^n (\prod_{i=1}^n x_i)^{\alpha-1}e^{-\beta \sum_{i=1}^n x_i}}{(\frac{\beta^{\alpha}}{\Gamma{(\alpha)}})^n (\prod_{i=1}^n y_i)^{\alpha-1}e^{-\beta \sum_{i=1}^n y_i}} \\ = \frac{ (\prod_{i=1}^n x_i)^{\alpha-1}e^{-\beta \sum_{i=1}^n x_i}}{ (\prod_{i=1}^n y_i)^{\alpha-1}e^{-\beta \sum_{i=1}^n y_i}} = (\frac{\prod_{i=1}^n x_i} {\prod_{i=1}^n y_i})^{\alpha-1}e^{-\beta (\sum_{i=1}^n x_i-\sum_{i=1}^n y_i})$
要让这个比率与参数 $\alpha,\beta$无关，除非 $\prod_{i=1}^n x_i=\prod_{i=1}^n y_i$， $\sum_{i=1}^n x_i=\sum_{i=1}^n y_i$，所以最小充分统计量是 $(\prod_{i=1}^n X_i,\sum_{i=1}^n X_i)$

例1.14 $X_1,\cdots,X_n \sim_{iid} U(\theta_1,\theta_2)$，找最小充分统计量
计算样本的联合概率密度
$f(x|\theta_1,\theta_2) = \prod_{i=1}^n \frac{I(\theta_1 \le x_i \le \theta_2)}{\theta_1-\theta_2} \\= (\theta_1-\theta_2)^{-n} \prod_{i=1}^n I(x_i \ge \theta_1)I(x_i \le \theta_2) \\ = (\theta_1-\theta_2)^{-n} I(x_{(1)} \ge \theta_1)I(x_{(n)} \le \theta_2)$
计算 $(X,Y)$两组样本联合密度的比值
$\frac{f(x|\theta_1,\theta_2)}{f(y|\theta_1,\theta_2)} = \frac{(\theta_1-\theta_2)^{-n} I(x_{(1)} \ge \theta_1)I(x_{(n)} \le \theta_2)}{(\theta_1-\theta_2)^{-n} I(y_{(1)} \ge \theta_1)I(y_{(n)} \le \theta_2)} = \frac{I(x_{(1)} \ge \theta_1)I(x_{(n)} \le \theta_2)}{I(y_{(1)} \ge \theta_1)I(y_{(n)} \le \theta_2)}$
如果 $x_{(1)}=y_{(1)},x_{(n)}=y_{(n)}$，分子分母的值就会完全相同，这个比率就与参数无关，因此最小充分统计量是 $(X_{(1)},X_{(n)})$。

例1.15 $X_1,\cdots,X_n \sim_{iid} f(x|\theta)=\frac{e^{-(x-\theta)}}{(1+e^{-(x-\theta)})^2}$，找最小充分统计量
计算样本的联合概率密度
$f(x|\theta) = \prod_{i=1}^n \frac{e^{-(x_i-\theta)}}{(1+e^{-(x_i-\theta)})^2} = \frac{e^{-\sum_{i=1}^n x_i +n\theta}}{ [\prod_{i=1}^n (1+e^{-(x_i-\theta)})]^2 }$
计算 $(X,Y)$两组样本联合密度的比值
$\frac{f(x|\theta)}{f(y|\theta)} = \frac{e^{-\sum_{i=1}^n x_i +n\theta}}{e^{-\sum_{i=1}^n y_i +n\theta}} [\frac{\prod_{i=1}^n (1+e^{-(y_i-\theta)})}{\prod_{i=1}^n (1+e^{-(x_i-\theta)})}]^2$
第一个因子显然与参数 $\theta$无关，第二个因子只要平方内的式子与参数无关，这个比值就会与参数无关。然而要做的这点，除非 $\exists k$是常数，满足
$1+e^{-(y_i-\theta)} = (1+e^{-(x_i-\theta)})k$
这个关系貌似看不出统计量来，但事实上这个函数是单调的，因此满足这个关系的一定是次序统计量，所以这个分布的最小充分统计量是 $(X_{(1)},X_{(2)},\cdots,X_{(n)})$。

例1.16 $X_1,\cdots,X_n \sim_{iid} U(0,\theta)$，验证 $T(X)=X_{(n)}$是完备统计量。
例1.2已经计算过 $T(X)$的密度了
$f(t) = nt^{n-1} \theta^{-n}I(0 \le t \le \theta)$
对任一可测函数 $h(T(X))$
$E[h(T(X))] = \int h(t) nt^{n-1} \theta^{-n}I(0 \le t \le \theta) dt = 0 \\ \Leftrightarrow \int_0^{\theta} h(t) t^{n-1} dt = 0 \Rightarrow \frac{\partial}{\partial \theta} \int_0^{\theta} h(t) t^{n-1} dt \\ \Rightarrow h(\theta) \theta^{n-1}=0 \Rightarrow h(\theta) = 0$
因此 $T(X)=X_{(n)}$是完备统计量。

例1.17 $X_1,\cdots,X_n \sim_{iid} N(0,\sigma^2)$，验证 $T(X)=X^2$是完备统计量。
因为 $T(X)/\sigma^2 \sim \chi^2(1)$，所以它的概率密度为
$f(t) = \frac{\sigma^2}{2\sqrt{\pi}} t^{-1/2}e^{-t/2}$
对任一可测函数 $h(T(X))$
$E[h(T(X))] = \int h(t) \frac{\sigma^2}{2\sqrt{\pi}} t^{-1/2}e^{-t/2} dt = 0 \\ \Leftrightarrow \int h(t) t^{-1/2}e^{-t/2} dt = 0$
上式是函数 $h(t)/\sqrt{t}$的Laplace变换在1/2处的取值，因为Laplace是具有唯一性的积分变换（或者根据Laplace变换的反演公式），所以 $h(t)/\sqrt{t}=0$。因此 $T(X)=X^2$是完备统计量。