随机过程（微分和积分过程、通过连续时间系统的分析）

随机过程的微分和积分过程

1. 极限

• 随机变量序列的极限：
  • 随机变量序列 { X n } \{X_n\} { Xn​} 依概率收敛于随机变量 $X$
    $$\underset{n\to \infty }{\lim }{X}_n\stackrel{P}{=}X$$
  • 随机变量序列 { X n } \{X_n\} { Xn​} 依均方收敛于随机变量 $X$（一般主要用依均方收敛的概念，并且若已经依均方收敛则必然依概率收敛）
    lim ⁡ n → ∞ E { ∣ X n − X ∣ 2 } = 0 \lim_{n\rightarrow\infin}E\{|X_n-X|^2\} = 0 n→∞lim​E{ ∣Xn​−X∣2}=0
• 随机过程的极限：
  • 随机过程 $X(t)$ 依概率收敛于随机变量 $X$
    $$\underset{t\to t_0}{\lim }X(t)\stackrel{P}{=}X$$
  • 随机过程 { X n } \{X_n\} { Xn​} 依均方收敛于随机变量 $X$
    lim ⁡ t → t 0 E { ∣ X ( t ) − X ∣ 2 } = 0 \lim_{t\rightarrow t_0}E\{|X(t)-X|^2\} = 0 t→t0​lim​E{ ∣X(t)−X∣2}=0

2. 连续 （这个连续特指的是均方意义下的连续）

lim ⁡ Δ t → 0 E { ∣ X ( t + Δ t ) − X ( t ) ∣ 2 } = 0 \lim_{\Delta t\rightarrow 0}E\{|X(t+\Delta t)-X(t)|^2\} = 0 Δt→0lim​E{ ∣X(t+Δt)−X(t)∣2}=0
记作：

• 均方连续的充要条件：$ R_X(t_1,t_2) $ 在 $t_1=t_2$ 时连续。
• 平稳过程的均方连续：$$\underset{\tau \to 0}{\lim }{R}_X(\tau )=R_X(0)$$ 就是说平稳过程在零点的连续性决定了整个过程的连续性。
• 在均方连续的条件下，求极限和求均值可以互换次序。

3. 导数（均方可导）

• 随机过程 $X(t)$ 均方可导的充要条件：相关函数 $R_X(t_1,t_2)$ 在自变量 $t_1=t_2=t$ 的时候存在二阶混合偏导数。
• 平稳随机过程均方可导的条件：相关函数 $R_X(\tau )$ 当自变量 $\tau =0$ 时要存在二阶偏导数 $R_X^{\prime \prime }(0)$

4. 微分变换

• 随机过程导数的运算与均值的运算可以交换次序：
  $$E[\frac{dX(t)}{dt}]=\frac{dE[X(t)]}{dt}$$
• 随机过程与其均方导数的互相关函数：
  $$\begin{array}{c}{R}_{X\dot{X}}(t_1,t_2)=\frac{\partial R_X(t_1,t_2)}{\partial t_2}\\ \\ R_{\dot{X}X}(t_1,t_2)=\frac{\partial R_X(t_1,t_2)}{\partial t_1}\end{array}$$
  实际上这里可以看成协方差的底对谁求导，协方差本身就对相应的时间进行求导。
• 对平稳随机过程来说（记 $\tau =t_2-t_1$）：
  $$\begin{array}{c}{R}_{X\dot{X}}(\tau )=\frac{\partial R_X(\tau )}{\partial \tau }\\ \\ R_{\dot{X}X}(\tau )=-\frac{\partial R_X(\tau )}{\partial \tau }\end{array}$$
  注意此时会有一个结论：平稳过程 $X(t)$ 在任一固定时刻 $t_1$ 的取值 $X(t_1)$ 与其同一时刻的导数取值 $\dot{X}(t_1)$ 不相关。
• 随机过程与其均方导数的自相关函数：
  $$\begin{array}{cc}{R}_{\dot{X}}(t_1,t_2)& =\frac{\partial R_{X\dot{X}}(t_1,t_2)}{\partial t_1}\\ & \\ R_{\dot{X}}(t_1,t_2)& =\frac{\partial R_{\dot{X}X}(t_1,t_2)}{\partial t_2}\\ & \\ R_{\dot{X}}(t_1,t_2)& =\frac{\partial R_X(t_1,t_2)}{\partial t_1\partial t_2}\end{array}$$
• 对平稳随机过程来说（记 $\tau =t_2-t_1$）：
  $$R_{\dot{X}}(\tau )=-\frac{d^2}{d{\tau }^2}{R}_X(\tau )$$
• 导数的功率谱密度：
  $$G_{\dot{X}}(\omega )={\omega }^2{G}_X(\omega )$$

这里有一种简单记忆的形式
$X\to XX$，$\dot{X}\to \dot{X}\dot{X}$，然后再按照对底变换和对对应时间求导等价的原则进行变换即可。

5. 积分

• 这里要说明一下积分的定义，因为感觉这个和高数中对积分定义的差别还是比较大的。
  lim ⁡ Δ t k → 0 E { ∣ ∑ k = 1 n X ( t k ) Δ t k − ∫ a b X ( t ) d t ∣ 2 } = 0 \lim_{\Delta t_k\rightarrow 0}E\{|\sum_{k=1}^{n}X(t_k)\Delta t_k - \int_a^bX(t)dt|^2 \} = 0 Δtk​→0lim​E{ ∣k=1∑n​X(tk​)Δtk​−∫ab​X(t)dt∣2}=0
  这实际上是一个依均方收敛的定义，实际上是先对每一个样本函数进行横向的积分最后全部整合到纵向，然后再在纵向上使用依均方收敛的定义。
• 积分变换与微分变换是十分相似的。

随机过程通过连续时间系统的分析

1. 冲激响应法（用卷积乘法进行计算）

• 对于一般的随机过程：
  $$\begin{array}{c}{R}_{XY}(t_1,t_2)=R_X(t_1,t_2)\otimes h(t_2)\\ \\ R_{YX}(t_1,t_2)=R_X(t_1,t_2)\otimes h(t_1)\\ \\ R_Y(t_1,t_2)=R_X(t_1,t_2)\otimes h(t_1)\otimes h(t_2)\end{array}$$
• 对于平稳的随机过程：
  $$\begin{array}{c}{R}_{XY}(\tau )=h(\tau )\otimes h(\tau )\\ \\ R_{YX}(\tau )=R_X(\tau )\otimes h(-\tau )\\ \\ R_Y(\tau )=R_X(\tau )\otimes h(\tau )\otimes h(-\tau )\end{array}$$
• 实际上从记忆公式的角度来说，这个和上面求自相关函数的导数是十分相似的，将 $X\to XX$，卷积上时间和变换对应的底是等价的。
• 由于卷积的计算相对比较麻烦，因此一般对于平稳过程的求解都会采用频谱法进行计算而不会采用冲激响应法进行计算。

2. 频谱法

• 注意频谱法要求线性系统的输入 $X(t)$ 和 $Y(t)$ 均为平稳过程：
• 一般的求解过程如下：
  • 首先知道过程 $X(t)$ 的相关函数 $R_X(\tau )$。
  • 然后使用傅里叶变换求解该相关函数对应的频谱密度函数 $G_X(\omega )$。
  • 采用公式 $$G_Y(\omega )=|H(\omega ){|}^2{G}_X(\omega )$$