通信原理拓展(一)

通信原理拓展(一)

1024著

教材用的是《通信原理教程》(第三版)–樊昌信著

这篇博客主要是上一篇博客高斯过程里面说的拓展知识.

概念拓展

书本推荐

这里不上干货,给大家推荐一本贼牛逼的书:
《深入浅出通信原理》

重点是：概念清晰，图贼多！
购买链接

论坛推荐

通信人家园

论坛地址
也是上面那个作者的帖子地址

数学拓展

这里先说一下,相位延迟与群响应,在上一篇博客有提到,但是顾及到他是数字信号处理的内容,大家还没相应的基础,讲之前要铺垫一些知识,所以,就干脆,咕了!

中心极限定理

这个东西我们在概率论是学过的,由于最近机器学习的热潮又兴起了一波概率论的浪潮,这里介绍一下

中心极限定理是概率论中的一组定理。中心极限定理说明，在适当的条件下，大量相互独立随机变量的均值经适当标准化后依分布收敛于正态分布。这组定理是数理统计学和误差分析的理论基础，指出了大量随机变量之和近似服从正态分布的条件。

如果你有兴趣,想通俗再拓展一下的话:
怎样理解和区分中心极限定理与大数定律？

由于上一篇博客上面说过高斯过程,那么现在要再说一句:高斯分布，也称正态分布，又称常态分布。
由于这个学过,所以这里不讲太多

协方差

其实就是一个在概率论里面拓展的概念,在概率论和统计学中用于衡量两(n)个变量的总体误差。而方差是协方差的一种特殊情况，即当两个变量是相同的情况。
假设两个随机变量的数学期望:
$E(X) = \mu \quad E(Y) = \nu$
则协方差定义为:

$\operatorname {cov} (X,Y)=\operatorname {E} ((X-\mu )(Y-\nu ))=\operatorname {E} (X\cdot Y)-\mu \nu$

这也是在机器学习所必须的概率论基础的一个重要的概念.

如果你有兴趣,想通俗地再拓展一下的话:
如何通俗易懂地解释「协方差」与「相关系数」的概念？

高斯过程

书上写得清清楚楚!!! P39-41

这里给出一些参考资料用作大家鼓励大家理解他在机器学习中有什么作用.

如何通俗易懂地介绍 Gaussian Process？
wiki-高斯过程
什么是Gaussian process? —— 说说高斯过程与高斯分布的关系

贝塞尔函数

估计大家上学期的圆形波导被他折磨得不似人形,也是一个工程上应用较为常见的函数.

大家如果在下面看见了可怕的公式,不要慌,其实作为一个解系,他一早就被归一化地解析出来了,我们只需要简单粗暴地根据公式系数查表,近似就可以了

内容高度参考wiki

贝塞尔方程

实际上,贝塞尔函数就是一组二阶常微分方程的解,二阶常微分方程(也称为贝塞尔方程)长这样:
$x^2\frac{d^2y}{dx^2}+x\frac{dy}{dx}+(x^2-a^2)y=0$
这类方程的解是无法用初等函数系统地表示。

由于贝塞尔方程的性质,我们把得到的解系,贝塞尔函数也称为柱谐函数、圆柱函数或圆柱谐波

根据解法的不同,我们可以得到不同的解系,所以我们有:

第一类贝塞尔函数

第一类α阶贝塞尔函数Jα(x)是贝塞尔方程当α为整数或α非负时的解，须满足在x = 0 时有限。
$J_a(x) = \sum^{\infty}_{m=0}\frac{(-1)^m}{m!\Gamma(m+a+1)}(\frac x 2)^{2m+a}$
图是这样的,估计大家很熟悉:

如果没有特地说明,一般指贝塞尔函数是指第一类贝塞尔函数

第二类贝塞尔函数

第二类贝塞尔函数（Bessel function of the second kind），又称诺伊曼函数（Neumann function），下文中有时会简称为Y函数，记作Yα。第二类贝塞尔函数也许比第一类更为常用。 这种函数通常用Yα(x)表示，它们是贝塞尔方程的另一类解。x = 0 点是第二类贝塞尔函数的（无穷）奇点。
Yα(x)又被称为诺依曼函数（Neumann function），有时也记作Nα(x)。它和Jα(x)存在如下关系：
$Y_a(x) = \frac{J_a(x)cos(\alpha \pi ) -J_{-a} (x)}{sin(\alpha\pi)}$
图是这样的,估计大家也很熟悉:

第三类贝塞尔函数（汉克尔函数）

贝塞尔方程的另外一对重要的线性无关解称为汉克尔函数（Hankel functions）Hα(1)(x)和Hα(2)(x)，分别定义为：
$H_{\alpha }^{(1)}(x)=J_{\alpha }(x)+iY_{\alpha }(x)$
$H_{\alpha }^{(2)}(x)=J_{\alpha }(x)-iY_{\alpha }(x)$

代入前两个的关系得:
$H_{\alpha }^{(1)}(x)={\frac {J_{-\alpha }(x)-e^{-\alpha \pi i}J_{\alpha }(x)}{i\sin(\alpha \pi )}}$
$H_{\alpha }^{(2)}(x)={\frac {J_{-\alpha }(x)-e^{\alpha \pi i}J_{\alpha }(x)}{-i\sin(\alpha \pi )}}$

修正贝塞尔函数

由于贝塞尔函数在复数域上依然是正确的,所以对应输入x是纯虚数的时候,我们需要引入修正贝塞尔函数,他们被称为第一类修正贝塞尔函数（modified Bessel function of the first kind）和第二类修正贝塞尔函数（modified Bessel function of the second kind），或虚变量的贝塞尔函数（有时还称为双曲型贝塞尔函数）

这里由于估计没人坚持的了,所以想看的同学可以看看wiki资料.
贝塞尔函数

莱斯分布

在概率论与数理统计领域，莱斯分布（Rice distribution或Rician distribution）是一种连续概率分布，以美国科学家斯蒂芬·莱斯（en:Stephen O. Rice）的名字命名，其概率密度函数为：

${\displaystyle f(x|v,\sigma )=\,} f(x|v,\sigma )=\, {\displaystyle {\frac {x}{\sigma ^{2}}}\exp \left({\frac {-(x^{2}+v^{2})}{2\sigma ^{2}}}\right)I_{0}\left({\frac {xv}{\sigma ^{2}}}\right)}$
其中 $ I_{0}(z)$是修正的第一类零阶贝塞尔函数（Bessel function）。当 v=0时，莱斯分布退化为瑞利分布。

短时傅里叶变换

详见我的前一篇博客:
小波变换(一)

离散余弦变换

离散余弦变换（英语：discrete cosine transform, DCT）是与傅里叶变换相关的一种变换，类似于离散傅里叶变换，但是只使用实数。离散余弦变换相当于一个长度大概是它两倍的离散傅里叶变换，这个离散傅里叶变换是对一个实偶函数进行的（因为一个实偶函数的傅里叶变换仍然是一个实偶函数），在有些变形里面需要将输入或者输出的位置移动半个单位（DCT有8种标准类型，其中4种是常见的）。

$F(\mu,\nu) = \frac1{\sqrt{NM}} \sum^{N-1}{x=0}\sum^{M-1}{y=0}f(x,y)e^{-\frac{2\pi i}N \mu x} e^{-\frac{2\pi i}M \mu y}$

离散余弦变换介绍也是有目的的,因为其一般用作cv的有损图像压缩,所以你上google查的一般是二维的DCT

至于为什么把他用来压缩呢?因为他和小波一样,具有比较强的能量集中特性,数学一点就是,变换出来的系数有效成分一般集中在某几个谐波,具有稀疏的特性.

进一步了解可以看看:
概述·离散余弦变换（DCT）及其实现过程
JPEG压缩原理与DCT离散余弦变换

结语

由于最近实习加上挑战杯加上专心研究,所以博客估计以后会更新得有点慢.大家谅解一下吧…

如果你想请我吃个南五的话