对于论文2D PCA的理解与复现

由于论文未能成功上传,我把它放在了百度网盘里,链接如下:提取码:eupz

接下来就是正文

  1. 论文中开始讲述了ICA与核PCA优于PCA但时间用的较多,时间平均比为8.7:3.2:1.10。以及PCA的缺点:因为二维图像矩阵转化为一维矩阵,同时训练样本较少,故会生成难以准确评估的协方差矩阵。
  2. 接着开始引入2DPCA:开始时,以Y=AX引入基的概念,然后由于只取一个最优的投影方向是表达不了这么多数据信息的,因此采用了前d个最大特征值所对应的特征向量作为d个投影基。
    接着便讲述了用2DPCA进行人脸识别即分类问题的研究,即运用最近邻分类器进行分类。通过求得测试集图像与训练集图像的主成分向量的欧式距离,来判断测试集属于哪个人脸。
    相较于传统PCA,2DPCA不用将图片转换为一维向量,直接用原始图像构造图像协方差矩阵,极大的减少了数据的维度。同时更容易准确评估协方差矩阵(因为2DPCA在求协方差矩阵时,所有图片的相应像素都参与了矩阵计算,并且最终生成的矩阵大小与每张图像大小一样,即公式Gt =)T(Aj))。其基本思路和PCA相同,也是将数据投影到某组基上,A然后使得投影之后数据的协方差矩阵成为对角阵。
  3. 在维度上,一维PCA在形成数组前,每幅图像经过变换为一维列向量,例如有M幅图像,且图象大小是m×n,经变换后,数组的大小要变为(m×n)×n。而二维PCA在运用矩阵时,直接对图像矩阵进行变换。故二维PCA的协方差矩阵大小只有n²,而一维PCA中的协方差矩阵大小有(m×n)²。
    万变不离其宗,在最后得到投影矩阵最优解时,取法与PCA一样,即取协方差矩阵Gt的前d个最大的特征值对应特征向量组成的矩阵。
    总的来说,PCA或2DPCA都是需要3类矩阵,一类是原图像协方差矩阵,一类是由协方差矩阵得到的特征向量矩阵,一类是取前d个的特征向量矩阵。
  4. 接着讲述了图像的重构。这是我在课堂上没有了解到的,刚开始以为经过投影生成降维投影后的矩阵就行了,原来还要用前d个子图像重构,即 。当d取n时,即取全部特征向量时,图像将无损的重构原图像。
  5. 论文的第四部分是经过ORL,AR,Yale三个人脸数据库上进行人脸识别与测试。我在网上下载了ORL的数据库。用python实现了2DPCA。同时根据论文中在重构子图像时能量的分布情况,我也做了验证:
    当然在验证过程中,出现了一些问题例如:对于矩阵的存储方式:
    (1)特征向量在存入矩阵中时是按列存储的,而在读矩阵时却是按行读取的;
    (2)在重构子图像时,直接用A= YkXzT得出的图象是全接近于黑,后来在乘以255时,重构的子图像能够达到论文中的效果。此处的子图像即是特征脸,观察下图可以发现越靠后特征脸所含信息越少。
    论文中使用了五张图片,我在验证时用了十张图片。
    K = 1时子图像如下图所示: K = 2时子图像如下图所示:
    在这里插入图片描述

K = 4时子图像如下图所示 K = 20时子图像如下图所示
在这里插入图片描述 在这里插入图片描述
Python重构子图像源代码:
本文所有代码
重构图像验证:
增加d即特征向量的个数来近似获得重构图像。
d= 2时重构图像如下图所示: d = 4时重构图像如下图所示:

在这里插入图片描述在这里插入图片描述
d= 8时重构图像如下图所示: d= 20时重构图像如下图所示:
在这里插入图片描述 在这里插入图片描述
Python2DPCA实现源代码:
本文所有代码
6. 接下来,论文经过几个实验来验证2DPCA优于PCA。在实验中作者便想到了2DPCA+PCA的方法,从实验结果看,这种方法仍高于PCA。当然2DPCA含有较多的系数,这也是2DPCA相比于PCA的主要缺点。
7. 同时,我在网上也找到了2D-2DPCA的解释,它是二维PCA的拓展,现在的2DPCA基本指的都是2D-2DPCA。2D-2DPCA采用按行与按列进行构造协方差矩阵,这时在投影时需要考虑行与列的协方差变换。因为行列的联合映射的形式是C=ZTAX,所以此时映射的维数较小,为d²。一定程度上对2DPCA进行了降维。
Python2D-2DPCA实现源代码:

本文所有代码
对于2D-2DPCA与2DPCA的区别,我采用
import time
start =time.clock()
代码块
end = time.clock()
print(‘Running time: %s Seconds’%(end-start))
来获得执行程序的时间,但是因为数据较小,故对比困难。但在理论上2D-2DPCA运行运行效率将优于2DPCA。
最后,
在这里插入图片描述

发布了24 篇原创文章 · 获赞 18 · 访问量 8195

猜你喜欢

转载自blog.csdn.net/qq_40287633/article/details/104919330