图像融合技术就是将配准过后的图像融合成一幅宽视角、大场景的图像。但由于图像采集过程中各种因素的影响,例如光照、角度、距离等,从而导致图像间的光照不均匀、颜色上不连续。
经过配准以后,参考图像和输入图像已经在同一个坐标系下,如果只是取某一幅图像的信息或者简单地将二者重叠区域的像素进行叠加,在图像拼接处会产生图像不连续的现象,有明显的拼接缝隙,如图所示。
要实现图像的无缝拼接,必须采用图像融合技术对图像的重叠部分进行平滑处理,使两幅图在重叠区域平滑过渡,拼接后的图像在颜色和亮度上保持一致,视觉效果好。
一、传统融合算法
图像融合就是尽可能地利用图像间的独有细节信息和重叠部分的信息,最终得到一幅有丰富有用细节的新图像。经典的融合算法有直接平均和加权平均。
1、直接平均
该融合算法的基本思路是直接从图像间的重叠区域中各提取一半的信息,作为该部分的融合结果,计算公式见式:
该算法思路简单、便于操作,但是如果遇到光影差异较大时,融合结果中接缝感就会比较明显。
2、加权平均
该融合算法的基本思路是通过…定的权值将图像间重叠区域中的信息提取并结合。该算法的通用公式见式:
根据权重的选取方式不同,可以有以下两种分类:
1)渐入渐出融合算法
该算法是针对某方向上的,融合过程中权值是逐渐变化,从而达到平滑的融合结果。其计算公式见下式。
式中,0<<1。例如,沿着X方向的拼接情况下,随着X的増加,左侧的权值是逐渐变大,而右侧的是逐渐变小的,这样就可以使得融合处的变化平缓,效果更加自然。
2)帽子函数融合算法
在权值分配的时候,以中心区域为参考,距离越短,对应的权值也会越大。每一幅图像的权值设定公式见式:
其中,、分别对应着第 i 幅图像的宽和高。
权值在重叠区域处的总和为1,这样就需要对权值设定作统一调整,见式:
在加权平均融合算法中,一般来说,总是只考虑单一方向的权值设定,例如沿X方向或者沿Y方向。当然,融合也可以同时考虑送两方面,这样得到的融合质量更好。
其中,0<<1,代表X方向上的权值变化;0<<1,代表Y方向上的权值变化。
二、最佳缝合线算法
图像采集过程中,由于环境条件的差异,例如光照、曝光等方面,导致采集到的序列图像间在亮度和色调上是不一致的。在融合过程中,常常会出现同一物体中一部分重叠在一起而使物体模糊,送称之鬼影或重像。产生鬼影的环节有配准过程和合成过程。前者,源于图像采集过程中,拍摄设备不在同一平面运动,从而可能导致图像间配准误差较小,引起模糊;后者,源于图像间存在运动物体,因物体运动而导致融合出现问题。
利用动态规划的思想,在待拼接图像间的重叠区域之中,寻找一条线,可以很好地将待处理的图像各自划分两部分,然后各取一部分进行融合。当选取的线比较合理,从理论层面上是可以解决鬼影问题的。理想的缝合线上的像素点需要满足两个要求:颜色差异最小和几何结构最相似。但事实上,理想的缝合线基本无法求得,所以只能尽可能地接近。
1、最佳缝合线捜索准则
1)基于颜色差异的搜索准则
该准则只考虑了颜色强度差异,所以当图像间存在明显的曝光区别时,可能导致缝合线的捜索结果不对。
设相邻图像和,而且任意对应关系为和。则该准则可表示为:
其中,E表示重叠像素点的颜色之差。
2)基于颜色差异和几何差异的搜索准则
可表示为:
式中表示重叠像素的颜色差异,表示梯度,用梯度变化的较小值来度量几何差异。
2、最佳缝合线搜索过程
该准则的基本过程:先得到图像间的插值图像;然后使用动态划分的思路对插值图像做处理,处理过程见图;
最后从这些缝合线中找到搜索值最小的那一条,即为最佳。
三、泊松融合算法
人类的眼睛对图像亮度相对要敏感一些,而数学上的梯度可以用来反映图像中的亮度改变最明显的区域,也就是可以用梯度来捕捉到图像上亮度变化。法国学者佩雷斯等人在2003年提出了通过构造泊松方程来求解像素最优值的解决方法。这种方法能很好地实现图像间的无缝融合。
泊松融合算法是基于梯度域的。从数学角度来看,该融合过程可总结为求最小化问题,即按照边界条件来计算,让图像可以在梯度层面处于平滑状态。
如下图所示,g 表示被融合区域,v 是 g 的梯度场,S 是融合之后的结果。是 g 处理后的对应位置,对应的是区域的外圈。假设融合结果中内的灰度值为,其外部的为
鉴于融合后的图像要尽可能的平滑无缝,所以,内的梯度值应当尽可能的小,因此,的值由下式确定:
面对上述积分型极值问题,显然需要使用变分法,(这里直接原文了。。。原谅数学无力)
泊松方程被引入图像拼接领域后就成为研究热点,这是源于其相较于传统意义的融合算法,更能得到较好的无缝拼接结果。
如图所示,重叠部分为EFGH,在重叠区域中找到最佳缝合线,再进行泊松融合即可实现图像拼接。