算法设计与分析：动态规划（2） - 序列联配问题(最优对齐方案)

本文参考UCAS卜东波老师算法设计与分析课程撰写

前言

本文依然围绕动态规划问题展开，会详细描述动态规划在序列联配问题中的应用，通过这个问题引出高级动态规划，以及以算代存的方式减少动态规划占用的内存。

序列联配问题

问题描述与分析

• 给你两个字符串序列 $x = x_1x_2...x_n$, $y = y_1y_2...y_n$，计算联配 $(x',y')$,使得编辑操作数目 $s(x',y')$最小
  首先解读一下问题，想象这样一个场景，我们拥有一个字典词库，对于用户输入的单词S（可能输错），我们需要尽快地找到词库中与它最像的单词（动态规划保证这一过程尽可能快），修正用户的输入。

  为此我们引入“对齐”的概念。拿到两个字符串T&S，我们对字符串每个对应位置的元素做以下判断：

  • $S'[i]$=’-’： $S[i]$相比于 $T[i]$ 少了一个字母，称作删除
  • $T'[i]$= ‘-’: $S'[i]$相比于 $T[i]$多了一个字母，称作插入
  • $S[i]$与 $T[i]$位置元素相同，称作匹配

  简而言之，就是给了 $(S,T)$要转换到 $(S',T')$，使得 $(S',T')$是对齐的。这里给出一个例子，给定 $S=OCURRANCE$, $T=OCCURRENCE$,则一种对齐操作如下：
  

  有了对齐的概念，我们就可以计算两个字符串之间的相似度（如果对齐需要的操作越少，理论相似度越高），作出如下定义：
  $s(T',S') = \sum_{i=1}^{|S|}s(T'[i],S'[i])\\ s(T'[i],S'[i]) = \begin{cases} +1 &\text{if } T'[i] =S'[i] \\ -1 &\text{if } T'[i] \ne S'[i] \\ -3 &\text{else } \end{cases}$

  $s(T',S')$表示T’，S’字符串是字符串间相似度（也可以理解为对齐所需成本)， $s(T'[i],S'[i])$则是对单个字符对齐的成本，例如 $s('C',‘C’) = 1$， $s('C','A') = -1$, $s('C','-') = -3$，这里的分数是认为规定的，一般性我们认为两个字符如果匹配上了应该加分，如果匹配不上应该扣分，但是如果是遗漏字符或者多余了字符，这种严重性我们认为比输错字符更大，所以这里暂时规定分别为+1,-1,-3

  有了上面的定义之后，我们就可以计算两个字符串之间的相似度，下面是两种情况需要考虑：

  • 对于同一个单词不同对齐方式相似度
    同样是一个单词，如果采用不同的对齐方式，就会导致相似度不一样，如上文的例子中和下面展示的都是OCCURRENCE对齐的一种方式，然而依据定义计算两者与用户输入的相似度却不一样，如下：

    • 对齐方式1
      
    • 对齐方式2
      

    有了这种比较方式，我们就可以得到同一单词其针对用户输入的最好对齐方式

  • 对于两个不同单词对比相似度
    当我们获取到用户的输入OCURRANCE，词库里的两个单词OCCURRENCE,OCCUPATION，我们想知道这两者哪个与输入相似度更高，计算如下（假设两个单词都采用了最好对齐）：

    • T = OCCURRENCE
      
    • T = OCCUPATION
      

    可以发现,OCCURRENCE的相似度更高，因此我们可以猜测用户的输入为OCCURRENCE

  上面两种方法实际上定义了一个定量的权衡字符串相似度的标准，同时将原问题转化为，有那么多的对齐方案，我该如何找出最优的对齐方案（即使得 $s(T',S')$分数最高）。

解决思路

根据上面的分析，可以发现这也是一个优化问题，我们描述S是如何从T产生。将上述问题转换成多步决策：S的一个字母如何从T产生（一步）
对于S中的一个字母，它可能有以下三种情况（我们从后往前对比S，T）：

为了方便叙述，我们记最优的 $S_m$与 $T_n$对齐方案分数为 $OPT(m,n)$，注意区别于上文的 $s(S',T')$，前者是最优情况，后者是任意情况。注意不要被上图中匹配部分弄混，我们划分这三种情况的依据是，我们要看字母的对齐是否应该和对应字符串的当前字母对齐。简单来说，匹配时，E与E可以匹配，E与A也可以匹配，只不过一个结果是+1，一个结果是-1，而插入时，我们认为S中的E不应该在此时和T中字母对齐，而是和一个空格对齐，这种策略会导致得分-3，但是有可能这样子做剩下部分的对齐会非常完美，导致得分反而高了，删除的时候同理。

有了上面的讨论，我们就可以给出OPT的推导公式，如下：
$OPT(i,j)= \max \begin{cases} s(T_i,S_j) +OPT(i-1,j-1)&\text{} \\ s('-',S_j) + OPT(i,j-1) &\text{} \\ s(T_i,'-')+OPT(i-1,j) \end{cases}$
其中 $s(x,y)$在上文已经给出，如果遗忘，可以上翻回顾一下。

在设计伪代码之前，我们先做一张表来方便理解，这里直接沿用课件的图：

首先解释一下任一方格的意义，以红圈-9的位置为例，代表 $OPT("","OCU")$，即T为空，S为 $OCU$,这个值为什么为-9？因为T为空，S中每一个值只能和空格对齐，而和一次空格对齐就是-3，最终得分-9。对于其他的格子，如最右下角就是OPT(“OCCURRENCE”,“OCURRANCE”)，我们可以清楚的计算第0行和第0列的元素，他们只能和空格对齐，因此都是-3的倍数。
有了这个基础，我们就能递归查询结果了。
如当我们求OPT(“OCCURRENCE”,“OCURRANCE”)，它是 $\max \begin{cases} 1+OPT("OCCURRENC","OCURRANC" \\ -3+OPT("OCCURRENC","OCURRANCE") \\ -3 + OPT("OCCURRENCE","OCCURRANC") \end{cases}$,接着就可以不断递归下去（可以看出任意一个格子是由其做上角三个格子变化过来的），但实际上我们在前面将动态规划的时候还有另一种办法替换递归，就是迭代。

因此，我们可以设计得到伪代码如下：

这个伪代码应该很好理解，前6行初始化DP数组0行0列，后面就是迭代递推的过程。下面是一个递推迭代得到的例子（来源课件）：

我们可以轻松获得最好的对齐分数是4。当然这并非是我们的重点，我们需要知道实际的对齐方案是怎么样的，换句话说，即从右下角到左上角的路径（这个路径告诉我们S’与T’是如何生成的）。

这个过程用回溯方法即可解决，我们从4开始考虑，它是左上角三个格子通过加上一个得分得到，那么我们也很容易通过让4扣除这个得分回到原来的格子，看其是否与格子实际分数相同，如果相同，则说明4是从该格子而来。下面是一个例子：

解释一下这个图，我们从4出发回溯到三个格子，斜对角-1是因为E与E相同，匹配得分+1，回溯回去就是-1，同样可知往上和往左走是+3（想想原因），而显然得到的结果中3是符合格子实际结果的，其余两个均不符合，因此可以断定4是由3这个格子来的。因此从后往前，S’与T‘均打印E字母。以此类推，下一个考虑的格子就是3。

至此，我们已经较为完善地解决了这个决策问题，当然这属于基本的动态规划思想，用一个动态数组存储当前最优情况，不断更新决策，在当前状态下找到下一步最优。

问题的最优是否最好？

老师在课上还指出了在实际应用中，我们不一定按照最优的方案回溯，我们依据分数给每个决策方向设定一个概率，依据概率随机进行回溯。这样找到的解不一定是最优解，但是一个不错（次优）的解。以考试为例，考100分的同学未必比考95的同学好，因为存在考题错误的情况。在一个有问题的打分方案下，寻找最优并没有意义。我们依据概率对回溯做多次决策进行聚类，聚类的中心则是最优的联配方案。

• 一个简单的例子
  我们考虑表格中下面的结果：
  
  注意我黄色框出的部分，从-1回溯上去，我们发现斜着走和向上走都是可以的，体现在字符串上就是S中的C字母可以和T中“CC“第一个对齐，也可以和第二个对齐，两者分数是相同的，这种时候如果有概率选择，就可以帮助我们更好作出决策。更一般地，假设两个方向分差很小，一个是1.001,一个是1，这种时候分数高的优势就没有了，就要借助概率。

总结

本来后面还有一大部分高级动态规划的内容（讲述如何减少动态规划的空间复杂度），但是光写到这感觉内容已经很多了，因此我将其拆做两部分，后一部分在文末给出。这里先总结上面的内容：

• 1、对于动态规划中的序列联配问题，第一点先思考如何将其转换成一个多步决策问题。本文中采用将原问题将S与T对齐转换成S如何从T中得出，分别列举了三种可能情况，这三种情况的划分是依据S和T递归下标的变化得出的，同时-1（匹配），S-1（插入），T-1（删除）。
• 2、划分好依据后，你就有三种不同的决策方向，如何选择决策方向是动态规划的特点，它充分考虑了当前状态和转换到下一状态成本的整体结果，就像文中例子，可能OPT(i,j)从OPT(i-1,j)过来要耗费-3的成本，但是说不定OPT(i-1,j)本身就是一个很大的分数，这使得OPT(i,j)很好；而OPT(i,j)从OPT(i-1,j-1)过来可能只耗费-1的成本（甚至+1），但可能OPT(i-1,j-1)本身很差，导致OPT(i,j)很差，这是动态规划能够做到找到最优策略的原因。
• 3、剩下的部分就是如何初始化，和写好状态边界的问题了。
  总体来说，核心就是构建多步决策

如果你觉得文章对你有用，不妨顺手点个赞哦～

• 上一篇：算法设计与分析：动态规划 - 矩阵链式相乘问题
• 下一篇：算法设计与分析：动态规划（3）-序列联配问题（以算代存）
• 目录