字符串相似度算法

一、百度百科

Levenshtein 距离,又称编辑距离,指的是两个字符串之间,由一个转换成另一个所需的最少编辑操作次数。

许可的编辑操作包括将一个字符替换成另一个字符,插入一个字符,删除一个字符。

编辑距离的算法是首先由俄国科学家Levenshtein提出的,故又叫Levenshtein Distance。

二、用途

字符串的模糊匹配查询

三、实现过程

  1. 首先是有两个字符串,这里写一个简单的 abc和abe
  2. 将字符串想象成下面的结构
    A处 是一个标记,为了方便讲解,不是这个表的内容
abc a b c
abe 0 1 2 3
a 1 A处
b 2
e 3
  1. 计算 A处 出得值

    它的值取决于:左边的1、上边的1、左上角的0,

    按照Levenshtein distance的意思:

    上面的值和左面的值都要求加1,这样得到1+1=2;

    A处 由于是两个a相同,左上角的值加0,这样得到0+0=0;

    这是后有三个值,左边的计算后为2,上边的计算后为2,左上角的计算为0,所以 A处 取他们里面最小的值,即0。

  2. 添加A处数据后结果如下

abc a b c
abe 0 1 2 3
a 1 0
b 2 B处
e 3

B处 会同样得到三个值,左边计算后为3,上边计算后为1,在 B处 由于对应的字符为a、b,不相等,所以左上角应该在当前值的基础上加1,这样得到1+1=2,在(3,1,2)中选出最小的为 B处 的值。

  1. 添加B处数据后结果如下
abc a b c
abe 0 1 2 3
a 1 0
b 2 1
e 3 C处

C处 计算后:上面的值为2,左边的值为4,左上角的:a和e不相同,所以加1,即2+1,左上角的为3。
在(2,4,3)中取最小的为 C处 的值。

  1. 以此类推,最终的结果如下表所示
abc a b c
abe 0 1 2 3
a 1 A处 0 D处 1 G处 2
b 2 B处 1 E处 0 H处 1
e 3 C处 2 F处 1 I处 1

I处: 表示abc 和abe 有1个需要编辑的操作,这个是需要计算出来的,同时,也获得一些额外的信息

A处: 表示a 和a 需要有0个操作,字符串一样

B处: 表示ab 和a 需要有1个操作

C处: 表示abe 和a 需要有2个操作

D处: 表示a 和ab 需要有1个操作

E处: 表示ab 和ab 需要有0个操作,字符串一样

F处: 表示abe 和ab 需要有1个操作

G处: 表示a 和abc 需要有2个操作

H处: 表示ab 和abc 需要有1个操作

I处: 表示abe 和abc 需要有1个操作

  1. 相似度计算

    先取两个字符串长度的最大值maxLen,用1-(需要操作数除maxLen),得到相似度。

    例如abc 和abe 一个操作,长度为3,所以相似度为1-1/3=0.666。

四、JAVA代码实现

复制后即可运行

    package code;  
      
    /** 
     * @className:MyLevenshtein.java 
     * @classDescription:Levenshtein Distance 算法实现 
     * 可以使用的地方:DNA分析   拼字检查   语音辨识   抄袭侦测 
     * @author:ylp 
     * @createTime:2018-10-18 
     */  
    public class MyLevenshtein {  
      
        public static void main(String[] args) {  
            //要比较的两个字符串  
            String str1 = "今天星期四";  
            String str2 = "今天是星期五";  
            levenshtein(str1,str2);  
        }  
      
        /** 
         *   DNA分析   拼字检查   语音辨识   抄袭侦测 
         *  
         * @createTime 2018-10-18 
         */  
        public static void levenshtein(String str1,String str2) {  
            //计算两个字符串的长度。  
            int len1 = str1.length();  
            int len2 = str2.length();  
            //建立上面说的数组,比字符长度大一个空间  
            int[][] dif = new int[len1 + 1][len2 + 1];  
            //赋初值,步骤B。  
            for (int a = 0; a <= len1; a++) {  
                dif[a][0] = a;  
            }  
            for (int a = 0; a <= len2; a++) {  
                dif[0][a] = a;  
            }  
            //计算两个字符是否一样,计算左上的值  
            int temp;  
            for (int i = 1; i <= len1; i++) {  
                for (int j = 1; j <= len2; j++) {  
                    if (str1.charAt(i - 1) == str2.charAt(j - 1)) {  
                        temp = 0;  
                    } else {  
                        temp = 1;  
                    }  
                    //取三个值中最小的  
                    dif[i][j] = min(dif[i - 1][j - 1] + temp, dif[i][j - 1] + 1,  
                            dif[i - 1][j] + 1);  
                }  
            }  
            System.out.println("字符串\""+str1+"\"与\""+str2+"\"的比较");  
            //取数组右下角的值,同样不同位置代表不同字符串的比较  
            System.out.println("差异步骤:"+dif[len1][len2]);  
            //计算相似度  
            float similarity =1 - (float) dif[len1][len2] / Math.max(str1.length(), str2.length());  
            System.out.println("相似度:"+similarity);  
        }  
      
        //得到最小值  
        private static int min(int... is) {  
            int min = Integer.MAX_VALUE;  
            for (int i : is) {  
                if (min > i) {  
                    min = i;  
                }  
            }  
            return min;  
        }  
      
    }  

五、原理

为什么这样就能算出相似度了?

下面给两个例子来解释一下,其中,红色是取值的顺序。

  1. "今天周一" "天周一"
0 1 2 3
1 1 2 3
2 1 2 3
3 2 1 3
4 3 3 1

这两个字符串转换最快的步骤就是:

实现是去掉 “今” ,一步完成。

  1. "听说马上就要放假了" "你听说要放假了"
0 1 2 3 4 5 6 7
1 1 1 2 3 4 5 6
2 2 2 1 2 3 4 5
3 3 3 2 2 3 4 5
4 4 4 3 3 3 4 5
5 5 5 4 4 4 4 5
6 6 6 5 4 5 5 5
7 7 7 6 5 4 5 6
8 8 8 7 6 5 4 6
9 9 9 8 7 6 6 4

这两个转换最快的步骤就是:

去掉“你”,加上“马上就”,总共四步操作。

总结来说就是,先根据二维的计算方式找到两个字符串相互转换的最少步骤,即编辑距离,也可以理解为字符串之间的差异或者不同,然后除以最长的字符串的长度,即差异值占最大字符串长度的比例,可以理解为差异度(个人定义,非官方),然后用1减去差异度就可以得到相似度了。

六、结束语

此算法的优化空间还有很大,欢迎有兴趣的同学一起交流,在程序猿的道路上一起进步。
Alt

参考链接:计算字符串相似度算法——Levenshtein.

猜你喜欢

转载自blog.csdn.net/weixin_43365038/article/details/83150521