决策树与排序算法的一般下界

定理:任何只用到比较的算法最坏情况下需要\Omega (NlogN)次比较

决策树:用于证明排序算法的下界,是一个二叉树,每个节点是元素之间一组可能的排序,比较的结果是树的边,下图表示将a,b,c排序的算法

排序算法比较次数等于最深的树叶的深度,平均次数是平均深度

引理1:令T是深度为d的二叉树,那么T最多有2^d个树叶

证明:显然

引理2:有L片树叶的二叉树的深度至少是\left \lceil logL \right \rceil

证明:显然

定理1:只用元素之间比较的任何排序算法在最坏情况下至少需要\left \lceil log(N!) \right \rceil次比较

证明:对N个元素排序,一定有N!个树叶,因为树叶是每种排序的结果,应用引理2得到结论

定理2:只用元素之间比较的任何排序算法需要进行\Omega (NlogN)次比较

扫描二维码关注公众号,回复: 3641241 查看本文章

证明:

log(N!)=log(N(N-1)(N-2)...(2)(1))))

               =logN + log(N-1) +...+log(2)+log(1)

               \geqslant logN+log(N-1)+...+log(N/2)

               \geqslant \frac{N}{2}log\frac{N}{2}

               \geqslant \frac{N}{2}log\frac{N}{2}-\frac{N}{2}

               =\Omega (NlogN)

信息论下界:若存在任何P种不同的情况需要区分,问题是yes/no的形式,那么任何算法求解该问题总需要\left \lceil logP \right \rceil个问题

猜你喜欢

转载自blog.csdn.net/kdb_viewer/article/details/83010155