排序算法详解（二）

希尔排序（插入排序的改进）

希尔排序（Shell Sort）是插入排序的一种。也称缩小增量排序，是直接插入排序算法的一种更高效的改进版本。希尔排序是非稳定排序算法。该方法因DL.Shell于1959年提出而得名。希尔排序是把记录按下标的一定增量分组，对每组使用直接插入排序算法排序；随着增量逐渐减少，每组包含的关键词越来越多，当增量减至1时，整个文件恰被分成一组，算法便终止。

希尔排序过程

希尔排序的基本思想是：将数组列在一个表中并对列分别进行插入排序，重复这过程，不过每次用更长的列（步长更长了，列数更少了）来进行。最后整个表就只有一列了。将数组转换至表是为了更好地理解这算法，算法本身还是使用数组进行排序。

例如，假设有这样一组数[13 14 94 33 82 25 59 94 65 23 45 27 73 25 39 10]，如果我们以步长为5开始进行排序，我们可以通过将这列表放在有5列的表中来更好地描述算法，这样他们就应该看起来是这样（竖着的元素是步长组成）：

13   14   94   33   82
25   59   94   65   23
45   27   73   25   39
10

然后我们对每列进行排序：

10   14   73   25   23
13   27   94   33   39
25   59   94   65   82
45

将上述四行数字，依序接在一起时我们得到：[10 14 73 25 23 13 27 94 33 39 25 59 94 65 82 45]。这时10已经移至正确位置了，然后再以3为步长进行排序。

10   14   73
25   23   13
27   94   43
39   25   59
94   65   82
45

排序之后变为：

10   14   13
25   23   33
27   25   59
39   65   73
45   94   82
94

最后以1步长进行排序（此时就是简单单的插入排序了）

希尔排序的python实现

def shell_sort(alist):
    n = len(alist)
    gap = n//2
    # gap变化到0之前，插入算法执行的次数
    while gap > 0:
        # 插入算法，与普通的插入算法的区别就是gap步长
        for j in  range(gap,n):
            i = j
            while i>0:
                if alist[i]<alist[i-gap]:
                    alist[i],alist[i-gap]=alist[i-gap],alist[i]
                else:
                    break
        gap //= 2

时间复杂度

• 最优时间复杂度：根据步长序列的不同而不同
• 最坏时间复杂度： $O（n^2）$
• 稳定性：不稳定

希尔排序的演示

效果：

快速排序（冒泡排序的改进）

快速排序（英语：Quicksort），又称划分交换排序（partition-exchange sort），通过一趟排序将要排序的数据分割成独立的两部分，其中一部分的所有数据都比另外一部分的所有数据都要小，然后再按此方法对这两部分数据分别进行快速排序，整个排序过程可以递归进行，以此达到整个数据变成有序序列。

步骤为：

1. 从数列中挑出一个元素，称为“基准”（pivot）。

2. 重新排序数列，所有元素比基准值小的摆放在基准前面，所有元素比基准值大的摆在基准的后面（相同的数可以到任一边）。在这个分区结束之后，该基准就处于数列的中间位置。这个称为分区（partition）操作。

3. 递归地（recursive）把小于基准值元素的子数列和大于基准值元素的子数列排序。

递归的最底部情形，是数列的大小是零或一，也就是永远都已经被排序好了。虽然一直递归下去，但是这个算法总会结束，因为在每次的迭代（iteration）中，它至少会把一个元素摆到它最后的位置去。

快速排序的分析

快速排序的python实现

def quick_sort(alist,first,last):
    """用数组实现快速排序
    alist: 需要排序的列表
    first: 起始索引
    last:  末尾索引
    """
    if first >=last:
        return
    mid_value = alist[first]
    low = first
    high = last
    while low<high:
        while low < high and alist[high] >= mid_value:
            high -= 1
        alist[low] = alist[high]

        while low < high and alist[low] < mid_value:
            low +=1
        alist[high]=alist[low]

    alist[low] = mid_value

    quick_sort(alist,first,low-1)
    quick_sort(alist,low+1,last)

时间复杂度

• 最优时间复杂度： $O（nlog_2n）$
• 最坏时间复杂度： $O（n^2）$
• 稳定性：不稳定

从一开始快速排序平均需要花费 $O（n log_2 n）$时间的描述并不明显。但是不难观察到的是分区运算，数组的元素都会在每次循环中走访过一次，使用 $O（n）$的时间。在使用结合（concatenation）的版本中，这项运算也是 $O（n）$。

在最好的情况，每次我们运行一次分区，我们会把一个数列分为两个几近相等的片段。这个意思就是每次递归调用处理一半大小的数列。因此，在到达大小为一的数列前，我们只要作 $log_2 n$次嵌套的调用。这个意思就是调用树的深度是 $Olog （n）$。但是在同一层次结构的两个程序调用中，不会处理到原来数列的相同部分；因此，程序调用的每一层次结构总共全部仅需要 $O（n）$的时间（每个调用有某些共同的额外耗费，但是因为在每一层次结构仅仅只有 $O（n）$个调用，这些被归纳在 $O（n）$系数中）。结果是这个算法仅需使用 $O（n log_2n）$时间。

快速排序的演示

效果：

归并排序

归并排序是采用分治法的一个非常典型的应用。归并排序的思想就是先递归分解数组，再合并数组。

将数组分解最小之后，然后合并两个有序数组，基本思路是比较两个数组的最前面的数，谁小就先取谁，取了后相应的指针就往后移一位。然后再比较，直至一个数组为空，最后把另一个数组的剩余部分复制过来即可。

归并排序的python实现

def merge_sort(alist):
    n = len(alist)
    if n <= 1:
        return alist
    mid = n // 2
    # left 采用归并排序后形成的有序的新的列表
    left_li = merge_sort(alist[:mid])
    # right 采用归并排序后形成的有序的新的列表
    right_li = merge_sort(alist[mid:])
    # 将两个有序的子序列合并为一个新的整体
    left_pointer,right_pointer = 0,0
    result = []

    while left_pointer < len(left_li) and right_pointer < len(right_li):
        if left_li[left_pointer] <= right_li[right_pointer]:
            result.append(left_li[left_pointer])
            left_pointer += 1
        else:
            result.append(right_li[right_pointer])
            right_pointer += 1

    result += left_li[left_pointer:]
    result += right_li[right_pointer:]
    return result

时间复杂度

• 最优时间复杂度：O（nlogn）
• 最坏时间复杂度：O（nlogn）
• 稳定性：稳定

归并排序的演示

效果：

常见排序算法效率比较

快速排序的常量比归并排序小，因此如果它们的运行时间都为 $O（n log_2n）$，快速排序的速度将更快。实际上，快速排序的速度确实更快，因为相对于遇上最糟情况，它遇上平均情况的可能性要大得多。而且快排它不占用额外的空间，所以面试常考。