目录
1.什么是算法？
算法:
算法 (Algorithm):就是定义良好的计算过程，他取一个或一组的值为输入，并产生出一个或一组值作为 输出。简单来说算法就是一系列的计算步骤，用来将输入数据转化成输出结果。常见应用于排序/ 二分查找
算法特点：1.有穷性。一个算法应包含有限的操作步骤，而不能是无限的。事实上“有穷性”往往指“在合理的范围之内”。如果让计算机执行一个历时1000年才结束的算法，这虽然是有穷的，但超过了合理的限度，人们不把他视为有效算法。
2. 确定性。算法中的每一个步骤都应当是确定的，而不应当是含糊的、模棱两可的。算法中的每一个步骤应当不致被解释成不同的含义，而应是十分明确的。也就是说，算法的含义应当是唯一的，而不应当产生“歧义性”。
3. 有零个或多个输入、所谓输入是指在执行算法是需要从外界取得必要的信息。
4. 有一个或多个输出。算法的目的是为了求解，没有输出的算法是没有意义的。
5.有效性。 算法中的每一个 步骤都应当能有效的执行。并得到确定的结果。
1.1算法的复杂度
算法在编写成可执行程序后，运行时需要耗费时间资源和空间 ( 内存 ) 资源 。因此 衡量一个算法的好坏,一般是从时间和空间两个维度来衡量的 ，即时间复杂度和空间复杂度。时间复杂度主要衡量一个算法的 运行快慢 ，而空间复杂度主要衡量一个算法运行 所需要的额外空间(需要多少内存) 。在计算 机发展的早期，计算机的存储容量很小。所以对空间复杂度很是在乎。但是经过计算机行业的迅速发展，计算机的存储容量已经达到了很高的程度。所以我们如今已经不需要再特别关注一个算法的空间复杂度。
2.算法的时间复杂度
2.1 时间复杂度的概念
时间复杂度的定义：在计算机科学中， 算法的时间复杂度是一个函数( 数学函数式,不是c语言的那些嵌套函数) ，它定量描述了该算法的运行时间。一个算法执行所耗费的时间，从理论上说，是不能算出来的，只有你把你的程序放在机器上跑起来，才能知道。但是我们需要每个算法都上机测试吗？是可以都上机测试，但是这很麻烦，所以才有了时间复杂度这个分析方式。一个算法所花费的时间与其中语句的执行次数成正比例，算法中的基本操作的 执行次数 ，为算法 的时间复杂度。
计算Func1中++count语句总共执行了多少次
// 请计算一下Func1中++count语句总共执行了多少次？
void Func1(int N)
{
int count = 0;
for (int i = 0; i < N; ++i)
{
for (int j = 0; j < N; ++j)
{
++count;
}
}
for (int k = 0; k < 2 * N; ++k)
{
++count;
}
int M = 10;
while (M--)
{
++count;
}
printf("%d\n", count);
}
时间复杂度的函数式(也就是Func1 执行的基本操作次数):
F(N)=N^2+2N+10
但是这个表达式,太准确,太细节,太繁琐了。时间复杂度不是准确地计算出这个数学函数式的执行次数，而是给它分一个级别，它到底是哪个量级的。
举例:就像马云和马化腾，不需要关心他们的账户具体几分几毛，只需要知道他们是富豪就行了。
| 准确值F(N)=N^2+2N+10 | 估算值O(N^2) | |
|
N = 10
|
F(N) = 130 | 100 |
|
N = 100
|
F(N) = 10210
|
10000 |
|
N = 1000
|
F(N) = 1002010
|
1000000 |
实际中我们计算时间复杂度时，我们其实并不一定要计算精确的执行次数，而只需要 大概执行次数，那么这 里我们使用大 O 的渐进表示法。只要用大O这个东西来表示就说明它是一个估算的值。
2.2 大O的渐进表示法
大 O 符号（ Big O notation ）：是用于描述函数渐进行为的数学符号。
1 、用常数 1 取代运行时间中的所有加法 常数 。2 、在修改后的运行次数函数中， 只保留最高阶项 。3 、如果最高阶项存在且不是 1 ，则 去除 与这个项目 相乘的常数 。得到的结果就是大 O 阶。
最坏情况：任意输入规模的最大运行次数 ( 上界 )平均情况：任意输入规模的期望运行次数最好情况：任意输入规模的最小运行次数 ( 下界 )
最好情况： 1 次找到最坏情况： N 次找到平均情况： N/2 次找到
2.3常见时间复杂度计算举例
实例1：执行2N+10次
// 计算Func2的时间复杂度？
void Func2(int N)
{
int count = 0;
for (int k = 0; k < 2 * N ; ++ k)
{
++count;
}
int M = 10;
while (M--)
{
++count;
}
printf("%d\n", count);
}基本操作执行了2N+10次，通过推导大O阶方法知道，时间复杂度为 O(N)
实例2：执行M+N次
// 计算Func3的时间复杂度？
void Func3(int N, int M)
{
int count = 0;
for (int k = 0; k < M; ++ k)
{
++count;
}
for (int k = 0; k < N ; ++ k)
{
++count;
}
printf("%d\n", count);
}实例 2 基本操作执行了 M+N 次，有两个未知数 M 和 N ，时间复杂度为 O(N+M)不能说N无限大了，M就不重要了。除非说会给出一个关系：N远大于M,则时间复杂度为O(N)M远大于N,则时间复杂度为O(M)M等于N或二者相差不大时，则时间复杂度为O(M+N)
实例3:执行了100000000次
void Func4(int N)
{
int count = 0;
for (int k = 0; k < 100000000; ++k)
{
++count;
}
printf("%d\n", count + N);
}
int main()
{
Func4(100000);
Func4(1);
return 0;
}
执行:实际上cpu的速度是非常快的，相差的执行次数可以忽略，所以时间复杂度依旧为O(1)
O(1)不是代表1次，而是代表常数次，就算k<10亿，它也是O(1)
我们平时能写到的常数最大也就是40多亿左右(整型能表示的范围),cpu是可以承受的。
实例3基本操作执行了100000000次，通过推导大O阶方法，时间复杂度为 O(1)
实例4:计算strchr的时间复杂度
// 计算strchr的时间复杂度？
const char * strchr ( const char * str, int character );这是关于strchr的模拟实现
#include<stdio.h>
#include<assert.h>
char* my_strchr(const char* str, const char ch)
{
assert(str);
const char* dest = str;
while (dest != '\0' && *dest != ch)
{
dest++;
}
if (*dest == ch)
return (char*)dest;
return NULL;
}
int main()
{
char* ret = my_strchr("hello", 'l');
if (ret == NULL)
printf("不存在");
else
printf("%s\n", ret);
return 0;
}
我的理解就是strchr和strstr的区别:就是strstr是输入一个字符串，在主串中查找，而strchr是输入一个字符，然后在主串中查找。这个链接有关于strstr的知识点:http://t.csdn.cn/NEaip
若查找失败，返回NULL。查找成功则返回首字符的地址，然后打印的时候一直到'\0'结束
所以说:
指明了这个数组的长度然后去查找它的时间复杂度才是O(1),长度不明确的话，长度就是N，那么需要递归N次，时间复杂度就是O(N)实例 4 基本操作执行最好 1 次，最坏 N 次，时间复杂度一般看最坏，时间复杂度为 O(N)
实例5:计算BubbleSort的时间复杂度
// 计算BubbleSort的时间复杂度？
void BubbleSort(int* a, int n)
{
assert(a);
for (size_t end = n; end > 0; --end)
{
int exchange = 0;
for (size_t i = 1; i < end; ++i)
{
if (a[i-1] > a[i])
{
Swap(&a[i-1], &a[i]);
exchange = 1;
}
}
if (exchange == 0)
break;
}
}
那么比较的次数构成等差数列:用等差数列求和公式得到最后的执行次数是F(N)=(N-1)*N/2；
这题关于循环的不是说有两层循环嵌套就直接判断它的时间复杂度是O(N^2),因为如果比较次数是已知的(外层循环n<10,内层循环n<1000000)那就是O(1) ，而且冒泡排序会有优化版本，在有序的情况下,他的时间复杂度是O(N),只走外层循环。实例 5 基本操作执行最好 N 次，最坏执行了 (N*(N+1)/2 次，通过推导大 O 阶方法 + 时间复杂度一般看最坏，时间复杂度为 O(N^2)
实例6:计算BinarySearch的时间复杂度
// 计算BinarySearch的时间复杂度？
int BinarySearch(int* a, int n, int x)
{
assert(a);
int begin = 0;
int end = n-1;
// [begin, end]：begin和end是左闭右闭区间，因此有=号
while (begin <= end)
{
int mid = begin + ((end-begin)>>1);
if (a[mid] < x)
begin = mid+1;
else if (a[mid] > x)
end = mid-1;
else
return mid;
}
return -1;
}图解:
假设找了x次，那么除了x个2
2^x =N --> x = log2N
所以说可以从最后一次查找一直乘2，乘到原数组的长度
实例6基本操作执行最好1次，最坏O(log2N)次，时间复杂度为 O(log2N) ps：logN在算法分析中表示是底数为2，对数为N。有些地方会写成lgN。
实例7: 计算阶乘递归Fac的时间复杂度
//实例7:
// 计算阶乘递归Fac的时间复杂度？
long long Fac(size_t N)
{
if (0 == N)
return 1;
return Fac(N - 1) * N;
}
long long Fac(size_t N)
{
if (0 == N)
return 1;
for (size_t i = 0; i < N; i++)
{
}
return Fac(N - 1) * N;
}
图解:
左边的每一次函数调用里面的for循环语句(如果有其它循环语句也会算上)的执行次数,左边的1表示它是常数次，而不是1次(就说如果函数里面没什么循环语句，有几个if语句，那时间复杂度也是O(1))。
右边的简单来说就说有N+1个函数调用,而每一个函数调用里面的循环语句都执行了N+1次,所以应该把每次的递归调用的函数里面的循环语句都加起来。
补充的点:
时间是加起来的,不是乘起来的，就比如说上图的return Fac(N-1)*N:表示的是上一次的结果乘N,但是执行次数也是一次,因为这个地方的*对于计算机来说仅仅是一个指令。时间复杂度算的是这个程序在走的过程中这个指令的执行次数。
实例8:计算斐波那契递归Fib的时间复杂度
// 计算斐波那契递归Fib的时间复杂度？
long long Fib(size_t N)
{
if (N < 3)
return 1;
return Fib(N - 1) + Fib(N - 2);
}图解:
执行次数之和符合等比数列：使用错位相减法
这题可以这样理解:
关于那个三角形，白色的区域在N越大的情况下，就会远远大于黑色区域，而时间复杂度是用来计算大致计算某个数学函数是的量级的，给它分一个级别，所以可以看作是满项的状态下计算，然后执行次数之和构成等比数列,用大O渐进表示法去算时间复杂度为O(2^N)。
3.算法的空间复杂度
空间复杂度也是一个数学表达式，是对一个算法在运行过程中 临时占用存储空间大小的量度 。空间复杂度不是程序占用了多少 bytes 的空间，因为这个也没太大意义，所以空间复杂度算的是 变量的个数 。空间复杂度计算规则基本跟实践复杂度类似，也使用 大O渐进表示法 。注意： 函数运行时所需要的栈空间 ( 存储参数、局部变量、一些寄存器信息等 ) 在编译期间已经确定好了，因 此 空间复杂度 主要通过函数在运行时候显式申请的 额外空间 来确定。
实例1：计算BubbleSort的空间复杂度
// 计算BubbleSort的空间复杂度？
void BubbleSort(int* a, int n)
{
assert(a);
for (size_t end = n; end > 0; --end)
{
int exchange = 0;
for (size_t i = 1; i < end; ++i)
{
if (a[i - 1] > a[i])
{
Swap(&a[i - 1], &a[i]);
exchange = 1;
}
}
if (exchange == 0)
break;
}
}因为这里只创建了一个end，exchange，i三个变量,只计算变量个数,不管变量类型也不算空间具体的字节数，而且都是在循环里创建的，所以空间复杂度为O(1)。
而关于形参int *a,和int n，它们不会被算在空间复杂度中。
实例2：计算Fibonacci的空间复杂度
// 计算Fibonacci的空间复杂度？
// 返回斐波那契数列的前n项
long long* Fibonacci(size_t n)
{
if(n==0)
return NULL;
long long * fibArray = (long long *)malloc((n+1) * sizeof(long long));
fibArray[0] = 0;
fibArray[1] = 1;
for (int i = 2; i <= n ; ++i)
{
fibArray[i] = fibArray[i - 1] + fibArray [i - 2];
}
return fibArray;
}空间复杂度，它计算的是你在这个函数内部开辟了多少额外空间，如果是常数个的话，就是O1，如果开辟的大小不确定，一般就是O(N)。
所以说空间复杂度为O(N)。
实例3：计算阶乘递归Fac的空间复杂度
// 计算阶乘递归Fac的空间复杂度？
long long Fac(size_t N)
{
if(N == 0)
return 1;
return Fac(N-1)*N;
}图解:
递归调用了N层每次调用建立一个栈帧，每个栈帧使用了常数个空间O(1)
由于这里调用了N个函数,同时没有返回,所以合起来就是O(N)
实例4:计算斐波那契递归Fib的空间复杂度(两个递归)
// 计算斐波那契递归Fib的空间复杂度？
long long Fib(size_t N)
{
if(N < 3)
return 1;
return Fib(N-1) + Fib(N-2);
}前言:
空间的销毁不是整没了那块空间，是归还使用权，归还给操作系统。
因为内存空间是属于操作系统进程的，比如说让你malloc一块空间，就获得这块空间的使用权，free一下就把空间使用权还给操作系统了
时间是一去不复返时间是累积计算的,空间是可以重复利用不累积计算
简单的说，右边的函数和左边的函数共用一个栈帧。
代码运行:栈是向下生长的,调用Func1和Func2相当于共用一块空间，因为Func1销毁之后，到Func2创建，位置还是那个位置，地址也是那个地址。
因为主函数的a和Func1的a在不同栈帧里面，所以可以同名。
实例4递归调用了N次，开辟了N个栈帧，每个栈帧使用了常数个空间。空间复杂度为O(N)
调用时，建立栈帧;
返回时，销毁。(归还给操作系统)
4.常见复杂度对比
图解：
本章完，如有不足之处，欢迎大佬指正。