算法复杂性分析及运算规则证明(一)

我们有必要知道算法的复杂性是算法运行所需要的计算机资源的量，需要空间资源的量称为空间复杂度，同样需要时间资源的量称为时间复杂度。那麽这个量与什么有关系呢？

这个量应该是只依赖于要解决的问题的规模，算法的输入和算法的本身。

专业术语用C=F（N，I，A）三元函数表示。时间T(time)，空间S（space）。

二者计量方法相似，且分析空间复杂度要比时间复杂度简单，因此我们主要讨论时间复杂度。但在此之前，同样需要说一下空间复杂度。

空间复杂度是算法在运行过程中临时占用的存储空间大小的度量, 同样是关于问题规模n和算法的输入i的函数s=s（n，i）。只要算法占用的存储空间不要达到计算机无法接受的程度（实际生活上应该没有或许不需要这样的算法）就行。所以，常常会见到通过牺牲空间复杂度来换取算法更加高效的运行时间效率。

算法在计算机存储器上占用的空间包括三个部分:输入输出，算法本身和运行临时占有。

算法的输入输出数据所占用的存储空间是由要解决的问题决定的，它不会随算法的不同而改变。

算法本身：存储算法本身所占用的存储空间与算法书写的长短成正比，要压缩这部分存储空间，就必须编写出较短的算法。我想实际应用需要根据需求采取不同的编程语言来实现，不同编程语言实现的代码长短差别很大，然而存储空间都在可接受范围之内（通常不同编程语言的效率更受关注）。

运行临时占有：

根据算法在运行过程中临时占用存储空间的不同，可以将算法分为两类。

原地算法（in-place algorithm）：只需要占用少量的临时工作单元，而且不随问题规模的大小而改变，我们称这种算法是“就地”进行的，是节省存储的算法。
非原地算法（not-in-place）：需要占用的临时工作单元数与解决问题的规模n有关，它随着n的增大而增大，当n较大时，将占用较多的存储单元。
算法临时占用空间是考虑算法空间复杂度时主要考虑的部分。相比于随着问题输入规模扩大而扩大的非原地算法，原地算法是更加简洁高效的算法（仅考虑空间复杂度时）。
参考https://baike.baidu.com/item/%E5%8E%9F%E5%9C%B0%E7%AE%97%E6%B3%95/8010757?fr=aladdin

时间复杂度

在我们知道了上面所说的三元函数后，我们需要做的是如何将复杂函数具体化。即对于给定的N，I,A如何导出T（N，I）的数学表达式，从而给出计算T（N，I）的法则。此处会用到高等数学的知识。

求T（N，I），算法在一台抽象的计算机上运行所需的时间。

解：设此抽象的计算机的元运算有k种，分别记为O1，O2，，，Ok。每执行一次这些元运算所需时间分别为t1,t2,,,tk。要知道的是这些t为常数，元运算也就是类似加减乘除等的运算。

对于给定的算法A，经统计，用到元运算Oi的次数为ei（i为下标），对于每个i（1<=i<=k）,ei是N和I的函数，即ei=ei（N，I）。

所以，T（N，I）= $\sum_{i=1}^{k}tiei$ （其中ei=ei（N，I））。