【算法】(1)算法复杂度

【算法】(1)算法复杂度

一、算法复杂度

算法复杂度是指算法在编写成可执行程序后,运行时所需要的资源,资源包括时间资源和内存资源。应用于数学和计算机导论。

程序运行时需要占用的时间(运行时间)和空间(占用的存储空间)

1.简介

同一问题可用不同算法解决,而一个算法的质量优劣将影响到算法乃至程序的效率。算法分析的目的在于选择合适算法和改进算法。

一个算法的评价主要从时间复杂度和空间复杂度来考虑。

在现实生活中,我们总希望有更好的方法去解决某一个问题。我们在编写程序时也是如此,一个问题可用不同算法去解决,但是占用的资源(时间和空间)不同,所以需要考虑一个算法的优劣。

一个算法的评价主要从 时间复杂度空间复杂度 来进行考虑。

算法复杂度分为时间复杂度和空间复杂度。
其作用: 时间复杂度是指执行算法所需要的计算工作量;而空间复杂度是指执行这个算法所需要的内存空间。

时间复杂度:算法程序运行需要的时间。你可不想你写的一个简单程序跑一年都跑不完吧。

空间复杂度:算法程序运行占用的空间。你可不想你的程序把内存资源都占用完吧。

二、时间复杂度

1 时间频度

一个算法执行所耗费的时间,从理论上是不能算出来的,必须上机运行测试才能知道。但我们不可能也没有必要对每个算法都上机测试,只需知道哪个算法花费的时间多,哪个算法花费的时间少就可以了。

并且一个算法花费的时间与算法中语句的执行次数成正比例,哪个算法中语句执行次数多,它花费时间就多。

一个算法中的语句执行次数称为语句频度或时间频度。记为T(n)。

我们没必要知道某个算法花费多少时间,我只关注多个算法中哪一个算法花费的时间少就可以了。

一个算法花费的时间和算法中语句的执行次数成正比例。也就是说,某个算法语句执行次数多,那他花费的时间也越多。反之同理。

一个算法的语句执行次数称为 语句频度时间频度。记作 T(n) ,T是Time的首字母。

2 时间复杂度

在刚才提到的时间频度中,n称为问题的规模,当n不断变化时,时间频度T(n)也会不断变化。但有时我们想知道它变化时呈现什么规律。为此,我们引入时间复杂度概念。

一般情况下,算法中基本操作重复执行的次数是问题规模n的某个函数,用T(n)表示,若有某个辅助函数f(n),存在一个正常数c使得fn*c>=T(n)恒成立。记作T(n)=O(f(n)),称O(f(n)) 为算法的渐进时间复杂度,简称时间复杂度。

在各种不同算法中,若算法中语句执行次数为一个常数,则时间复杂度为O(1),另外,在时间频度不相同时,时间复杂度有可能相同,如T(n)=n2+3n+4 与 T(n)=4n2+2n+1它们的频度不同,但时间复杂度相同,都为O(n2)。

我们知道了当问题规模n不断变化时,时间频度T(n)会不断变化。但是有时候我们想知道n变化时T(n)会呈现出什么规律,为此引入了 时间复杂度 概念。

问题规模n变化时T(n)呈现的规律,记作T(n)=O(f(n)),称O(f(n))。也称为算法的渐进时间复杂度,简称时间复杂度。

打比方,仅仅是为了理解:

  • 比方1:在一个算法中执行语句只会执行3次(是一个常数)。
    此时算法中语句执行的次数为一个常数,则该算法时间复杂度为O(1)。这边的1代表常数。

  • 比方2:在一个算法中,假设问题输入大小为n。随着n的不断增大,当n趋于无穷大时,得到该算法的时间复杂度O(n)。

  • 比方3:T(n) = n2+3n+4 和 T(n) = 4n2+2n+1,他们的时间频度可能不同,但是算法时间复杂度相同。
    去除比n2小的,得到时间复杂度O(n2)。

1.常见的时间复杂度
  • 按数量级递增排列,时间复杂度不断增大,算法的执行效率越低。
    O(1 ) < O(logn) < O(n) < O(n*logn) < O(n2) < O(n3) < O(2n) < O(n!) < O(nn)
2.代码举例

时间复杂度为O(1)算法举例:

    public void function(int n) {
        System.out.println(1);
        System.out.println(1);
        System.out.println(1);
    }

时间复杂度为O(n)算法举例:

    public void function(int n) {
        for (int i = 0; i < n; i++) {
            System.out.println(1);
        }
    }

时间复杂度为O(n2)算法举例:

    public static void function(int n) {
        for (int i = 0; i < n; i++) {
            for (int j = 0; j < n; j++) {
                System.out.println(1);
            }
        }
    }

三、空间复杂度

与时间复杂度类似,空间复杂度是指算法在计算机内执行时所需存储空间的度量。
记作:S(n)=O(f(n))

算法执行期间所需要的存储空间包括3个部分:

  • 算法程序所占的空间;
  • 输入的初始数据所占的存储空间;
  • 算法执行过程中所需要的额外空间。

与时间复杂度类似,空间复杂度是指执行这个算法所需要的内存空间。

空间复杂度是指算法在计算机内执行时所需(临时占用所需)存储空间(占用大小)的度量。
记作S(n) = O(f(n)),S为Space的缩写。

通常来说,只要算法不涉及到动态分配的空间以及递归、栈所需的空间,空间复杂度通常为0(1)。

算法的空间复杂度并不是计算时实际占用的空间,而是计算整个算法的辅助空间单元的个数,与问题的规模没有关系。


四、总结(时间空间复杂度)

对于一个算法,时间复杂度和空间复杂度往往是相互影响的。当追求一个较好的时间复杂度时,可能会使空间复杂度的性能变差,即可能导致占用较多的存储空间;反之,当追求一个较好的空间复杂度时,可能会使时间复杂度的性能变差,即可能导致占用较长的运行时间。

另外,算法的所有性能之间都存在着或多或少的相互影响。因此,当设计一个算法(特别是大型算法)时,要综合考虑算法的各项性能,算法的使用频率,算法处理的数据量的大小,算法描述语言的特性,算法运行的机器系统环境等各方面因素,才能够设计出比较好的算法。算法的时间复杂度和空间复杂度合称为算法的复杂度。

一个算法中的时间复杂度和空间复杂度往往时相互影响的。

有时候我们需要用时间换空间,有需要用空间换时间。


最后

再分享一个 算法复杂度速查表

算法复杂度速查表翻译地址:https://liam.page/2016/06/20/big-O-cheat-sheet/

算法复杂度速查表原文地址:https://www.bigocheatsheet.com/

顺手再分享一个blog。

O(1), O(n), O(logn), O(nlogn) 的区别:https://www.jianshu.com/p/769c21deb791


参考

算法复杂度:https://baike.baidu.com/item/%E7%AE%97%E6%B3%95%E5%A4%8D%E6%9D%82%E5%BA%A6/210801
时间复杂性:https://baike.baidu.com/item/%E6%97%B6%E9%97%B4%E5%A4%8D%E6%9D%82%E6%80%A7/5930669