算法现实性

A. 1. 算法的计算量的大小称为计算的什么

B.复杂性
所谓算法的计算量大小就是这个算法的时间复杂度

B. 算法具有什么特征

一个算法应该具有以下五个重要的特征：

1，有穷性（Finiteness）：算法的有穷性是指算法必须能在执行有限个步骤之后终止；

2，确切性(Definiteness)：算法的每一步骤必须有确切的定义；

3，输入项(Input)：一个算法有0个或多个输入，以刻画运算对象的初始情况，所谓0个输入是指算法本身定出了初始条件；

4，输出项(Output)：一个算法有一个或多个输出，以反映对输入数据加工后的结果。没有输出的算法是毫无意义的；

5，可行性(Effectiveness)：算法中执行的任何计算步骤都是可以被分解为基本的可执行的操作步，即每个计算步都可以在有限时间内完成（也称之为有效性）。

(2)算法现实性扩展阅读：

算法要素：

一，数据对象的运算和操作：计算机可以执行的基本操作是以指令的形式描述的。一个计算机系统能执行的所有指令的集合，成为该计算机系统的指令系统。一个计算机的基本运算和操作有如下四类：

1，算术运算：加减乘除等运算

2，逻辑运算：或、且、非等运算

3，关系运算：大于、小于、等于、不等于等运算

4，数据传输：输入、输出、赋值等运算

二，算法的控制结构：一个算法的功能结构不仅取决于所选用的操作，而且还与各操作之间的执行顺序有关。

C. A*算法现实应用的实际意义

A*算法在人工智能中是一种典型的启发式搜索算法，为了说清楚A*算法，我看还是先说说何谓启发式算法。

一、何谓启发式搜索算法

在说它之前先提提状态空间搜索。状态空间搜索，如果按专业点的说法就是将问题求解过程表现为从初始状态到目标状态寻找这个路径的过程。通俗点说，就是在解一个问题时，找到一条解题的过程可以从求解的开始到问题的结果（好象并不通俗哦）。由于求解问题的过程中分枝有很多，主要是求解过程中求解条件的不确定性，不完备性造成的，使得求解的路径很多这就构成了一个图，我们说这个图就是状态空间。问题的求解实际上就是在这个图中找到一条路径可以从开始到结果。这个寻找的过程就是状态空间搜索。

常用的状态空间搜索有深度优先和广度优先。广度优先是从初始状态一层一层向下找，直到找到目标为止。深度优先是按照一定的顺序前查找完一个分支，再查找另一个分支，以至找到目标为止。这两种算法在数据结构书中都有描述，可以参看这些书得到更详细的解释。

前面说的广度和深度优先搜索有一个很大的缺陷就是他们都是在一个给定的状态空间中穷举。这在状态空间不大的情况下是很合适的算法，可是当状态空间十分大，且不预测的情况下就不可取了。他的效率实在太低，甚至不可完成。在这里就要用到启发式搜索了。

启发式搜索就是在状态空间中的搜索对每一个搜索的位置进行评估，得到最好的位置，再从这个位置进行搜索直到目标。这样可以省略大量无畏的搜索路径，提到了效率。在启发式搜索中，对位置的估价是十分重要的。采用了不同的估价可以有不同的效果。我们先看看估价是如何表示的。

启发中的估价是用估价函数表示的，如：

f(n) = g(n) + h(n)

其中f(n)是节点n的估价函数，g(n)实在状态空间中从初始节点到n节点的实际代价，h(n)是从n到目标节点最佳路径的估计代价。在这里主要是h(n)体现了搜索的启发信息，因为g(n)是已知的。如果说详细点，g(n)代表了搜索的广度的优先趋势。但是当h(n)>>g(n)时，可以省略g(n),而提高效率。这些就深了，不懂也不影响啦！我们继续看看何谓A*算法。

二、初识A*算法

启发式搜索其实有很多的算法，比如：局部择优搜索法、最好优先搜索法等等。当然A*也是。这些算法都使用了启发函数，但在具体的选取最佳搜索节点时的策略不同。象局部择优搜索法，就是在搜索的过程中选取“最佳节点”后舍弃其他的兄弟节点，父亲节点，而一直得搜索下去。这种搜索的结果很明显，由于舍弃了其他的节点，可能也把最好的节点都舍弃了，因为求解的最佳节点只是在该阶段的最佳并不一定是全局的最佳。最好优先就聪明多了，他在搜索时，便没有舍弃节点（除非该节点是死节点），在每一步的估价中都把当前的节点和以前的节点的估价值比较得到一个“最佳的节点”。这样可以有效的防止“最佳节点”的丢失。那么A*算法又是一种什么样的算法呢？其实A*算法也是一种最好优先的算法。只不过要加上一些约束条件罢了。由于在一些问题求解时，我们希望能够求解出状态空间搜索的最短路径，也就是用最快的方法求解问题，A*就是干这种事情的！我们先下个定义，如果一个估价函数可以找出最短的路径，我们称之为可采纳性。A*算法是一个可采纳的最好优先算法。A*算法的估价函数可表示为：

f'(n) = g'(n) + h'(n)

这里，f'(n)是估价函数，g'(n)是起点到终点的最短路径值，h'(n)是n到目标的最断路经的启发值。由于这个f'(n)其实是无法预先知道的，所以我们用前面的估价函数f(n)做近似。g(n)代替g'(n)，但g(n)>=g'(n)才可（大多数情况下都是满足的，可以不用考虑），h(n)代替h'(n)，但h(n)<=h'(n)才可（这一点特别的重要）。可以证明应用这样的估价函数是可以找到最短路径的，也就是可采纳的。我们说应用这种估价函数的最好优先算法就是A*算法。哈！你懂了吗？肯定没懂！接着看！

举一个例子，其实广度优先算法就是A*算法的特例。其中g(n)是节点所在的层数，h(n)=0，这种h(n)肯定小于h'(n)，所以由前述可知广度优先算法是一种可采纳的。实际也是。当然它是一种最臭的A*算法。

再说一个问题，就是有关h(n)启发函数的信息性。h(n)的信息性通俗点说其实就是在估计一个节点的值时的约束条件，如果信息越多或约束条件越多则排除的节点就越多，估价函数越好或说这个算法越好。这就是为什么广度优先算法的那么臭的原因了，谁叫它的h(n)=0，一点启发信息都没有。但在游戏开发中由于实时性的问题，h(n)的信息越多，它的计算量就越大，耗费的时间就越多。就应该适当的减小h(n)的信息，即减小约束条件。但算法的准确性就差了，这里就有一个平衡的问题。

D. 什么是算法

算法（Algorithm）是指解题方案的准确而完整的描述，是一系列解决问题的清晰指令，算法代表着用系统的方法描述解决问题的策略机制。也就是说，能够对一定规范的输入，在有限时间内获得所要求的输出。如果一个算法有缺陷，或不适合于某个问题，执行这个算法将不会解决这个问题。不同的算法可能用不同的时间、空间或效率来完成同样的任务。一个算法的优劣可以用空间复杂度与时间复杂度来衡量。
算法中的指令描述的是一个计算，当其运行时能从一个初始状态和（可能为空的）初始输入开始，经过一系列有限而清晰定义的状态，最终产生输出并停止于一个终态。一个状态到另一个状态的转移不一定是确定的。随机化算法在内的一些算法，包含了一些随机输入。
形式化算法的概念部分源自尝试解决希尔伯特提出的判定问题，并在其后尝试定义有效计算性或者有效方法中成形。这些尝试包括库尔特·哥德尔、Jacques Herbrand和斯蒂芬·科尔·克莱尼分别于1930年、1934年和1935年提出的递归函数，阿隆佐·邱奇于1936年提出的λ演算，1936年Emil Leon Post的Formulation 1和艾伦·图灵1937年提出的图灵机。即使在当前，依然常有直觉想法难以定义为形式化算法的情况。

E. 数据结构与算法在计算机领域或行业之中到底占据着什么样的重要地位

算法是程序的灵魂，架构是灵魂的躯体，最近对这两句话感触很深，但很多程序员甚至忽略算法存在，更不要说是架构层面的东西，有些程序员甚至有些疑问，做编程也有几年了碰到关于算法的东西实在是很少。

在学习算法之前首先要掌握数据结构，因为数据结构里面很多基础，像队列，栈，链表，二叉树这些都是算法基础，因为再复杂的算法也是基础的东西组合起来的，复杂的算法涉及到数学知识了，所以专业的算法工程师需要具备良好的数学底子。但数据结构更多是用在功能模块里面编程模型的设计上，有些程序员在设计模块功能的时候。

F. 数据挖掘算法与生活中的应用案例

数据挖掘算法与生活中的应用案例

如何分辨出垃圾邮件”、“如何判断一笔交易是否属于欺诈”、“如何判断红酒的品质和档次”、“扫描王是如何做到文字识别的”、“如何判断佚名的着作是否出自某位名家之手”、“如何判断一个细胞是否属于肿瘤细胞”等等，这些问题似乎都很专业，都不太好回答。但是，如果了解一点点数据挖掘的知识，你，或许会有柳暗花明的感觉。
本文，主要想简单介绍下数据挖掘中的算法，以及它包含的类型。然后，通过现实中触手可及的、活生生的案例，去诠释它的真实存在。 一般来说，数据挖掘的算法包含四种类型，即分类、预测、聚类、关联。前两种属于有监督学习，后两种属于无监督学习，属于描述性的模式识别和发现。
有监督学习有监督的学习，即存在目标变量，需要探索特征变量和目标变量之间的关系，在目标变量的监督下学习和优化算法。例如，信用评分模型就是典型的有监督学习，目标变量为“是否违约”。算法的目的在于研究特征变量（人口统计、资产属性等）和目标变量之间的关系。
分类算法分类算法和预测算法的最大区别在于，前者的目标变量是分类离散型（例如，是否逾期、是否肿瘤细胞、是否垃圾邮件等），后者的目标变量是连续型。一般而言，具体的分类算法包括，逻辑回归、决策树、KNN、贝叶斯判别、SVM、随机森林、神经网络等。
预测算法预测类算法，其目标变量一般是连续型变量。常见的算法，包括线性回归、回归树、神经网络、SVM等。
无监督学习无监督学习，即不存在目标变量，基于数据本身，去识别变量之间内在的模式和特征。例如关联分析，通过数据发现项目A和项目B之间的关联性。例如聚类分析，通过距离，将所有样本划分为几个稳定可区分的群体。这些都是在没有目标变量监督下的模式识别和分析。
聚类分析聚类的目的就是实现对样本的细分，使得同组内的样本特征较为相似，不同组的样本特征差异较大。常见的聚类算法包括kmeans、系谱聚类、密度聚类等。
关联分析关联分析的目的在于，找出项目（item）之间内在的联系。常常是指购物篮分析，即消费者常常会同时购买哪些产品（例如游泳裤、防晒霜），从而有助于商家的捆绑销售。
基于数据挖掘的案例和应用上文所提到的四种算法类型（分类、预测、聚类、关联），是比较传统和常见的。还有其他一些比较有趣的算法分类和应用场景，例如协同过滤、异常值分析、社会网络、文本分析等。下面，想针对不同的算法类型，具体的介绍下数据挖掘在日常生活中真实的存在。下面是能想到的、几个比较有趣的、和生活紧密关联的例子。
基于分类模型的案例这里面主要想介绍两个案例，一个是垃圾邮件的分类和判断，另外一个是在生物医药领域的应用，即肿瘤细胞的判断和分辨。
垃圾邮件的判别邮箱系统如何分辨一封Email是否属于垃圾邮件？这应该属于文本挖掘的范畴，通常会采用朴素贝叶斯的方法进行判别。它的主要原理是，根据邮件正文中的单词，是否经常出现在垃圾邮件中，进行判断。例如，如果一份邮件的正文中包含“报销”、“发票”、“促销”等词汇时，该邮件被判定为垃圾邮件的概率将会比较大。
一般来说，判断邮件是否属于垃圾邮件，应该包含以下几个步骤。
第一，把邮件正文拆解成单词组合，假设某篇邮件包含100个单词。
第二，根据贝叶斯条件概率，计算一封已经出现了这100个单词的邮件，属于垃圾邮件的概率和正常邮件的概率。如果结果表明，属于垃圾邮件的概率大于正常邮件的概率。那么该邮件就会被划为垃圾邮件。
医学上的肿瘤判断如何判断细胞是否属于肿瘤细胞呢？肿瘤细胞和普通细胞，有差别。但是，需要非常有经验的医生，通过病理切片才能判断。如果通过机器学习的方式，使得系统自动识别出肿瘤细胞。此时的效率，将会得到飞速的提升。并且，通过主观（医生）+客观（模型）的方式识别肿瘤细胞，结果交叉验证，结论可能更加靠谱。
如何操作？通过分类模型识别。简言之，包含两个步骤。首先，通过一系列指标刻画细胞特征，例如细胞的半径、质地、周长、面积、光滑度、对称性、凹凸性等等，构成细胞特征的数据。其次，在细胞特征宽表的基础上，通过搭建分类模型进行肿瘤细胞的判断。
基于预测模型的案例这里面主要想介绍两个案例。即通过化学特性判断和预测红酒的品质。另外一个是，通过搜索引擎来预测和判断股价的波动和趋势。
红酒品质的判断如何评鉴红酒？有经验的人会说，红酒最重要的是口感。而口感的好坏，受很多因素的影响，例如年份、产地、气候、酿造的工艺等等。但是，统计学家并没有时间去品尝各种各样的红酒，他们觉得通过一些化学属性特征就能够很好地判断红酒的品质了。并且，现在很多酿酒企业其实也都这么干了，通过监测红酒中化学成分的含量，从而控制红酒的品质和口感。
那么，如何判断鉴红酒的品质呢？
第一步，收集很多红酒样本，整理检测他们的化学特性，例如酸性、含糖量、氯化物含量、硫含量、酒精度、PH值、密度等等。
第二步，通过分类回归树模型进行预测和判断红酒的品质和等级。
搜索引擎的搜索量和股价波动一只南美洲热带雨林中的蝴蝶，偶尔扇动了几下翅膀，可以在两周以后，引起美国德克萨斯州的一场龙卷风。你在互联网上的搜索是否会影响公司股价的波动？
很早之前，就已经有文献证明，互联网关键词的搜索量（例如流感）会比疾控中心提前1到2周预测出某地区流感的爆发。
同样，现在也有些学者发现了这样一种现象，即公司在互联网中搜索量的变化，会显着影响公司股价的波动和趋势，即所谓的投资者注意力理论。该理论认为，公司在搜索引擎中的搜索量，代表了该股票被投资者关注的程度。因此，当一只股票的搜索频数增加时，说明投资者对该股票的关注度提升，从而使得该股票更容易被个人投资者购买，进一步地导致股票价格上升，带来正向的股票收益。这是已经得到无数论文验证了的。
基于关联分析的案例：沃尔玛的啤酒尿布啤酒尿布是一个非常非常古老陈旧的故事。故事是这样的，沃尔玛发现一个非常有趣的现象，即把尿布与啤酒这两种风马牛不相及的商品摆在一起，能够大幅增加两者的销量。原因在于，美国的妇女通常在家照顾孩子，所以，她们常常会嘱咐丈夫在下班回家的路上为孩子买尿布，而丈夫在买尿布的同时又会顺手购买自己爱喝的啤酒。沃尔玛从数据中发现了这种关联性，因此，将这两种商品并置，从而大大提高了关联销售。
啤酒尿布主要讲的是产品之间的关联性，如果大量的数据表明，消费者购买A商品的同时，也会顺带着购买B产品。那么A和B之间存在关联性。在超市中，常常会看到两个商品的捆绑销售，很有可能就是关联分析的结果。
基于聚类分析的案例：零售客户细分对客户的细分，还是比较常见的。细分的功能，在于能够有效的划分出客户群体，使得群体内部成员具有相似性，但是群体之间存在差异性。其目的在于识别不同的客户群体，然后针对不同的客户群体，精准地进行产品设计和推送，从而节约营销成本，提高营销效率。
例如，针对商业银行中的零售客户进行细分，基于零售客户的特征变量（人口特征、资产特征、负债特征、结算特征），计算客户之间的距离。然后，按照距离的远近，把相似的客户聚集为一类，从而有效的细分客户。将全体客户划分为诸如，理财偏好者、基金偏好者、活期偏好者、国债偏好者、风险均衡者、渠道偏好者等。
基于异常值分析的案例：支付中的交易欺诈侦测采用支付宝支付时，或者刷信用卡支付时，系统会实时判断这笔刷卡行为是否属于盗刷。通过判断刷卡的时间、地点、商户名称、金额、频率等要素进行判断。这里面基本的原理就是寻找异常值。如果您的刷卡被判定为异常，这笔交易可能会被终止。
异常值的判断，应该是基于一个欺诈规则库的。可能包含两类规则，即事件类规则和模型类规则。第一，事件类规则，例如刷卡的时间是否异常（凌晨刷卡）、刷卡的地点是否异常（非经常所在地刷卡）、刷卡的商户是否异常（被列入黑名单的套现商户）、刷卡金额是否异常（是否偏离正常均值的三倍标准差）、刷卡频次是否异常（高频密集刷卡）。第二，模型类规则，则是通过算法判定交易是否属于欺诈。一般通过支付数据、卖家数据、结算数据，构建模型进行分类问题的判断。
基于协同过滤的案例：电商猜你喜欢和推荐引擎电商中的猜你喜欢，应该是大家最为熟悉的。在京东商城或者亚马逊购物，总会有“猜你喜欢”、“根据您的浏览历史记录精心为您推荐”、“购买此商品的顾客同时也购买了商品”、“浏览了该商品的顾客最终购买了商品”，这些都是推荐引擎运算的结果。
这里面，确实很喜欢亚马逊的推荐，通过“购买该商品的人同时购买了**商品”，常常会发现一些质量比较高、较为受认可的书。一般来说，电商的“猜你喜欢”（即推荐引擎）都是在协同过滤算法（Collaborative Filter）的基础上，搭建一套符合自身特点的规则库。即该算法会同时考虑其他顾客的选择和行为，在此基础上搭建产品相似性矩阵和用户相似性矩阵。基于此，找出最相似的顾客或最关联的产品，从而完成产品的推荐。
基于社会网络分析的案例：电信中的种子客户种子客户和社会网络，最早出现在电信领域的研究。即，通过人们的通话记录，就可以勾勒出人们的关系网络。电信领域的网络，一般会分析客户的影响力和客户流失、产品扩散的关系。
基于通话记录，可以构建客户影响力指标体系。采用的指标，大概包括如下，一度人脉、二度人脉、三度人脉、平均通话频次、平均通话量等。基于社会影响力，分析的结果表明，高影响力客户的流失会导致关联客户的流失。其次，在产品的扩散上，选择高影响力客户作为传播的起点，很容易推动新套餐的扩散和渗透。
此外，社会网络在银行（担保网络）、保险（团伙欺诈）、互联网（社交互动）中也都有很多的应用和案例。
基于文本分析的案例这里面主要想介绍两个案例。一个是类似“扫描王”的APP，直接把纸质文档扫描成电子文档。相信很多人都用过，这里准备简单介绍下原理。另外一个是，江湖上总是传言红楼梦的前八十回和后四十回，好像并非都是出自曹雪芹之手，这里面准备从统计的角度聊聊。
字符识别：扫描王APP手机拍照时会自动识别人脸，还有一些APP，例如扫描王，可以扫描书本，然后把扫描的内容自动转化为word。这些属于图像识别和字符识别（Optical Character Recognition）。图像识别比较复杂，字符识别理解起来比较容易些。
查找了一些资料，字符识别的大概原理如下，以字符S为例。
第一，把字符图像缩小到标准像素尺寸，例如12*16。注意，图像是由像素构成，字符图像主要包括黑、白两种像素。
第二，提取字符的特征向量。如何提取字符的特征，采用二维直方图投影。就是把字符（12*16的像素图）往水平方向和垂直方向上投影。水平方向有12个维度，垂直方向有16个维度。这样分别计算水平方向上各个像素行中黑色像素的累计数量、垂直方向各个像素列上的黑色像素的累计数量。从而得到水平方向12个维度的特征向量取值，垂直方向上16个维度的特征向量取值。这样就构成了包含28个维度的字符特征向量。
第三，基于前面的字符特征向量，通过神经网络学习，从而识别字符和有效分类。
文学着作与统计：红楼梦归属这是非常着名的一个争论，悬而未决。对于红楼梦的作者，通常认为前80回合是曹雪芹所着，后四十回合为高鹗所写。其实主要问题，就是想确定，前80回合和后40回合是否在遣词造句方面存在显着差异。
这事让一群统计学家比较兴奋了。有些学者通过统计名词、动词、形容词、副词、虚词出现的频次，以及不同词性之间的相关系做判断。有些学者通过虚词（例如之、其、或、亦、了、的、不、把、别、好），判断前后文风的差异。有些学者通过场景（花卉、树木、饮食、医药与诗词）频次的差异，来做统计判断。总而言之，主要通过一些指标量化，然后比较指标之间是否存在显着差异，借此进行写作风格的判断。

以上是小编为大家分享的关于数据挖掘算法与生活中的应用案例的相关内容，更多信息可以关注环球青藤分享更多干货

G. 算法在实际生活中的应用

求解问题类的、机械的、统一的方法，它由有限多个步骤组成，对于问题类中的每个给定的具体问题，机械地执行这些步骤就可以得到问题的解答。算法的这种特性，使得计算不仅可以由人，而且可以由计算机来完成。用计算机解决问题的过程可以分成三个阶段：分析问题、设计算法和实现算法。
中国古代的筹算口决与珠算口决及其执行规则就是算法的雏形,这里,所解决的问题类是算术运算。古希腊数学家欧几里得在公元前3世纪就提出了一个算法,来寻求两个正整数的最大公约数，这就是有名的欧几里得算法,亦称辗转相除法。中国早已有“算术“、“算法”等词汇，但是它们的含义是指当时的全部数学知识和计算技能,与现代算法的含义不尽相同。英文algorithm(算法)一词也经历了一个演变过程，最初的拼法为algorism或algoritmi,原意为用阿拉伯数字进行计算的过程。这个词源于公元 9世纪波斯数字家阿尔·花拉子米的名字的最后一部分。
在古代，计算通常是指数值计算。现代计算已经远远地突破了数值计算的范围,包括大量的非数值计算,例如检索、表格处理、判断、决策、形式逻辑演绎等。
在20世纪以前，人们普遍地认为，所有的问题类都是有算法的。20世纪初，数字家们发现有的问题类是不存在算法的,遂开始进行能行性研究。在这一研究中,现代算法的概念逐步明确起来。30年代，数字家们提出了递归函数、图灵机等计算模型，并提出了丘奇－图灵论题（见可计算性理论），这才有可能把算法概念形式化。按照丘奇-图灵论题,任意一个算法都可以用一个图灵机来实现，反之，任意一个图灵机都表示一个算法。
按照上述理解，算法是由有限多个步骤组成的，它有下述两个基本特征：每个步骤都明确地规定要执行何种操作；每个步骤都可以被人或机器在有限的时间内完成。人们对于算法还有另一种不同的理解，它要求算法除了上述两个基本特征外,还要具有第三个基本特征:虽然有些步骤可能被反复执行多次，但是在执行有限多次之后，就一定能够得到问题的解答。也就是说，一个处处停机（即对任意输入都停机）的图灵机才表示一个算法，而每个算法都可以被一个处处停机的图灵机来实现
算法分类
算法可大致分为基本算法、数据结构的算法、数论与代数算法、计算几何的算法、图论的算法、动态规划以及数值分析、加密算法、排序算法、检索算法、随机化算法、并行算法。
算法可以宏泛的分为三类：
有限的，确定性算法 这类算法在有限的一段时间内终止。他们可能要花很长时间来执行指定的任务，但仍将在一定的时间内终止。这类算法得出的结果常取决于输入值。
有限的，非确定算法 这类算法在有限的时间内终止。然而，对于一个（或一些）给定的数值，算法的结果并不是唯一的或确定的。
无限的算法 是那些由于没有定义终止定义条件，或定义的条件无法由输入的数据满足而不终止运行的算法。通常，无限算法的产生是由于未能确定的定义终止条件。算法特征一个算法应该具有以下五个方面的重要特征：1、输入。一个算法有零个或多个输入，以刻画运算对象的初始情况。例如，在欧几里得算法中，有两个输入，即m和n。2、确定性。算法的每一个步骤必须要确切地定义。即算法中所有有待执行的动作必须严格而不含混地进行规定，不能有歧义性。例如，欧几里得算法中，步骤1中明确规定“以m除以n，而不能有类似以m除n以或n除以m这类有两种可能做法的规定。3、有穷性，一个算法在执行有穷步滞后必须结束。也就是说，一个算法，它所包含的计算步骤是有限的。例如，在欧几里得算法中，m和n均为正整数，在步骤1之后，r必小于n，若r不等于0，下一次进行步骤1时，n的值已经减小，而正整数的递降序列最后必然要终止。因此，无论给定m和n的原始值有多大，步骤1的执行都是有穷次。4、输出。算法有一个或多个的输出，即与输入有某个特定关系的量，简单地说就是算法的最终结果。例如，在欧几里得算法中只有一个输出，即步骤2中的n。5、能行性。算法中有待执行的运算和操作必须是相当基本的，换言之，他们都是能够精确地进行的，算法执行者甚至不需要掌握算法的含义即可根据该算法的每一步骤要求进行操作，并最终得出正确的结果。算法的描述1、用自然语言描述算法前面关于欧几里得算法以及算法实例的描述，使用的都是自然语言。自然语言是人们日常所用的语言，如汉语、英语、德语等。使用这些语言不用专门训练，所描述的算法也通俗易懂。2、用流程图描述算法在数学课程里，我们学习了用程序框图来描述算法。在程序框图中流程图是描述算法的常用工具由一些图形符号来表示算法。3、用伪代码描述算法伪代码是用介于自然语言和计算机语言之间的文字和符号来描述算法的工具。它不用图形符号，因此，书写方便、格式紧凑，易于理解，便于向计算机程序设计语言过度。

H. 八大经典排序算法原理及实现

该系列文章主要是记录下自己暑假这段时间的学习笔记，暑期也在实习，抽空学了很多，每个方面的知识我都会另起一篇博客去记录，每篇头部主要是另起博客的链接。

冒泡排序算法应该是大家第一个接触的算法，其原理都应该懂，但我还是想以自己的语言来叙述下其步奏：

按照计算时间复杂度的规则，去掉常数、去掉最高项系数，其复杂度为O(N^2)
冒泡排序及其复杂度分析

空间复杂度就是在交换元素时那个临时变量所占的内存

给定一个整数序列{6,1,2,3,4},每完成一次外层循环的结果为：

我们发现第一次外层循环之后就排序成功了，但是还是会继续循环下去，造成了不必要的时间复杂度，怎么优化？

冒泡排序都是相邻元素的比较，当相邻元素相等时并不会交换，因此冒泡排序算法是稳定性算法

插入排序是对冒泡排序的一种改进

插入排序的思想是数组是部分有序的，再将无序的部分插入有序的部分中去,如图：
（图片来自 这里 ）

空间复杂度就是在交换元素时那个临时变量所占的内存

插入排序的优化，有两种方案：

文章后面会给出这两种排序算法

由于插入排序也是相邻元素的比较，遇到相等的相邻元素时不会发生交换，也不会造成相等元素之间的相对位置发生变化

其原理是从未排序的元素中选出最小值(最大值)放在已排序元素的后面

空间复杂度就是在交换元素时那个临时变量所占的内存

选择排序是不稳定的，比如 3 6 3 2 4，第一次外层循环中就会交换第一个元素3和第四个元素2，那么就会导致原序列的两个3的相对位置发生变化

希尔排序算是改良版的插入排序算法，所以也称为希尔插入排序算法

其原理是将序列分割成若干子序列（由相隔某个 增量 的元素组成的），分别进行直接插入排序；接着依次缩小增量继续进行排序，待整个序列基本有序时，再对全体元素进行插入排序，我们知道当序列基本有序时使用直接插入排序的效率很高。
上述描述只是其原理，真正的实现可以按下述步奏来：

希尔排序的效率取决于 增量值gap 的选取，这涉及到数学上尚未解决的难题，但是某些序列中复杂度可以为O(N 1.3)，当然最好肯定是O(N)，最坏是O(N 2)

空间复杂度就是在交换元素时那个临时变量所占的内存

希尔排序并不只是相邻元素的比较，有许多跳跃式的比较，难免会出现相同元素之间的相对位置发生变化，所以希尔排序是不稳定的

理解堆排序，就必须得先知道什么是堆？

二叉树的特点：

当父节点的值总是大于子结点时为 最大堆 ；反之为 最小堆 ，下图就为一个二叉堆

一般用数组来表示堆，下标为 i 的结点的父结点下标为(i-1)/2；其左右子结点分别为 (2 i + 1)、(2 i + 2)

怎么将给定的数组序列按照堆的性质，调整为堆？

这里以建立最小堆为示例，

很明显对于其叶子结点来说，已经是一个合法的子堆，所以做堆调整时，子节点没有必要进行，这里只需从结点为A[4] = 50的结点开始做堆调整，即从（n/2 - 1）位置处向上开始做堆调整：

由于每次重新恢复堆的时间复杂度为O(logN)，共N - 1次重新恢复堆操作，再加上前面建立堆时N / 2次向下调整，每次调整时间复杂度也为O(logN)，二次操作时间相加还是O(N logN)。故堆排序的时间复杂度为O(N * logN)。

空间复杂度就是在交换元素时那个临时变量所占的内存

由于堆排序也是跨越式的交换数据，会导致相同元素之间的相对位置发生变化，则算法不稳定。比如 5 5 5 ,堆化数组后将堆顶元素5与堆尾元素5交换，使得第一个5和第三个5的相对位置发生变化

归并排序是建立在归并操作上的一种有效的排序算法。该算法是采用分治法（Divide and Conquer）的一个非常典型的应用。

快速排序在应该是大家经常看到、听到的算法，但是真正默写出来是有难度的。希望大家看了下面 挖坑填数 方法后，能快速写出、快速排序。

其原理就这么几句话，但是现实起来并不是这么简单，我们采取流行的一种方式 挖坑填数分治法

对于序列： 72 6 57 88 60 42 83 73 48 85

数组变为： 48 6 57 88 60 42 83 73 88 85
再重复上面的步骤，先从后向前找，再从前向后找：

数组变为： 48 6 57 42 60 72 83 73 88 85
可以看出a[5]前面的数字都小于它，a[5]后面的数字都大于它。因此再对a[0…4]和a[6…9]这二个子区间重复上述步骤就可以了

空间复杂度，主要是递归造成的栈空间的使用:

快速排序的优化主要在于基准数的选取

快速排序也是跨越式比较及交换数据，易导致相同元素之间的相对位置发生变化，所以快速排序不稳定

前面也说了二分查找排序是改进的插入排序，不同之处在于，在有序区间查找新元素插入位置时，为了减少比较次数提高效率，采用二分查找算法进行插入位置的确定
具体步骤，设数组为a[0…n]：

二分查找插入位置，因为不是查找相等值，而是基于比较查插入合适的位置，所以必须查到最后一个元素才知道插入位置。
二分查找最坏时间复杂度：当2^X>=n时，查询结束，所以查询的次数就为x，而x等于log2n（以2为底，n的对数）。即O(log2n)
所以，二分查找排序比较次数为：x=log2n
二分查找插入排序耗时的操作有：比较 + 后移赋值。时间复杂度如下：

二分查找排序在交换数据时时进行移动，当遇到有相等值插入时也只会插入其后面，不会影响其相等元素之间的相对位置，所以是稳定的

白话经典算法排序
冒泡排序选择排序
快速排序复杂度分析
优化的插入排序

I. “算法时代”到来，为何算法服务人类并未被实现

一开始算法只是服务于人类的，但随着网络的发达以及智能地推广，人们惊讶的发现自己正在慢慢依赖算法乃至无法失去它。

好像在上世纪90年代当计算机深蓝赢了大师之后，当时就有人提出智能电脑也许终究有一天将主导人类。而它的初衷只是发明出来，帮助人们生活在一个更加便利的环境下，人是主导它，或者说控制它的，它被发明出来也只是服务于人类的，但是随着时间的推移会逐渐发现当它被赋予了的各种算法以及不断更新之后，开始会学习了，它产生的某种意义上的主导性，而这一点可能会将人类摆在一个尴尬的位置，因为人类将无法完全操控它。

久而久之的这种算法让人们变得越来越懒惰了，人们不愿去自主思考，因为智能设备会推送给人类精准的信息，这些信息就是人类所需要的，它们已经自动排除了人类所不感兴趣的无用信息了。

J. 如何用算法解决现实世界里的问题

图灵奖获得者 罗伯特塔扬教授 关键词：图灵奖获得者惠普中国研究院 罗伯特 塔扬（Robert Tarjan）教授是世界知 名计算机学家，他的研究领域主要包括图论、 法和数据结构设计。罗伯特教授是许多图论算法的发明者，比如树中最近共同 祖先离线算法、S laytrees、Fibonacci heaps、平面性检测（Planarity test- ing）等。 1986年，他与约翰浩普考夫特（John Hopcroft）因为在算法及数据结构的设计和分 Prize），现为美国科学院院士、美国计算机学会（ACM）院士、美国普林斯 学教授。2012年4月12日，罗伯特塔扬教授到访中 国。在惠普中国研究院里，罗伯 特塔扬教授与王 敏院长及惠普中国研究院的研究员们齐聚一堂，全 面解释了他对 算法的睿智见解。 老骥伏枥 志在千里 问：您的一生取得了非凡的成就，在您看来， 这些成就是天赋还是机遇？ 罗伯特：我还是先做个自我介绍吧。我在13 岁读初中 的时候，美国掀起了数学教学改革试验的 浪潮，也就是以更加形式化的方式来传授 数学这门 课程。非常不幸的是，新运动失败了。但我恰恰成 为新数学教学改革的 受益者之一，也因此出现了一68 第8卷第5期2012年5月大批我这样的人。我对数学 有很浓的兴趣，如果你 力，以及不断的学习都是非常重要的。谈到计算机们看过我 的资料，会知道我经常读一些科幻小说。 科学，我认为这个领域充满机会。回顾计 算机科学在孩童时期，我的梦想就是成为第一个登上火星的 的历史，已经有75年了。 这个领域让人非常的惊人。我当时非常喜欢读的一本杂志就是《S 为它不断地给我们提供新的机会。今年是阿TIFICAMERICAN（环球科学）》。此 外，当时我 兰麦席森图灵诞辰百年，各地举行了盛大的庆对天文学也非常感兴趣， 这也成为我日后非常重视 典，大家以各种方式来纪念他。图灵是在20世纪30数学学 习的原因。读到高中的时候，我在暑假期间 年代，也就是二战期间，提出了计算机 的概念和想参加了一个研究中心的活动，有机会接触了当时最 法，那时的计算机， 还处于非常简单的阶段。老式的计算机。那时的计算机还是打孔式的，后来 现在的梦想是什么呢？又有机会使用IBM计算机，还接触到了最初的编程罗伯特： 非常感谢你这么问。我有幸来到中语言。可以说我从小就和计算机打交道，当时我 国惠普研究院，看到现在搞计算机科学的人都很年对编程产生了浓厚的兴趣。到了大学本科的时候， 轻。而且我也去过很多创业型的公司，那里的人也我在美国加 州理工大学学习。当时我主修数学，而 都很年轻。计算机科学这个研究领域还很年 轻，不我几乎选修了所有有关计算机科学方面的课程。读 过我已经老了。因此，我 现在唯一的梦想，就是尽博士时，我去了斯坦福大学，选择的专业方向是计 去攻克那些现实的技术课题。我希望在我有算机科学，也正是在那里，我遇见了我的导师高德 生之年，只要在智力上还可以跟得上那些年轻人，纳（Donald Knuth）。 当我本科毕业时，我选择的 我就一直持续工作和研究下去。研究方向其实是人工智 能。但是，那时候的人工智能还处于早期阶段，整个研究领域都处于非常模糊 算法 是计算机领域的管道工的状态。在高德纳教授的指导之下，我最后锁定的研究领域 是计算机算法，主攻数据结构。从那时一 问：1986年，由于您当时取得的成就，您 跟您直到现在，我都坚持了这个研究方向。 的合作者获得了图灵奖。现在看来，这 些成就对人 接下来回答你刚才提出的问题。天赋当然是重 类的生产与生活带来了 哪些改变？要的，但还有一个非常重要的成功元素，那就是你 罗伯特：当时之所以 获得图灵奖，是因为算要在合适的时间，出现在合适的地方。回顾我的一 法以及数 据结构方面的成就。我认为谈到计算机算生，我就是在合适的时机，选择了适合我 的研究方 法和数据结构，它其实相当于计算机领域中“管道向。对于计算机算法而 言，我是把它作为数学对象 工”的角色。正是有了这些算法和数据结构，我们来研 究对待的。从这个角度出发，去开发计算机的 才可以把一些看似不可能找到解决方 案的问题解算法，同时用它解决一些实际问题。我有几位非常 决，而且能够让计算 机的运转速度更快。如果说它好的导师，他们给我提出了一些非常好的课题。还 于人类的生产力、生活带来了怎样的影响，我无有一个成功的元素我认为应该是毅力，以及坚持不 法具体地谈及某一个领域，它遍布于整个计算机行懈的学习和培训， 不管你的天赋有多高，我认为还 业领域。你看，不管是数据库还是电脑系统，基本 需要努力地工作、努力地学习。如果你研究的领域 上都有算法以及数据结构的存在。 谈到这个成就本是和数学相关的，研究过程中失败是不可避免的。 身，我想再补充 一点，它被很好地运用到了目前的你可能会觉得懊恼，甚至会用头撞墙，但是你一 教育体系中，因为很多理论都是现在课堂上的教要坚持下去。如果一个问题总是找不到答案，你 材。学生们可以在课堂上学到这些知识，比如说对以换一个课题去研究，然后过一段时间再来攻克这 于一个课题，如何找到并研发出它的解决方 案，然个难题。不管你多么聪明，多么有天赋，我认为毅 后又把它从一个学术的东 西用到实践当中。我想这 69动态 能帮助学生们学习到一些新的点子和思路。 事情持续做下去的原因。 问：在大多数人眼里，您所从事的这 项工作又 问：刚才谈到人工智能，20世纪不大成熟，但 枯燥又没有乐趣，但是您 总能创造出新的办法或者 是到了21世纪您还有兴趣再继续对人工智能进行研 发现 新的结构。我不知道您的动力是什么？乐趣又 是什么？罗伯特： 我现在 年纪太大了，没有足够的时 罗伯特：在我看来，数学是一件非常美丽的 间再去重 新学习一个新的领域，但我还在持续关 事物。数学可以运用到计算机科学中，而计 算机科 注人工智能这个领域。我有一些惠普的同事，他 学又很好地帮助人们解决 了现实生活的一些问题。 们正在试图找到一些计算数学方面的方法，还有 的名着《计算机程序设计艺术》将程序设计统计学方面的方法，去更好地完善计算 机学习的 称为艺术，算法实际上跟建筑的艺术是一样的，只 能力。我相信随着数 学的进步，随着计算机本身 不过它的这种结构是你看不见的，是存在于人们的 术的进步，人们在人工智能方面真正能够迈出头脑中的，是大脑编成的各种各样的 美丽的建筑。 有意义的一步。再补充一点，我还有一个梦想， 这让我想起了我弟 弟，非常有意思，他曾经是国际 如果有下辈子，我会研究人的意识，人的思想是 棋大师。虽然他最后放弃了这个职业，但是我想怎么产生的。如果能够研究清楚这 个课题的话， 说，可能在我的家族中，数学就是一种DNA，它真 人工智能也就解 决了。事实上我特别想研究人的 的是一件美丽的事物。我喜欢很多数学游戏。儿童 意识、思维到底是怎么产生的。我觉得机器可能 时期，除了对天文学感兴趣之外， 我还喜欢一些棋 帮助人们解决某些问题，但是最根本的问题是， 盘游戏，比如马 加德纳（MartinGardner）的游 意识是怎么产生的。大家对这个问题争议比较 （《环球科学》中的数学游戏专栏），还有一些大。研究这个问题我也是门外汉， 因为我既不是 拼图游戏。 神经学科方面的专家，也不是哲学家。 问：您和您的导 师相识之后，进行了一些共同 寻找课题的方向 的研究。在这个研究过程中，发生 了哪些比较有趣 问：您是如何找到研究课题的方向的？罗伯特：我到斯坦 福大学攻读博士学位的时 罗伯特：我的研究生涯非常长。我的建议是， 候，第一 年就修完了博士学位所需要的全部基本学 你可以尝试去解决那些基础性的问题，而 且是能够 分。通常这些学分需要两年才能赚到。当时我学的 有一些具体应用的问 题。大家可能先有一个具体的 是图形算法，我和我的博士导师高德纳教授交换了 题，然后可以从中看到，或抽象出一个用数学这很多观点。在我第一年学期结束的 夏季，我遇见了 个工具能够解决的问题。所以我对一个课题的研究 后来跟我一起 获奖的约翰教授（康奈尔大学教授， 通常都要花很长时间，有的甚至几年。有时这 当时在斯坦福大学进行学术休假）。所以你看，在究做几年，然后搁一段时 间，之后回头再去研究。 合适的时间，出现在合适的地点是多么的关键，斯 这样， 我们才可以把自己称为一个解决问题的人。 坦福大学的环境确实太棒了。当时我选 通过解决一些基础性的问题，我从多年的科研中总做符号编程语言的 课，我们要试图解决的一个问 结提炼出了一些理论和方法。所以，我积累了很多 如何把一个图形内嵌到一个平面中。这实际上具体的计算机算法技巧，还有分析方 面的一些技 是一个数学问题。让我举一个例子：上面的3个符 巧。在这里我必须说， 和产业界保持联系是非常好 号中，W代表水塔，G代表天然气塔，E就是电塔， 一件事情，因为如果你能够为他们具体的问题找下面是三所房子，我们现在要做的 到方案的话，回报也会很好。这也会是让你把这件气分别都接到 这些房子里，但是你不能让这些线有70 而且更加行之有效的方案。因此，我认为关键 点就是一定要坚持简 效。因为如果你的方法不够简单的话， 大家就不会想去用了。 我的建议就是，千 要害羞，一定要大胆地尝试。科研是没有 边界的，要勇于去打 破常规旧俗， 而且我 想再一次强调，一定 要有毅力，而且要努 力，勤奋地工作。任何交叉。这 就是要解决的数学问题。这是小时候我们无法解决的数学难题，关键是图的可平面 用算法提高业务效率测。电路板布线有时也会遇到这样的问题。在研究过程 中，我参考了很多文献，我发现其 问：您现在在惠普研究院从事哪些领域的研中一 个算法是可以解决这个问题的，就把它用到这 究？有没有一些可以介绍的成果？儿 了。但是，当时那个算法做起来比较慢，解决简 罗伯特：我在惠普担任的高级院士 是研究方面单的问题可以，但是复杂的就不行了。最后我们终 最高的头衔，我不做 任何管理的工作，惠普交给我于想出了一个办法，能够在线性时间内，解决图的 的唯一工作就是算法研究，我可以自由选择我的可平面性检测问题。正是因为这个研究成果，我们 具体研究问题。获得了图灵奖。 目前我们在做的一项工作是，利 用算法提高业 您刚才提到在研究过程中，也遇到过很务流程的效率。现在人 们经常谈到业务流程的自动多挫折，有时候想用自己的头去撞墙。那么在这 我现在就在与惠普负责运营方面的人员合作样一个过程中，您是怎样鼓励自己坚持把这条路 来提高惠普内部的流程效率，降低成本。如果能够走下来的？ 在惠普内 部用好的话，也许可以把它商品化成为一 罗伯特：它总是先苦后甜的。道路越曲折， 个例子，我们正在做的项目叫人力优化。中能学到很多的东西。我经历了很多曲折的过程， 惠普收购了一家叫EDS的服务公司经常会承接很多也研究了各种各样的问 题。尽管计算机科学是一门 项目。对于一个项目来说，需要有各种技能的人，年轻 的科学，有很多人在其中的时间并不长。但我 而每个人又有不同的技能。已存在的 标准算法是：发现计算机科学研究也存在系统性。要解决一个问 每个技能我们可以 用数学的方法给它一个量化，根题，就要找到一个比较容易的方式，但也许这个方 这些量化数字，再做人员和项目的匹配。但是我式是最容易的，却并不是最好的，最简单的。所以 们发现它的效果并不是很好，我们希望能够改善这有时候，对一些 已经解决的问题，我们只要回头， 个算法，能够得到更好的匹配，这样的话，就可 实现人力的优化。时间才找到答案。在一年多的 时间里，研究是断断 我再举一个我和惠普中国研究院的例子。王 续续的，有时会 进入死角，那就搁置一会儿，再回 敏院长以及这里的同事在研究的一个课题是网络。 头研究。还有一些课题，我甚至研究了10年之久。 你们也知道，惠普收购了3COM， 其中的H3C在中 问：我不知道您来的2天时间里，见到的中国 国是一家做得比较大 的网络公司。我们正在一起合 年轻人给你的印象如何？能不能给这些在计算机领 作，关注如何把算法运用于网络技术。 域有天赋的年轻人一些建议，怎样才能成为 像您这 作为惠普的资深科学家，我也会经常去指导各 样大师级的人物？ 地惠普研 究院的技术研究方向；同时我也辅导一些 罗伯特：惠普中国研究院的青年人都很好， 年轻的研究员，担当团队技术领袖的角色。且都很聪明，工作非常努力，我对 他们的印象非常 问：随着IT行业的发展，是否意味着企业的研 好。我对这些年轻 的有天赋的青年人的建议是：一 究工作也要产生变化，未来的研究趋势是怎样的？ 定要找到自己想要研究的课题，不要盲目听从和依 此外在教育方面，您觉得应该如 何培养孩子对数学 照别人的话去做。我跟这些年轻人说：不要总跟着 着迷？ 业务 部门的人做事。事实上，研究员的眼界应该比 罗伯特：作为个人来说，时间是有限 他们放得更广，要看到5年甚至以后更长久的发展可能去研究所有时髦的东 西。我是做基础研究的， 方向。 不管IT界如何发展，摩尔定律仍然在发挥作用： 我觉得，像惠普研究院这样做基础性研究的机算机的速度、芯片的速度，仍然 是每18个月要翻一 构在整个产业界并不多。我们看到的互联网公司， 番；那么存 储也要不断地增加，还有网络通信的力 他们做一些非常先进的编程，做一些产品或 者技术 量也会不断加大。所以你会看到IT的发展趋势和方 的开发工作；但是基础 性研究他们不做。他们觉得 向并没有放缓，而是在加速往前走。但是对于研究 础性研究应该由大学院校去做。所以，我觉得惠来说，计算机本身运转的速度并不 是最重要的，随 普研究院的机制确实很少见。我最后还是回到给他 着移动设备越 来越多，还有更多的发展空间，能开 们的建议上：要找到自己的课题，找准要努 工作发更有趣的应用。想想我那个时代，用的计算机像 的方向。你要愿意和你的 同事和朋友一起工作，有 冰箱那么大，还是打孔式的，所以你就会看到这样 果愿意和别人分享，而且也要和别人去交流，的一种发展的空间。我相信，电脑设 备将很快能够 要保持一种开放的态度！而且要有持久的耐心，设 模拟人工智能。 但是它的底层技术是不变的；所以 立一个长远的目标，要一步一步去实现！感谢你 像我这样做基础研究的人的优势在于，这份工作是花时间聆听，希望我的分享 对你们有用！ 不变的。 普中国研究院院长。主要研究方向们肯定会反抗的。我个人更倾向于把孩子放在充 b内容提取及丰富的选择和丰富信息的环境下，让他们 自己去选 分析、网络与通信。 择。其实你看这个世界上，真正杰出的数学家是非 min.wang6hp.com 常少的，而且世界上并不需要那么多杰出的数学 家。但是这个世 界正在变得越来越技术性；我们确 实需要大量的能够懂数学，能够运用数学做编程的 CCF会员。