基于模型算法

❶ 各种RL算法

在现代RL空间中绘制精确的，无所不包的算法分类法真的很难，因为算法的模块性没有用树结构很好地表示。此外，为了使某些东西适合页面并且在介绍文章链凳中可以合理地消化，我们必须省略相当多的更高级的材料（探索，转移学习，元学习等）。也就是说，我们的目标是：

1. 强调深度RL算法中最基本的设计选择，包括学习内容和学习方法，

2. 揭示这些选择中的权衡，

3. 并针对这些选择将一些突出的现代算法放入上下文中。

RL算法中最重要的分支点之一是 agent是否可以获得（或学习）环境模型的问题 。我们提到的环境模型，我们指的是一种预测状态转换和奖励的函数。

拥有模型的主要好处是， 它允许agent 通过提前思考，查看一系列可能的选择会发生什么，以及明确决定其选项 来进行规划 。然后， agent 可以将结果从提前计划中提取到学习策略中。这种方法的一个特别着名的例子是 AlphaZero 。当这种方法有效时，与没有模型的方法相比，它可以显着提高样本效率。

主要缺点是 agent通常无法获得环境的真实模型。 如果 agent 想要在这种情况下使用模型，它必须纯粹从经验中学习模型，这会产生一些挑战。最大的挑战是模型中的偏差可以被 agent 利用，从而导致 agent 在学习模型方面表现良好，但在真实环境中表现得次优（或非常可怕）。模宏旦型学习从根本上来说很难，所以即使是非常努力——愿意花费大量时间并对其进行计算——也无法获得回报。

使用模型的算法称为 基于模型 的方法，而不使用模型的算法称为 无模型 。虽然无模型方法放弃了使用模型的样本效率带来的潜在增益，但它们往往更容易实现和调整。截至撰写本简介（2018年9月）时，无模型方法比基于模型的方法更受欢迎，并且得到了更广泛的开发和测试。

RL算法中的另一个关键分支点是 要学习什么 的问题 。 通常可能的名单包括

1. 策略，无论是随机的还是确定的，

2. 动作值函数（Q函数），

3. 值函数，

4. 和/或环境模型。

使用无模型RL表示和训练agent有两种主要方法：

Policy Optimization - 策略优化.  此系列中的方法将策略明确表示为 。它们直接通过性能指标 上的梯度上升来优化参数 ，或者通过最大化 的局部近似来间接地优化参数 。此优化几乎总是以 on-policy 的方式运行，这意味着每个更新仅使用根据最新版本的策略执行时收集的数据。

策略优化通常还涉及学习on-policy值函数 的近似值 ，用于确定如何更新策略。策略优化方法的几个例子是：

1.  A2C / A3C ，执行梯度上升以直接最大化性能，

2. 和 PPO ，其更新间接地最大化性能，通过最大化替代 目标函数 ，该函数给出保守估计 将由于更新而改变多少。

Q-Learning.  该系列中的方法学习最优动作值函数 的近似值 。通常，它们使用基于Bellman方程的目标函数。此优化几乎总是以 off-policy 的方式运行，棚绝旅这意味着每次更新都可以使用在训练期间的任何时间点收集的数据，无论agent在获取数据时如何选择探索环境。通过 和 之间的连接获得相应的策略：Q-learning agent所采取的动作由下式给出：

                                                 

Q-learning方法的例子包括

1.  DQN ，一个大规模推出DRL领域的经典之作，

2. 和 C51 ，一种学习回报分布的变体，其期望值为 。

Trade-offs Between Policy Optimization and Q-Learning.

策略优化方法的主要优势在于它们是原则性的，在这种意义上，你可以直接针对你想要的东西进行优化。这往往使它们稳定可靠。

相比之下，Q-learning方法仅通过训练 来满足自洽方程，间接优化agent性能。这种学习有很多失败模式，因此往往不太稳定  [1] 。但是，Q-learning方法的优势在于它们在工作时具有更高的样本效率，因为它们可以比策略优化技术更有效地重用数据。

Interpolating Between Policy Optimization and Q-Learning.

政策优化和Q学习并不矛盾（在某些情况下，事实证明，他们是 等价的 ），并且存在一系列存在于两个极端之间的算法。处在这一范围内的算法能够在任何一方的优势和劣势之间进行谨慎的权衡。 例子包括

1.  DDPG 一种同时学习确定性策略和Q函数的算法，通过使用它们当中每一个来改进另一个，

2. 和 SAC ，一种使用随机策略，熵正则化和一些其他技巧来稳定学习并在标准基准上得分高于DDPG的变体。

[1]  For more information about how and why Q-learning methods can fail, see 1) this classic paper by  Tsitsiklis and van Roy , 2) the (much more recent)  review by Szepesvari  (in section 4.3.2), and 3) chapter 11 of  Sutton and Barto , especially section 11.3 (on “the deadly triad” of function approximation, bootstrapping, and off-policy data, together causing instability in value-learning algorithms).

与无模型RL不同，基于模型的RL不存在少量易于定义的方法集群：使用模型有许多正交方法。我们举几个例子，但这个清单远非详尽无遗。 在每种情况下，可以给出或学习模型。

背景：纯粹的规划.  最基本的方法从未明确地表示策略，而是使用纯 模型 技术（如 模型预测控制 （MPC））来选择操作。在MPC中，每次agent观察环境时，它都会计算一个相对于模型最优的 规划 ，其中 规划 描述了在当前之后的某个固定时间窗口内采取的所有动作。 （ 规划 算法可以通过使用学习值函数来考虑超出视野的未来奖励。）然后，代理执行 规划 的第一个动作，并立即丢弃其余部分。它每次准备与环境交互时计算新 规划 ，以避免使用 规划 范围短于预期的 规划 中的动作。

    MBMF 的工作探讨了MPC与深度RL的一些标准基准任务的学习环境模型。

专家迭代.  纯粹 规划 的直接后续涉及使用和学习策略 的明确表示。agent在模型中使用规划算法（如蒙特卡罗树搜索），通过从当前策略中抽样为该规划生成候选动作。规划算法产生的动作优于单独的策略产生的动作，因此它是相对于策略的“专家”。之后更新策略以生成更类似于规划算法输出的动作。

 该  ExIt 算法使用这种方法来训练深层神经网络玩Hex。

  AlphaZero  是这种方法的另一个例子。

无模型方法的数据增强.  使用无模型RL算法来训练策略或Q函数，但是要么1）在更新agent时增加虚构的实际经验，要么2） 仅 使用虚拟经验来更新agent。

 请参阅 MBVE ，了解增加虚构实际体验的示例。

 请参阅 世界模型 ，了解使用纯粹的虚拟经验训练agent的例子，他们称之为“在梦中训练”。

将规划循环嵌入到策略中。 另一种方法是将规划程序直接嵌入到作为子程序的策略中——以便完整规划成为策略的辅助信息 ——同时使用任何标准的无模型算法训练策略的输出。关键概念是，在此框架中，策略可以学习如何以及何时使用规划。这使得模型偏差不再成为问题，因为如果模型在某些状态下不适合规划，则策略可以简单地学会忽略它。

 有关具有这种想象力的agent的例子，请参阅 I2A 。

[2].  A2C / A3C  (Asynchronous Advantage Actor-Critic): Mnih et al, 2016

[3].  PPO  (Proximal Policy Optimization): Schulman et al, 2017

[4].  TRPO  (Trust Region Policy Optimization): Schulman et al, 2015

[5].  DDPG  (Deep Deterministic Policy Gradient): Lillicrap et al, 2015

[6].  TD3  (Twin Delayed DDPG): Fujimoto et al, 2018

[7].  SAC  (Soft Actor-Critic): Haarnoja et al, 2018

[8].  DQN  (Deep Q-Networks): Mnih et al, 2013

[9].  C51  (Categorical 51-Atom DQN): Bellemare et al, 2017

[10].  QR-DQN  (Quantile Regression DQN): Dabney et al, 2017

[11].  HER  (Hindsight Experience Replay): Andrychowicz et al, 2017

[12].  World Models : Ha and Schmidhuber, 2018

[13].  I2A  (Imagination-Augmented Agents): Weber et al, 2017

[14].  MBMF  (Model-Based RL with Model-Free Fine-Tuning): Nagabandi et al, 2017

[15].  MBVE  (Model-Based Value Expansion): Feinberg et al, 2018

[16].  AlphaZero : Silver et al, 2017

❷ 讨论人口模型与追击问题模型的优缺点与适用场景

优点有:
1、建立的模型能与实际紧密联系，结合实际情况对所提出的问题进行求解，使模型更贴近实际，通用性、推广性较强。
2、基于模型算法新颖，且计算方便。基于模型考虑相对全面，仿真结果合理性较强;基于算子和的评价模型比较精确，得到的因素权重可信度比较高。
3、可视化界面形象逼真，操作简便，便于推广。
4、个模型通过对实型则空验数据的分析不仅使问题得到了一定程度上的解决，而且还能迅速掌握了实验数据的特点为建立更合理的模型提供了参考经验。
5、模型对于数据分布及样本量、指标多少无严格限制，既适于小样本资料，也适于多评价单元、多指标的大系统，较卜瞎为灵活、方便。
6、模型..可操作性强，适用范围广泛，基于可能度模型比较精准，得到的因素权重可信度比较高。模型安排方案具体，在模型的基础上进一步细分，提出了较为精细的方案。模型提出了一个通用指标，可广泛应用于其它领域。
7、模型可靠性高，所采用的研究方法移植性强，但所求得的估计值可能存在一定偏差。模型对函数的构思存在一定的独到之处，弓I入了非线性规划,但是模型检验方式较为复杂。缺点盯茄有：
8、基于的预测模型运算过程比较麻烦，数据多，运算过程庞大，编程以及程序运行耗时比较多。
9、基干模型中的参数确定的(模糊性)决定了其推广的相对难度，需要经过更加专业的处理。
10、制定过程中的随机因素较多，使得模型不能将其准确地反应出来。适用场景于动物种群数量的建模当中。

❸ 波阻抗反演方法

最基本的反演方法可以分为基于道的反演方法和基于模型的方法（姚逢昌等，2000）。基于道的算法是最早研究的波阻抗反演方法，包括基于递归或道积分的算法。这些方法中地震道是唯一的输入，因而计算简单且速度很快，但是其结果局限于地震数据带宽的范围内，因为隐含的子波没有被消除，调谐和子波旁瓣效应没有降低，因而其使用具有很大的局限性。基于模型的波阻抗方法实际上就是以测井资料特别是声阻抗资料（一般从密度及速度测井资料获得）作为约束，以地质模型为基础，通过不断修改模型，使模型正演合成的地震资料与地震数据最佳匹配，所修改的最终模型就是反演结果。常见的基于模型的反算法主要分为下述几种。

（1）地层或块的反演

这种算法假定地层是由波阻抗和时间构成的层块结构，通过褶积模型与地震建立联系。通过限制与地震样点数目相关的层的数目来抵消非唯一性。当地层变得薄于地震分辨率时，反演结果变得不唯一，为了降低这种多解性，通常以初始模型来作为约束。

（2）稀疏脉冲反演

这种算法假设地震反射系数序列是稀疏的，将地震道数据样点进行重新采样而得到少于地震道样点数目的反射系数序列，与块反演相同的是通过褶积模型来与地震相联系，并且也可使用外部模型作为约束并用于恢复高频及低频成分，因此稀疏脉冲反演也是宽带的。

（3）最小平方反演

这种方法也是建立一个初始模型并使反演结果最大限度地逼近初始模型，同样可作地震频谱以外的频率补偿，因而也是宽带的。

（4）地质统计学反演

这是一种全新的方法，该方法首先在地震时间域内建立储层的地质模型，然后建立三维地层网格，利用井和地震数据来确定地质统计学参数，进行地质统计学建模，将生成的可能的波阻抗与地震道进行比较。在地质统计反演中，当产生井间的储层参数的估算值时，模拟算法同时满足井和地震数据。利用井控和地质控制对波阻抗空间分布的影响，地质统计反演提供了一种强有力的从地震频带以外获得信息的方法。

（5）非线性反演

非线性反演方法是近年兴起的实用性较强、效果较好的一种反演方法，在这里作较为详细的介绍。

常用的波阻抗反演方法大多基于模型反演，即首先根据地质和测井等实际信息建立反演的初始模型，然后将模型正演计算得到的地震记录与实际观测得到的地震记录进行比较，用偏差反复修改模型，当偏差很小时，认为当前的模型即为反演结果。模型反演又分为线性反演与非线性反演两种，以模型为基础的反演方法大都基于线性褶积的思想。

由于实际地震记录是带限的，并不可避免地含有噪音，又由于该类方法涉及到诸如地震子波的不确定性、噪音干扰及层位标定不准等问题，在求解反问题中，还不能完全保证反演条件的最优化，使计算得到的波阻抗剖面带有多解性，阻碍了反演的大量使用及对反演结果的正确认识。对非线性反演的研究已经经历了多年，从方法上研究的非线性反演有模拟退火法、遗传算法、人工神经网络法和混沌算法等，这些方法在国内石油地球物理勘探中已经见到了明显的效果，其反演结果大多优于以褶积模型为基础的线性反演方法，具体表现在能进一步提高反演的纵向分辨率，与井的匹配最好，但都有一个共同的缺点，就是运行时间很长，还不能完全大批量处理二维地震资料及三维数据体。

针对线性反演与非线性反演存在的问题，笔者采用改进的约束模拟退火反演方法，在提高反演分辨率的同时又提高了处理效率。

在地震约束反算法中，一般是由已知井给出属性参数的初始值，当由井外推时，将初始值合成地震记录，求其与实际地震信号的差值，然后由此差值计算初始值的修改值，经过反复迭代计算使其差值达到极小，则由最终的修改结果获得相应的属性参数。以上迭代计算属极小值的最优化问题，对此一般采用线性梯度法，而在地震反演中目标函数与模型之间的关系往往是高度非线性的，因而线性算法就很难得到最优解。常规的线性优化法得到的最终结果对初始值依赖很大，当钻井很少或井位偏开一定距离时，初始模型与实际模型相差较大，反演结果往往只能得到局部最优解，导致反演结果不理想。

在川东南地区地震反演中使用了新的模拟退火改进算法能克服上述缺点，获得全局最优解，并且比一般模拟退火算法优化的速度快、效率高，对约束的条件要求不严格，只要给出反演参数的取值范围，即可利用测井和地震资料形成合理的初始模型，这对于钻井资料较少的地震工区是比较合适的，下面简要介绍其方法原理。

设合成记录的理论正演记录为

y=f（m）

实际信号d与理论值f（m）之误差为：

复杂储层识别及预测

设e（m）符合Gauss分布，则期望值为零，设C_e为协方差矩阵，则有如下条件的概率密度函数：

复杂储层识别及预测

上式中，A₁为非负常数，e^T为误差e的转置。将（5.1）式代入得

复杂储层识别及预测

设用先验信息形成的初始模型为m。当采用Gauss分布时，其先验概率密度函数为：

复杂储层识别及预测

上式中，A₂为非负常数，C_m为协方差矩阵，m₀为初始模型。根据Gages公式，已知实际资料d时，m的后验概率密度函数为：

复杂储层识别及预测

式中P（y）与m无关，可取常数，将（5.1）、（5.2）两式代入（5.4）式中，得：

复杂储层识别及预测

在模拟退火中，（5.5）式还有如下定义，即

复杂储层识别及预测

其中A为非负的常数，S（m）为反演误差的目标函数，T为温度参数，由（5.5）（、5.6）式，可得目标函数：

复杂储层识别及预测

在模拟退火中采用使后验概率密度值最大化估计最优化解，这就等于使目标函数S（m）出现极小值，或相当于温度参数T的减小，即不断“降温”或“退火”。在这一过程中对解空间进行随机搜索，从而获得目标函数全局极小所对应的最优解。同时，对突破局部极小加以限制，引入接受函数：

复杂储层识别及预测

式中△S是相邻两次迭代的目标函数增量，令

复杂储层识别及预测

对属性参数的反演处理中，以时间平均方程作为密度、孔隙度、速度与波阻抗的桥梁，由目标函数可得反演的属性参数。

❹ 强化学习分为基于模型和基于无模型的强化学习方法，各解决什么类型的强化学习问题，有具体例子吗

所示是强化学习算法的成功案例。其中的A图为典型的非线性二级摆系统。该系统由一个台车（黑体矩形表示）和两个摆（红色摆杆）组成，可控制的输入为台车的左右运动，该系统的目的是让两级摆稳定在悔尘竖直位置。两级摆问题是非线性系统的经典问题，在控制系统理论中，解决该问题的基本思路是先对两级摆系统建立精确的动力学模型，然后基于模型和各种非线性的理论设计控制方法。一般来说，这个过程非常复杂改弊，需要深厚的非线性控制理论的知识。而且，在建模的时候需要知道台车和摆的质量，摆的长度等等。基于强化学习的方法则不需要建模也不需要设计控制器，只需要构建一个强化学习算法，让二级摆系统自己去学习就可以了。当学习训练结束后，二级摆系统便可以实现自平衡。图1.1中的B图是训练好的AlphaGo与柯洁对战的第二局棋，C图则为机器人在仿真环境下自己学会了从摔倒的状态爬起来。这三个例子能很好地说明，强化学习算法在不同的领域能够取得令人惊艳的结果。当然，强化学习除了应用到非线性控制、下棋、机器人等方向，核前族还可以应用到其他领域，如视频游戏、人机对话、无人驾驶、机器翻译、文本序列预测等。

❺ 探索者怎么计算支架

探索者可以使用一种叫做“支架计算”的升蔽算法来计算支架。支架计算是一种基于模型的算法，它可以帮助吵袭州探索者快速准确地计算支架的位置禅局和形状。

❻ 数据挖掘干货总结（四）--聚类算法

本文共计2680字，预计阅读时长七分钟

聚类算法

 

一 、 本质

将数据划分到不同的类里，使相似的数据在同一类里，不相似的数据在不同类里

 

二 、 分类算法用来解决什么问题

文本聚类、图像聚类和商品聚类，便于发现规律，以解决数据稀疏问题

三 、 聚类算法基础知识

1. 层次聚类 vs 非层次聚类

– 不同类之间有无包含关系

2. 硬聚类 vs 软聚类

– 硬聚类：每个对象只属于一个类

– 软聚类：每个对象以某个概率属于每个类

3. 用向量表示对象

– 每个对象用一个向量表示，可以视为高维空间的一个点

– 所有对象形成数据空间（矩阵）

– 相似度计算：Cosine、点积、质心距离

4. 用矩阵列出对象之间的距离、相似度

5. 用字典保存上述矩阵（节省空间）

    D={(1,1):0,(1,2):2,(1,3):6...(5,5):0}

6. 评价方法

– 内部评价法（Internal Evalution）：

• 没有外部标准，非监督式

• 同类是否相似，跨类是否相异

DB值越小聚类效果越好，反之，越不好

– 外部评价法（External Evalution）：

• 准确度（accuracy）: (C11+C22) / (C11 + C12 + C21 + C22)

• 精度（Precision）: C11 / (C11 + C21 )

• 召回（Recall）: C11 / (C11 + C12 )

• F值（F-measure）：

β表示对精度P的重视程度，越大越重视，默认设置为1，即变成了F值，F较高时则能说明聚类效果较好。

四 、 有哪些聚类算法

主要分为 层次化聚类算法 ， 划分式聚类算法 ， 基于密度的聚类算法 ， 基于网格的聚类算法 ， 基于模型的聚类算法等 。

4.1 层次化聚类算法

又称树聚类算法，透过一种层次架构方式，反复将数据进行分裂或聚合。典型的有BIRCH算法，CURE算法，CHAMELEON算法，Sequence data rough clustering算法,Between groups average算法,Furthest neighbor算法,Neares neighbor算法等。

凝聚型层次聚类 ：

先将每个对象作为一个簇，然后合并这些原子簇为越来越大的簇，直到所有对象都在一个簇中，或者某个终结条件被满足。

算法流程：

1. 将每个对象看作一类，计算两两之间的最小距离；

2. 将距离最小的两个类合并成一个新类；

3. 重新计算新类与所有类之间的距离；

4. 重复2、3，直到所有类最后合并成一类。

特点：

1. 算法简单

2. 层次用于概念聚类（生成概念、文档层次树）

3. 聚类对象的两种表示法都适用

4. 处理大小不同的簇

5. 簇选取步骤在树状图生成之后

4.2 划分式聚类算法

预先指定聚类数目或聚类中心，反复迭代逐步降低目标函数误差值直至收敛，得到最终结果。K-means,K-modes-Huang,K-means-CP,MDS_CLUSTER, Feature weighted fuzzy clustering，CLARANS等

经典K-means：

算法流程：

1. 随机地选择k个对象，每个对象初始地代表了一个簇的中心；

2. 对剩余的每个对象，根据其与各簇中心的距离，将它赋给最近的簇；

3. 重新计算每个簇的平均值，更新为新的簇中心；

4. 不断重复2、3，直到准则函数收敛。

特点：

1.K的选择

2.中心点的选择

– 随机

– 多轮随机：选择最小的WCSS

3.优点

– 算法简单、有效

– 时间复杂度：O(nkt)

4.缺点

– 不适于处理球面数据

– 密度、大小不同的聚类，受K的限制，难于发现自然的聚类

4.3 基于模型的聚类算法

为每簇假定了一个模型，寻找数据对给定模型的最佳拟合，同一”类“的数据属于同一种概率分布，即假设数据是根据潜在的概率分布生成的。主要有基于统计学模型的方法和基于神经网络模型的方法，尤其以基于概率模型的方法居多。一个基于模型的算法可能通过构建反应数据点空间分布的密度函数来定位聚类。基于模型的聚类试图优化给定的数据和某些数据模型之间的适应性。

SOM 神经网络算法 ：

该算法假设在输入对象中存在一些拓扑结构或顺序，可以实现从输入空间(n维)到输出平面(2维)的降维映射，其映射具有拓扑特征保持性质,与实际的大脑处理有很强的理论联系。

SOM网络包含输入层和输出层。输入层对应一个高维的输入向量，输出层由一系列组织在2维网格上的有序节点构成，输入节点与输出节点通过权重向量连接。学习过程中，找到与之距离最短的输出层单元，即获胜单元，对其更新。同时，将邻近区域的权值更新，使输出节点保持输入向量的拓扑特征。

算法流程：

1. 网络初始化，对输出层每个节点权重赋初值；

2. 将输入样本中随机选取输入向量，找到与输入向量距离最小的权重向量；

3. 定义获胜单元，在获胜单元的邻近区域调整权重使其向输入向量靠拢；

4. 提供新样本、进行训练；

5. 收缩邻域半径、减小学习率、重复，直到小于允许值，输出聚类结果。

4.4 基于密度聚类算法

只要邻近区域的密度（对象或数据点的数目）超过某个阈值，就继续聚类，擅于解决不规则形状的聚类问题，广泛应用于空间信息处理,SGC,GCHL，DBSCAN算法、OPTICS算法、DENCLUE算法。

DBSCAN：

对于集中区域效果较好，为了发现任意形状的簇，这类方法将簇看做是数据空间中被低密度区域分割开的稠密对象区域；一种基于高密度连通区域的基于密度的聚类方法，该算法将具有足够高密度的区域划分为簇，并在具有噪声的空间数据中发现任意形状的簇。

4.5 基于网格的聚类算法

    基于网格的方法把对象空间量化为有限数目的单元，形成一个网格结构。所有的聚类操作都在这个网格结构（即量化空间）上进行。这种方法的主要优点是它的处理 速度很快，其处理速度独立于数据对象的数目，只与量化空间中每一维的单元数目有关。但这种算法效率的提高是以聚类结果的精确性为代价的。经常与基于密度的算法结合使用。代表算法有STING算法、CLIQUE算法、WAVE-CLUSTER算法等。 

❼ model-free和model-based的区别

1. model-free是指在训练中没有任何的先验的外观或者形状等模型。

2. model-based是基于嫌清人为的外观等模型。

3. 一般来说，model-free没有model-based运用广泛。

4. 基于模型的设计是一种用数字化和可视化的方法来解决问题和设计相关复杂控制的算法,是一种信号处理和通信系统。它被广泛应用在许多动向控制、工业设备、航空航天和汽车应用领域。基于模型的设计方法应用于嵌入式软件设计。
   

❽ 聚类算法有哪些分类

聚类算法的分类有：

1、划分法

划分法(partitioning methods)，给定一个有N个元组或者纪录的数据集，分裂法将构造K个分组，每一个分组就代表一个聚类，K小于N。而且这K个分组满足下列条件：

（1） 每一个分组至少包含一个数据纪录；

（2）每一个数据纪录属于且仅属于一个分组（注意：这个要求在某些模糊聚类算法中可以放宽）；

2、层次法

层次法(hierarchical methods)，这种方法对给定的数据集进行层次似的分解，直到某种条件满足为止。具体又可分为“自底向上”和“自顶向下”两种方案。

例如，在“自底向上”方案中，初始时每一个数据纪录都组成一个单独的组，在接下来的迭代中，它把那些相互邻近的组合并成一个组，直到所有的记录组成一个分组或者某个条件满足为止。

3、密度算法

基于密度的方法(density-based methods)，基于密度的方法与其它方法的一个根本区别是：它不是基于各种各样的距离的，而是基于密度的。这样就能克服基于距离的算法只能发现“类圆形”的聚类的缺点。

4、图论聚类法

图论聚类方法解决的第一步是建立与问题相适应的图，图的节点对应于被分析数据的最小单元，图的边（或弧）对应于最小处理单元数据之间的相似性度量。因此，每一个最小处理单元数据之间都会有一个度量表达，这就确保了数据的局部特性比较易于处理。图论聚类法是以样本数据的局域连接特征作为聚类的主要信息源，因而其主要优点是易于处理局部数据的特性。

5、网格算法

基于网格的方法(grid-based methods)，这种方法首先将数据空间划分成为有限个单元（cell）的网格结构,所有的处理都是以单个的单元为对象的。这么处理的一个突出的优点就是处理速度很快，通常这是与目标数据库中记录的个数无关的，它只与把数据空间分为多少个单元有关。

代表算法有：STING算法、CLIQUE算法、WAVE-CLUSTER算法；

6、模型算法

基于模型的方法(model-based methods)，基于模型的方法给每一个聚类假定一个模型，然后去寻找能够很好的满足这个模型的数据集。这样一个模型可能是数据点在空间中的密度分布函数或者其它。它的一个潜在的假定就是：目标数据集是由一系列的概率分布所决定的。

通常有两种尝试方向：统计的方案和神经网络的方案。

(8)基于模型算法扩展阅读：

聚类算法的要求：

1、可伸缩性

许多聚类算法在小于 200 个数据对象的小数据集合上工作得很好；但是，一个大规模数据库可能包含几百万个对象，在这样的大数据集合样本上进行聚类可能会导致有偏的结果。

我们需要具有高度可伸缩性的聚类算法。

2、不同属性

许多算法被设计用来聚类数值类型的数据。但是，应用可能要求聚类其他类型的数据，如二元类型(binary)，分类/标称类型（categorical/nominal），序数型（ordinal）数据，或者这些数据类型的混合。

3、任意形状

许多聚类算法基于欧几里得或者曼哈顿距离度量来决定聚类。基于这样的距离度量的算法趋向于发现具有相近尺度和密度的球状簇。但是，一个簇可能是任意形状的。提出能发现任意形状簇的算法是很重要的。

4、领域最小化

许多聚类算法在聚类分析中要求用户输入一定的参数，例如希望产生的簇的数目。聚类结果对于输入参数十分敏感。参数通常很难确定，特别是对于包含高维对象的数据集来说。这样不仅加重了用户的负担，也使得聚类的质量难以控制。

5、处理“噪声”

绝大多数现实中的数据库都包含了孤立点，缺失，或者错误的数据。一些聚类算法对于这样的数据敏感，可能导致低质量的聚类结果。

6、记录顺序

一些聚类算法对于输入数据的顺序是敏感的。例如，同一个数据集合，当以不同的顺序交给同一个算法时，可能生成差别很大的聚类结果。开发对数据输入顺序不敏感的算法具有重要的意义。

❾ 什么叫基于模型的推荐算法

模型是一个或者一系列的数学表达式，用来描述所要解决的问题。算法是解决这个模型，也就是这些表达式的具体过程，常常结合编程解决。