算法pso
❶ pso的算法结构
对微粒群算法结构的改进方案有很多种，对其可分类为：采用多个子种群；改进微粒学习对象的选取策略；修改微粒更新迭代公式；修改速度更新策略；修改速度限制方法、位置限制方法和动态确定搜索空间；与其他搜索技术相结合；以及针对多模问题所作的改进。
第一类方案是采用多个子种群。柯晶考虑优化问题对收敛速度和寻优精度的双重要求并借鉴多群体进化算法的思想，将寻优微粒分成两组，一组微粒采用压缩因子的局部模式PSO算法，另一组微粒采用惯性权重的全局模式PSO算法，两组微粒之间采用环形拓扑结构。对于高维优化问题，PSO算法需要的微粒个数很多，导致计算复杂度常常很高，并且很难得到好的解。因此，出现了一种协作微粒群算法（Cooperative ParticleSwarm Optimizer, CPSO-H），将输入向量拆分成多个子向量，并对每个子向量使用一个微粒群来进行优化。虽然CPSO-H算法使用一维群体来分别搜索每一维，但是这些搜索结果被一个全局群体集成起来之后，在多模问题上的性能与原始PSO算法相比有很大的改进。Chow使用多个互相交互的子群，并引入相邻群参考速度。冯奇峰提出将搜索区域分区，使用多个子群并通过微粒间的距离来保持多样性。陈国初将微粒分成飞行方向不同的两个分群，其中一分群朝最优微粒飞行，另一分群微粒朝相反方向飞行；飞行时，每一微粒不仅受到微粒本身飞行经验和本分群最优微粒的影响，还受到全群最优微粒的影响。Niu在PSO算法中引入主—从子群模式，提出一种多种群协作PSO算法。Seo提出一种多组PSO算法（Multigrouped PSO），使用N组微粒来同时搜索多模问题的N个峰。Selleri使用多个独立的子群，在微粒速度的更新方程中添加了一些新项，分别使得微粒向子群历史最优位置运动，或者远离其他子群的重心。王俊年借鉴递阶编码的思想，构造出一种多种群协同进化PSO算法。高鹰借鉴生态学中环境和种群竞争的关系，提出一种基于种群密度的多种群PSO算法。
第二类方案是改进微粒学习对象的选取策略。Al-kazemi提出多阶段PSO算法，将微粒按不同阶段的临时搜索目标分组，这些临时目标允许微粒向着或背着它自己或全局最好位置移动。Ting对每个微粒的pBest进行操作，每一维从其他随机确定的维度学习，之后如果新的pBest更好则替换原pBest；该文还比较了多种不同学习方式对应的PSO算法的性能。Liang提出一种新颖的学习策略CLPSO，利用所有其他微粒的历史最优信息来更新微粒的速度；每个微粒可以向不同的微粒学习，并且微粒的每一维可以向不同的微粒学习。该策略能够保持群体的多样性，防止早熟收敛，可以提高PSO算法在多模问题上的性能；通过实验将该算法与其它几种PSO算法的变种进行比较，实验结果表明该算法在解决多模复杂问题时效果很好。Zhao在PSO算法中使用适应值最好的n个值来代替速度更新公式中的gBest。Abdelbar提出一种模糊度量，从而使得每个邻域中有多个适应值最好的微粒可以影响其它微粒。Wang也采用多个适应值最好的微粒信息来更新微粒速度，并提出一种模糊规则来自适应地确定参数。崔志华提出一种动态调整的改进PSO算法，在运行过程中动态调整极限位置，使得每个微粒的极限位置在其所经历的最好位置与整体最好位置所形成的动态圆中分布。与原始PSO算法相反，有一类方法是远离最差位置而非飞向最优位置。Yang提出在算法中记录最差位置而非最优位置，所有微粒都远离这些最差位置。与此类似，Leontitsis在微粒群算法中引入排斥子的概念，在使用个体最优位置和群体最优位置信息的同时，在算法中记录当前的个体最差位置和群体最差位置，并利用它们将微粒排斥到最优位置，从而让微粒群更快地到达最优位置。孟建良提出一种改进的PSO算法，在进化的初期，微粒以较大的概率向种群中其他微粒的个体最优学习；在进化后期，微粒以较大的概率向当前全局最优个体学习。Yang在PSO算法中引入轮盘选择技术来确定gBest，使得所有个体在进化早期都有机会引领搜索方向，从而避免早熟。
第三类方案是修改微粒更新公式。Hendtlass在速度更新方程中给每个微粒添加了记忆能力。He在速度更新方程中引入被动聚集机制。曾建潮通过对PSO算法的速度进化迭代方程进行修正，提出一种保证全局收敛的随机PSO算法。Zeng在PSO算法中引入加速度项，使得PSO算法从一个二阶随机系统变为一个三阶随机系统，并使用PID控制器来控制算法的演化。为了改进PSO算法的全局搜索能力，Ho提出一种新的微粒速度和位置更新公式，并引入寿命（Age）变量。
第四类方案是修改速度更新策略。Liu认为过于频繁的速度更新会弱化微粒的局部开采能力并减慢收敛，因此提出一种松弛速度更新（RVU）策略，仅当微粒使用原速度不能进一步提高适应值时才更新速度，并通过试验证明该策略可以大大减小计算量并加速收敛。罗建宏对同步模式和异步模式的PSO算法进行了对比研究，试验结果表明异步模式收敛速度显着提高，同时寻优效果更好。Yang在微粒的更新规则中引入感情心理模型。Liu采用一个最小速度阈值来控制微粒的速度，并使用一个模糊逻辑控制器来自适应地调节该最小速度阈值。张利彪提出了对PSO算法增加更新概率，对一定比例的微粒并不按照原更新公式更新，而是再次随机初始化。Dioan利用遗传算法（GA）来演化PSO算法的结构，即微粒群中各微粒更新的顺序和频率。
第五类方案是修改速度限制方法、位置限制方法和动态确定搜索空间。Stacey提出一种重新随机化速度的速度限制和一种重新随机化位置的位置限制。Liu在[76]的基础上，在PSO算法中引入动量因子，来将微粒位置限制在可行范围内。陈炳瑞提出一种根据微粒群的最佳适应值动态压缩微粒群的搜索空间与微粒群飞行速度范围的改进PSO算法。
第六类方案是通过将PSO算法与一些其他的搜索技术进行结合来提高PSO算法的性能，主要目的有二，其一是提高种群多样性，避免早熟；其二是提高算法局部搜索能力。这些混合算法包括将各种遗传算子如选择、交叉、变异引入PSO算法，来增加种群的多样性并提高逃离局部最小的能力。Krink通过解决微粒间的冲突和聚集来增强种群多样性，提出一种空间扩展PSO算法（Spatial ExtensionPSO，SEPSO）；但是SEPSO算法的参数比较难以调节，为此Monson提出一种自适应调节参数的方法。用以提高种群多样性的其他方法或模型还包括“吸引—排斥”、捕食—被捕食模型、耗散模型、自组织模型、生命周期模型（LifeCycle model）、贝叶斯优化模型、避免冲突机制、拥挤回避（Crowd Avoidance）、层次化公平竞争（HFC）、外部记忆、梯度下降技术、线性搜索、单纯形法算子、爬山法、劳动分工、主成分分析技术、卡尔曼滤波、遗传算法、随机搜索算法、模拟退火、禁忌搜索、蚁群算法（ACO）、人工免疫算法、混沌算法、微分演化、遗传规划等。还有人将PSO算法在量子空间进行了扩展。Zhao将多主体系统（MAS）与PSO算法集成起来，提出MAPSO算法。Medasani借鉴概率C均值和概率论中的思想对PSO算法进行扩展，提出一种概率PSO算法，让算法分勘探和开发两个阶段运行。
第七类方案专门针对多模问题，希望能够找到多个较优解。为了能使PSO算法一次获得待优化问题的多个较优解，Parsopoulos使用了偏转（Deflection）、拉伸（Stretching）和排斥（Repulsion）等技术，通过防止微粒运动到之前已经发现的最小区域，来找到尽可能多的最小点。但是这种方法会在检测到的局部最优点两端产生一些新的局部最优点，可能会导致优化算法陷入这些局部最小点。为此，Jin提出一种新的函数变换形式，可以避免该缺点。基于类似思想，熊勇提出一种旋转曲面变换方法。
保持种群多样性最简单的方法，是在多样性过小的时候，重置某些微粒或整个微粒群。Lvbjerg在PSO算法中采用自组织临界性作为一种度量，来描述微粒群中微粒相互之间的接近程度，来确定是否需要重新初始化微粒的位置。Clerc提出了一种“Re-Hope”方法，当搜索空间变得相当小但是仍未找到解时（No-Hope），重置微粒群。Fu提出一种带C-Pg变异的PSO算法，微粒按照一定概率飞向扰动点而非Pg。赫然提出了一种自适应逃逸微粒群算法，限制微粒在搜索空间内的飞行速度并给出速度的自适应策略。
另一种变种是小生境PSO算法，同时使用多个子种群来定位和跟踪多个最优解。Brits还研究了一种通过调整适应值计算方式的方法来同时找到多个最优解。Li在PSO算法中引入适应值共享技术来求解多模问题。Zhang在PSO算法中采用顺序生境（SequentialNiching）技术。在小生境PSO算法的基础上，还可以使用向量点积运算来确定各个小生境中的候选解及其边界，并使该过程并行化，以获得更好的结果。但是，各种小生境PSO算法存在一个共同的问题，即需要确定一个小生境半径，且算法性能对该参数很敏感。为解决该问题，Bird提出一种自适应确定niching参数的方法。
Hendtlass在PSO算法中引入短程力的概念，并基于此提出一种WoSP算法，可以同时确定多个最优点。刘宇提出一种多模态PSO算法，用聚类算法对微粒进行聚类，动态地将种群划分成几个类，并且使用微粒所属类的最优微粒而非整个种群的最好微粒来更新微粒的速度，从而可以同时得到多个近似最优解。Li在PSO算法中引入物种的概念，但是由于其使用的物种间距是固定的，该方法只适用于均匀分布的多模问题；为此，Yuan对该算法进行扩展，采用多尺度搜索方法对物种间距加以自适应的调整。
此外，也有研究者将PSO算法的思想引入其他算法中，如将PSO算法中微粒的运动规则嵌入到进化规划中，用PSO算法中的运动规则来替代演化算法中交叉算子的功能。
❷ 如何用粒子群优化（PSO）算法实现多目标优化
粒子群算法，也称粒子群优化算法（ParticleSwarmOptimization），缩写为PSO，是近年来发展起来的一种新的进化算法(EvolutionaryAlgorithm-EA)。PSO算法属于进化算法的一种，和模拟退火算法相似，它也是从随机解出发，通过迭代寻找最优解，它也是通过适应度来评价解的品质，但它比遗传算法规则更为简单，它没有遗传算法的“交叉”(Crossover)和“变异”(Mutation)操作，它通过追随当前搜索到的最优值来寻找全局最优。这种算法以其实现容易、精度高、收敛快等优点引起了学术界的重视，并且在解决实际问题中展示了其优越性。粒子群算法是一种并行算法。
❸ 二进制PSO算法
PSO算法中每一粒子都被看是潜在的最优解，具体实现思路是先将粒子初始化，对于每个粒子都有一个当前位置以及根据适应度值做粒子更新的速度（Kennedy et al.，1995），通过迭代计算得到最优解。PSO粒子速度计算和对应位置更新的原理如式（8.1）、式（8.2）所示：
高光谱遥感影像信息提取技术
式中：xid是粒子；c1，c2是学习因子；w是惯性因子，是粒子速度保持更新之前粒子速度的能力；pid是目前单个粒子最优位置；pgd是整个粒子群目前得到的最优位置；rand是0～1之间的随机数。
二进制PSO首先将粒子初始化为0和1组成的序列。二进制PSO算法是对式（8.2）作些改变，其位置更新如式（8.3）所示（程志刚等，2007）：
高光谱遥感影像信息提取技术
式中： 是 Sigmoid 函数。
❹ pso的优化求解
PSO算法被广泛应用于各种优化问题，并且已经成为优化领域中的一个有效算法。除了普通函数优化之外，还包括如下方面。
混合整数非线性规划
很多求解整数规划的算法是在采用实数域的算法进行优化后，再将结果取整作为整数规划的近似解。这种做法常常导致不满足约束或远离最优解。谭瑛提出一种在整数空间中直接进行进化计算的PSO算法。刘钊针对混合整数非线性规划中可行解产生代价较高的问题，建立了保证都是合法解的备用微粒库，并提出微粒迁移策略，帮助微粒跳出局部最优。
噪声和动态环境
动态系统的状态会经常改变，甚至可能会连续变化。许多实际系统都会涉及到动态环境。例如，由于顾客的优先级、意外的设备维护等导致的变化，调度系统中大多数计算时间都被用来进行重新调度。在实际应用中，这些系统状态的变化就需要经常进行重新优化。
最初使用微粒群算法跟踪动态系统的工作由Carlisle提出，通过周期性地重置所有微粒的记忆来跟踪动态系统。Eberhart也采用类似想法；之后Hu提出一种自适应PSO算法，能够自动跟踪动态系统中的不同变化，并在抛物线benchmark函数上对不同的环境检测和响应技术进行了实验，其中使用的检测方法是监控种群中最优微粒的行为。后来Carlisle使用搜索空间中的一个随机点来确定环境是否发生变化，但是这需要集中控制，与PSO算法的分布式处理模型不符。为此Cui提出TDPSO算法，让最优历史位置的适应值随着时间减小，从而不再需要集中控制。Blackwell在微粒的更新公式中添加了一项惩罚项，来保持微粒处于一个扩展的群中，以应对快速变化的动态环境，该方法中不需要检测最优点是否发生变化。
Parsopoulos等的试验表明，基本PSO算法就可以有效而稳定地在噪声环境中工作，且在很多情况下，噪声的存在还可以帮助PSO算法避免陷入局部最优。Parsopoulos还通过试验研究了UPSO算法在动态环境中的性能。Pugh提出一种抗噪声的PSO算法。Pan将假设检验和最优计算预算分配（OCBA）技术引入微粒群算法，提出PSOOHT算法，来解决噪声环境下的函数优化问题。
上述工作的研究对象都是简单的动态系统，所采用的实验函数是简单的单模函数，并且所涉及的变化都是简单环境下的均匀变化（即固定步长）。而事实上，实际的动态系统经常是非线性的，并在复杂的多模搜索空间中非均匀变化。Li采用四个PSO模型，对一系列不同的动态环境进行了对比研究。
上述方法均是针对仅跟踪单个最优点的情况，
❺ 怎样用PSO算法求解一个简单的函数
约束优化
约束优化问题的目标是在满足一组线性或非线性约束的条件下，找到使得适应值函数最优的解。对于约束优化问题，需要对原始PSO算法进行改进来处理约束。 一种简单的方法是，所有的微粒初始化时都从可行解开始，在更新过程中，仅需记住在可行空间中的位置，抛弃那些不可行解即可。该方法的缺点是对于某些问题，初始的可行解集很难找到。或者，当微粒位置超出可行范围时，可将微粒位置重置为之前找到的最好位置，这种简单的修正就能成功找到一系列Benchmark问题的最优解。Paquet让微粒在运动过程中保持线性约束，从而得到一种可以解决线性约束优化问题的PSO算法。Pulido引入扰动算子和约束处理机制来处理约束优化问题。Park提出一种改进的PSO算法来处理等式约束和不等式约束。 另一种简单的方法是使用惩罚函数将约束优化问题转变为无约束优化问题，之后再使用PSO算法来进行求解。Shi将约束优化问题转化为最小—最大问题，并使用两个共同进化的微粒群来对其求解。谭瑛提出一种双微粒群的PSO算法，通过在微粒群间引入目标信息与约束信息项来解决在满足约束条件下求解目标函数的最优化问题。Zavala在PSO算法中引入两个扰动算子，用来解决单目标约束优化问题。 第三种方法是采用修复策略，将微粒发现的违反约束的解修复为满足约束的解。
约束满足问题
PSO算法设计的初衷是用来求解连续问题，但近年来对于可满足性问题PSO算法的研究也不断得到人们的重视。Schoofs提出用PSO算法求解二元约束满足问题，对微粒的位置和速度计算公式进行了重新定义，使用变量和它的关联变量存在的冲突数作为微粒的适应度函数，并指出该算法在求解约束满足问题上具有一定优势。Lin在Schoofs工作的基础上研究了使用PSO算法来求解通用的n元约束满足问题。杨轻云在Schoofs工作的基础上对适应度函数进行了改进，把最大度静态变量序列引入到适应度函数的计算中。
❻ 粒子群优化算法的PSO
演化计算可以用来研究神经网络的三个方面：网络连接权重，网络结构(网络拓扑结构，传递函数)，网络学习算法。
不过大多数这方面的工作都集中在网络连接权重，和网络拓扑结构上。在GA中，网络权重和/或拓扑结构一般编码为染色体(Chromosome)，适应函数(fitness function)的选择一般根据研究目的确定。例如在分类问题中，错误分类的比率可以用来作为适应值。 这里用一个简单的例子说明PSO训练神经网络的过程。这个例子使用分类问题的基准函数 (Benchmark function)IRIS数据集。(Iris 是一种鸢尾属植物) 在数据记录中，每组数据包含Iris花的四种属性：萼片长度，萼片宽度，花瓣长度，和花瓣宽度，三种不同的花各有50组数据. 这样总共有150组数据或模式。
我们用3层的神经网络来做分类。现在有四个输入和三个输出。所以神经网络的输入层有4个节点，输出层有3个节点我们也可以动态调节隐含层节点的数目，不过这里我们假定隐含层有6个节点。我们也可以训练神经网络中其他的参数。不过这里我们只是来确定网络权重。粒子就表示神经网络的一组权重，应该是4*6+6*3=42个参数。权重的范围设定为[-100，100] (这只是一个例子，在实际情况中可能需要试验调整).在完成编码以后，我们需要确定适应函数。对于分类问题，我们把所有的数据送入神经网络，网络的权重有粒子的参数决定。然后记录所有的错误分类的数目作为那个粒子的适应值。现在我们就利用PSO来训练神经网络来获得尽可能低的错误分类数目。PSO本身并没有很多的参数需要调整。所以在实验中只需要调整隐含层的节点数目和权重的范围以取得较好的分类效果。
❼ pso的并行算法
与大多数随机优化算法相似，当适应值评价函数的计算量比较大时，PSO算法的计算量会很大。为了解决该问题，研究者提出了并行PSO算法。与并行遗传算法类似，并行PSO算法也可以有三种并行群体模型：主从并行模型、岛屿群体模型和邻接模型。
Schutte采用同步实现方式，在计算完一代中所有点的适应值之后才进入下一代。这种并行方法虽然实现简单，但常常会导致并行效率很差。故而有人提出异步方式的并行算法，可以在对数值精度影响不大的条件下提高PSO算法的并行性能。这两种方式采用的都是主从并行模型，其中异步方式在求解上耦合性更高，更容易产生通信瓶颈。
Baskar提出一种两个子种群并行演化的并发PSO算法，其中一个子种群采用原始的PSO算法，另一个子种群采用基于适应值距离比的PSO算法（FDR-PSO）；两个子种群之间频繁地进行信息交换。而El-Abd研究了在子种群中采用局部邻域版本的协作PSO算法，并研究了多种信息交换的方式及其对算法性能的影响。黄芳提出一种基于岛屿群体模型的并行PSO算法，并引入一种集中式迁移策略，提高了求解效率，同时改善了早收敛现象。
Li提出延迟交换信息的并行算法属于邻接模型，该算法可以提高速度，但可能使得解的质量变差。
❽ pso的离散算法
很多优化问题涉及到离散或二值的变量，典型的例子包括调度问题或路由问题。而PSO算法的更新公式和过程是面向连续空间并为其设计的，因此需要做一些修改使之适应离散空间的情况。编码的修改可能很简单，难点在于定义速度的意义和确定轨迹的变化。
Kennedy定义了第一个离散二进制版本的PSO算法。微粒使用二进制字符串进行编码。通过使用sigmoid函数，速度被限制在[0, 1]区间之内，并被解释为“概率的变化”。Yang对该方法在量子空间进行了扩展。
Mohan提出了几种二进制方法（直接方法、量子方法、正则方法、偏差向量方法以及混合方法），但是从有限的实验中没有得出什么结论。Clerc对一些专用于某些约束优化问题如TSP问题的PSO算法变种进行了试验，结果显示该方法比较有前途。Pang使用模糊矩阵来表示微粒的位置和速度，对PSO算法的算符进行了重定义，并将其应用到TSP问题的求解。Pampara将PSO算法与信号处理中的角调制技术结合起来，将高维二进制问题降维为一个在连续空间中定义的四维问题，并通过求解该四维问题来获得原问题的解。Afshinmanesh重新定义了离散PSO算法中的加法与乘法，并使用人工免疫系统中的阴性选择来实现速度限制Vmax。
Hu提出了一种改进PSO算法来处理排列问题。微粒被定义为一组特定值的排列，速度基于两个微粒的相似度重新定义，微粒根据由它们的速度所定义的随机率来变换到一个新的排列。引入了一个变异因子来防止当前的pBest陷入局部最小。在n皇后问题上的初步研究显示改进的PSO算法在解决约束满意问题方面很有前途。
Migliore对原始的二进制PSO算法进行了一些改进，提出了可变行为二进制微粒群算法（VB-BPSO）和可变动态特性二进制微粒群算法（VD-BPSO）。VB-BPSO算法按照连续PSO算法的速度更新公式的思想设计了一个新的速度更新公式，用来确定微粒位置向量每一位为1的概率。而VD-BPSO算法则是根据一定规则在两组不同参数确定的VB-BPSO算法之间切换。Migliore应用该算法设计出一种简单鲁棒的自适应无源天线。
Parsopoulos以标准函数为例测试微粒群优化算法解决整数规划问题的能力。Salman将任务分配问题抽象为整数规划模型并提出基于微粒群优化算法的解决方法。两者对迭代产生的连续解均进行舍尾取整后评价其质量。但是PSO算法生成的连续解与整数规划问题的目标函数评价值之间存在多对一的映射，以整型变量表示的目标函数不能准确反映算法中连续解的质量，而由此导致的冗余解空间与相应的冗余搜索降低了算法的收敛效率。
高尚采用交叉策略和变异策略，将PSO算法用来解决集合划分问题。赵传信重新定义了微粒群位置和速度的加法与乘法操作，并将PSO算法应用到0/1背包问题求解中。EL-Gallad在PSO算法中引入探索和勘探两个算子，用于求解排序问题。Firpi提出了BPSO算法的一种保证收敛的版本（但是并未证明其保证收敛性），并将其应用到特征选择问题。
上述离散PSO算法都是间接的优化策略，根据概率而非算法本身确定二进制变量，未能充分利用PSO算法的性能。在处理整数变量时，PSO算法有时候很容易陷入局部最小。原始PSO算法的思想是从个体和同伴的经验进行学习，离散PSO算法也应该借鉴该思想。高海兵基于传统算法的速度—位移更新操作，在分析微粒群优化机理的基础上提出了广义微粒群优化模型（GPSO），使其适用于解决离散及组合优化问题。GPSO 模型本质仍然符合微粒群优化机理，但是其微粒更新策略既可根据优化问题的特点设计，也可实现与已有方法的融合。基于类似的想法，Goldbarg将局部搜索和路径重连过程定义为速度算子，来求解TSP问题。
❾ Tent映射与PSO算法用于波段寻优的思想
高光谱遥感对地物光谱特征进行了细致的刻画，提高了地物识别的可靠性，但是随着光谱维数增加也带来了大量冗余数据，给高光谱数据处理与信息识别等增添了负担，同时也会影响地物识别的精度，故地物识别时对高光谱数据进行降维、选取特征波段就显得非常重要。支持向量机（Support Vector Machine，SVM）是一种机器学习算法，由美国贝尔实验室Vapnik针对分类和回归问题，为适合小样本学习问题首先提出来的（Vapnik，1995），SVM具有很好的泛化能力，并在一定程度上克服了机器学习的维数灾难。近年来，SVM以及基于其他算法改进的SVM用于高光谱影像的分类得到了广泛应用，并取得了很好的分类精度（Melgani et al.，2004；李祖传等，2011）。但针对高光谱数据冗余性，粒子群优化（Particle Swarm Optimization，PSO）算法在寻找最优特征波段组合与进一步提高SVM分类精度方面具有较好的优势。
PSO算法是一种通过个体与群体之间的协作来寻找最优解的机器学习算法，具有自适应，自组织以及快速得到最优解的能力。PSO算法首先由Kennedy和Eberhart提出来的，后来为了使PSO有更广泛的应用范围，他们又提出了二进制PSO算法（Kennedy et al.，1995，1997；Khanesar et al.，2007；张浩等，2008）。自从PSO算法提出以来，该算法已经在各个研究领域得到了广泛的关注。在高光谱遥感应用方面，Monteiro和Kosugi（2007）提出基于PSO的高光谱影像最佳波段组合和最佳波段数的选取方法，并通过实验和传统波段选取方法相比较，证明了基于PSO进行特征波段选取的优越性。丁胜等（2010）提出一种PSO－BSSVM分类模型，用于高光谱影像特征波段的选取以及对SVM的参数寻优，通过和其他方法的实验比较得出该模型可以提高分类精度。李林宜和李德仁（2011）也在模糊特征的选取中也用了PSO算法。总之PSO在高光谱影像分类的特征波段选取中应用比较成功，但由于PSO容易早熟，陷入局部最优，所以针对这点以及为获得更高的SVM分类精度，对PSO加以改进是非常有意义的。Tent映射是混沌理论中典型的混沌映射例子，Tent映射具有随机性和遍历性，所以把Tent映射加入PSO可以对PSO算法容易陷入局部最优的状况进行改善。本章就主要通过改进Tent映射后运用于二进制PSO算法进行寻优，寻找高光谱影像SVM分类的最优特征波段组合。
❿ PSO优化方向
1. PSO收敛快，特别是在算法的早期，但存在着精度较低，易发散等缺点。加速系数、最大速度等参数太大，粒子可能错过最优解--------------->不收敛； 收敛的情况下，由于所有粒子都向最优的方向飞去，所有粒子趋向同一化（失去多样性）--------->使得 后期收敛速度明显变慢，搜索能力变弱 ，同时算法收敛到一定精度时，无法继续优化。
2. 缺乏数学理论支持，PSO算法本质上是一种随机搜索算法，因此可靠性上让人存疑；
3. 寻找一种好的拓扑结构，加强PSO算法的泛化能力；
4. 平衡全局搜索和局部搜索能力；
（1）粒子群初始化：粒子群初始化对算法性能有一定的影响，分为粒子位置初始化和速度初始化。
粒子群 位置 初始化的理想效果：初始种群尽可能 均匀覆盖整个 搜索空间。
一、不推荐的初始化 ：a. 均匀分布随机数
缺点：1. 对搜索空间的覆盖不够好；
2. 当维度D增大时候，所有的粒子都倾向于靠近搜索空间的边缘：
b. 伪随机数初始化：造成粒子在参数空间的不均匀分布和聚集效应；
二、推荐的初始化 ：a. 基于centroidal voronoi tessellations (CVTs)的种群初始化方法（这东西是啥没搞懂）；
b. 采用正交设计方法对种群进行初始化；
c. 类随机采样方法中的sobol序列：使得粒子群在参数空间更加均匀；
d. Hammersley方法：感觉这个类似于类随机采样方法（具体我也没搞清楚）；
e. 将粒子建立为带电（positive charged）的模型，通过建立一个平衡方程，求解该方程的最小解获得粒子初始化位置；
f. 设置偏向的随机分布（推荐） ：即：我们通过对评价函数等一系列先验信息进行分析，得出最优解的可能存在空间范围，然后在这些范围内，着重撒点。就算再不济，也可以根据评价函数遵循Nearer is Better class（最优解更加可能在搜索空间的中心位置准则），在搜索空间的中心位置着重撒点。比如：
粒子群 速度 初始化：主要有如下五种方式：（根据实验表明，One-rand的效果最好。喂！！！这里One-rand的表达式是不是写错了啊？）
（2）领域拓扑：粒子的拓扑，决定了粒子所接受到的信息来源。
一、全局模型gbest：最早的粒子群优化版本是全局PSO，使用全局拓扑结构，社会 只能 通过种群中， 最优的那个粒子 ，对每个粒子施加影响。
1. 优点：具有较快的收敛速度。
2. 缺点：粒子间的交流不够充分，但更容易陷入局部极值。
二、局部模型lbest：采用每个粒子仅在一定的邻域内进行信息交换，，粒子之间的交流相对比较缓慢。
1. 优点：粒子更容易搜索问题空间中的不同地区。
2. 缺点：信息传递缓慢，设计相对复杂。
3. 分类：被动模型：微观领域、宏观领域、维度划分；主动模型。
（1）微观邻域：细分到每个粒子。空间邻域(spatial neighborhood)、性能空间(performance space)邻域、社会关系邻域(sociometric neighborhood)。
a. 空间邻域：直接在搜索空间按粒子间的距离(如欧式距离)进行划分。在搜索初始阶段，将邻域定义为每个粒子自身；随着迭代次数的增加，将邻域范围逐渐扩展到整个种群。
b. 性能空间领域：根据性能指标(如适应度、目标函数值)划分的邻域，如：适应度距离比值(fitness-distance-ratio)来选择粒子的相邻粒子。
c. 社会关系邻域： 按粒子存储阵列的索引编号进行划分，主要有：环形拓扑(ring or circle topology)、轮形拓扑(wheel topology)或星形拓扑(star topology)、塔形拓扑(pyramid topology)、冯－诺以曼拓扑(Von Neumann topology)以及随机拓扑(random topology)等。（随机拓扑往往对大多数问题能表现出较好的性能，其次是冯－诺以曼拓扑。）
（2）宏观邻域：对群体进行划分。比如：使用簇分析将整个粒子群划分为多个簇，然后用簇中心代替带收缩因子PSO中的粒子历史最佳位置或群体历史最佳位置；根据粒子相似性动态地将粒子群体按种类划分为多个子种群，再以每个子种群的最佳个体作为每个粒子的邻域最佳位置；划分一个主群体，多个仆群体，仆群体进行独立的搜索，主群体在仆群体提供的最佳位置基础上开展搜索；每间隔一定代数将整个群体随机地重新划分；每个粒子除了自身和邻域最佳历史位置外，还学习邻域内其他粒子的 成功经验（只学好的，不学坏的） 等等；
（3）维度划分：想法源自于：搜索空间维数较高时往往容易遭受“维数灾”的困扰。假设粒子群的整体维度为D，则可以将D划分成不同的部分，比如划分成k份，使用不同的群体，分别优化不同的维度。
（4）主动模型：主动改变粒子邻域空间，避免碰撞和拥挤。比如：将粒子分为带电粒子和自然粒子，带电粒子接近会产生排斥；为每个粒子引入与邻近粒子距离成反比的自组织危险度，距离越近危险度越高，当危险度达到一定阈值，对粒子进行重新初始化，或者弹开；为粒子赋一个半径，以检测两个粒子是否会发生碰撞，并且采取碰撞-弹开方式将其分离。
（3）参数选择：三种参数：惯性权重或收敛因子、最大速度、两个加速因子。
一、惯性权重：
a. 惯性权重大：加强PSO 全局 搜索能力；惯性权重小：加强PSO 局部 搜索能力；
b. 矛盾点：初始惯性权重大，局部搜索能力差，可能错过最优点；后期，惯性权重小，全局搜索能力不行，导致整个粒子群就陷入局部最优解。
c. 优化方向：在适当的时候降低权重w，平衡全局和局部搜索能力；
d. 优化建议：w随着更新代数的增加从0.9线性递减到0.4；
二、压缩因子：
a. 优势：惯性常数方法通常采用惯性权值随更新代数增加而递减的策略，算法后期由于惯性权值过小，会失去探索新区域的能力，而收缩因子方法则不存在此不足
b. 优化建议：通常φ取4.1，χ得0.729。
三、最大速度的选择：为了抑制粒子更新的无规律的跳动，速度往往被限制在[-Vm,Vm]
a. Vm增大，有利于全局 探索（exploration） ，但可能越过全局最优解；Vm减小，有利于局部 开发（exploitation） ，但可能陷入局部最优；
b. 优化建议：一般设定为问题空间的10%~20%；或者动态调整Vm，比如：根据群体最佳适应和最差适应来进行调整；
四、两个加速常数：加速常数C1和C2分别用于控制粒子指向自身或邻域最佳位置的运动。
a. C1增大，粒子全局搜索能力好；C2增大，粒子向着最优靠拢局部能力好，但粒子会过早收敛；
b. 优化建议：C1 = C2 = 2.0，并且C1+C2 <= 4.0;或者根据自适应调整，比如随着迭代次数增加，减小C1增大C2；
（4）混合法：PSO与其他方法结合。
这点我觉得，主要根据个人的学习积累来操作。考虑方向：增加粒子群的局部搜索能力。