粒子群优化算法c
㈠ 什么是粒子群算法
粒子群算法,也称粒子群优化算法(Partical Swarm Optimization),缩写为 PSO, 是近年来发展起来的一种新的进化算法((Evolu2tionary Algorithm - EA)。PSO 算法属于进化算法的一种,和遗传算法相似,它也是从随机解出发,通过迭代寻找最优解,它也是通过适应度来评价解的品质,但它比遗传算法规则更为简单,它没有遗传算法的“交叉”(Crossover) 和“变异”(Mutation) 操作,它通过追随当前搜索到的最优值来寻找全局最优。这种算法以其实现容易、精度高、收敛快等优点引起了学术界的重视,并且在解决实际问题中展示了其优越性。设想这样一个场景:一群鸟在随机搜索食物。在这个区域里只有一块食物。所有的鸟都不知道食物在那里。但是他们知道当前的位置离食物还有多远。那么找到食物的最优策略是什么呢。最简单有效的就是搜寻目前离食物最近的鸟的周围区域。 PSO从这种模型中得到启示并用于解决优化问题。PSO中,每个优化问题的解都是搜索空间中的一只鸟。我们称之为“粒子”。所有的粒子都有一个由被优化的函数决定的适应值(fitness value),每个粒子还有一个速度决定他们飞翔的方向和距离。然后粒子们就追随当前的最优粒子在解空间中搜索。 PSO 初始化为一群随机粒子(随机解)。然后通过迭代找到最优解。在每一次迭代中,粒子通过跟踪两个"极值"来更新自己。第一个就是粒子本身所找到的最优解,这个解叫做个体极值pBest。另一个极值是整个种群目前找到的最优解,这个极值是全局极值gBest。另外也可以不用整个种群而只是用其中一部分作为粒子的邻居,那么在所有邻居中的极值就是局部极值。 粒子公式 在找到这两个最优值时,粒子根据如下的公式来更新自己的速度和新的位置: v[] = w * v[] + c1 * rand() * (pbest[] - present[]) + c2 * rand() * (gbest[] - present[]) (a) present[] = persent[] + v[] (b) v[] 是粒子的速度, w是惯性权重,persent[] 是当前粒子的位置. pbest[] and gbest[] 如前定义 rand () 是介于(0, 1)之间的随机数. c1, c2 是学习因子. 通常 c1 = c2 = 2. 程序的伪代码如下 For each particle ____Initialize particle END Do ____For each particle ________Calculate fitness value ________If the fitness value is better than the best fitness value (pBest) in history ____________set current value as the new pBest ____End ____Choose the particle with the best fitness value of all the particles as the gBest ____For each particle ________Calculate particle velocity according equation (a) ________Update particle position according equation (b) ____End While maximum iterations or minimum error criteria is not attained 在每一维粒子的速度都会被限制在一个最大速度Vmax,如果某一维更新后的速度超过用户设定的Vmax,那么这一维的速度就被限定为Vmax
㈡ 粒子群算法的优缺点
优点:PSO同遗传算法类似,是一种基于迭代的优化算法。系统初始化为一组随机解,通过迭代搜寻最优值。同遗传算法比较,PSO的优势在于简单容易实现,并且没有许多参数需要调整。
缺点:在某些问题上性能并不是特别好。网络权重的编码而且遗传算子的选择有时比较麻烦。最近已经有一些利用PSO来代替反向传播算法来训练神经网络的论文。
(2)粒子群优化算法c扩展阅读:
注意事项:
基础粒子群算法步骤较为简单。粒子群优化算法是由一组粒子在搜索空间中运动,受其自身的最佳过去位置pbest和整个群或近邻的最佳过去位置gbest的影响。
对于有些改进算法,在速度更新公式最后一项会加入一个随机项,来平衡收敛速度与避免早熟。并且根据位置更新公式的特点,粒子群算法更适合求解连续优化问题。
㈢ 离散粒子群优化算法的背景和意义是什么
定义粒子群优化算法(Particle Swarm optimization,PSO)又翻译为粒子群算法、微粒群算法、或微粒群优化算法。是通过模拟鸟群觅食行为而发展起来的一种基于群体协作的随机搜索算法。通常认为它是群集智能 (Swarm intelligence, SI) 的一种。它可以被纳入多主体优化系统 (Multiagent Optimization System, MAOS). 粒子群优化算法是由Eberhart博士和kennedy博士发明。PSO模拟鸟群的捕食行为PSO模拟鸟群的捕食行为。一群鸟在随机搜索食物,在这个区域里只有一块食物。所有的鸟都不知道食物在那里。但是他们知道当前的位置离食物还有多远。那么找到食物的最优策略是什么呢。最简单有效的就是搜寻目前离食物最近的鸟的周围区域。从模型中得到的启示PSO从这种模型中得到启示并用于解决优化问题。PSO中,每个优化问题的解都是搜索空间中的一只鸟。我们称之为“粒子”。所有的粒子都有一个由被优化的函数决定的适应值(fitnessvalue),每个粒子还有一个速度决定他们飞翔的方向和距离。然后粒子们就追随当前的最优粒子在解空间中搜索。PSO初始化PSO初始化为一群随机粒子(随机解),然后通过叠代找到最优解,在每一次叠代中,粒子通过跟踪两个“极值”来更新自己。第一个就是粒子本身所找到的最优解,这个解叫做个体极值pBest,另一个极值是整个种群目前找到的最优解,这个极值是全局极值gBest。另外也可以不用整个种群而只是用其中一部分最优粒子的邻居,那么在所有邻居中的极值就是局部极值。编辑本段算法介绍在找到这两个最优值时, 粒子根据如下的公式来更新自己的速度和新的位置v[] = v[] + c1 * rand() * (pbest[] - present[]) + c2 * rand() * (gbest[] - present[]) (a)present[] = persent[] + v[] (b)v[] 是粒子的速度, persent[] 是当前粒子的位置. pbest[] and gbest[] 如前定义 rand () 是介于(0, 1)之间的随机数. c1, c2 是学习因子. 通常 c1 = c2 = 2.程序的伪代码如下For each particle____Initialize particleENDDo____For each particle________Calculate fitness value________If the fitness value is better than the best fitness value (pBest) in history____________set current value as the new pBest____End____Choose the particle with the best fitness value of all the particles as the gBest____For each particle________Calculate particle velocity according equation (a)________Update particle position according equation (b)____EndWhile maximum iterations or minimum error criteria is not attained在每一维粒子的速度都会被限制在一个最大速度Vmax,如果某一维更新后的速度超过用户设定的Vmax,那么这一维的速度就被限定为Vmax。编辑本段遗传算法和PSO的比较共同点①种群随机初始化。②对种群内的每一个个体计算适应值(fitness value)。适应值与最优解的距离直接有关。③种群根据适应值进行复制 。④如果终止条件满足的话,就停止,否则转步骤② 。从以上步骤,我们可以看到PSO和遗传算法有很多共同之处。两者都随机初始化种群,而且都使用适应值来评价系统,而且都根据适应值来进行一定的随机搜索。两个系统都不是保证一定找到最优解。但是,PSO没有遗传操作如交叉(crossover)和变异(mutation),而是根据自己的速度来决定搜索。粒子还有一个重要的特点,就是有记忆。不同点与遗传算法比较,PSO的信息共享机制是很不同的。在遗传算法中,染色体(chromosomes)互相共享信息,所以整个种群的移动是比较均匀的向最优区域移动。在PSO中, 只有gBest (orlBest) 给出信息给其他的粒子, 这是单向的信息流动。整个搜索更新过程是跟随当前最优解的过程。与遗传算法比较, 在大多数的情况下,所有的粒子可能更快的收敛于最优解。编辑本段人工神经网络和PSO定义人工神经网络(ANN)是模拟大脑分析过程的简单数学模型,反向转播算法是最流行的神经网络训练算法。进来也有很多研究开始利用演化计算(evolutionary computation)技术来研究人工神经网络的各个方面。研究方面演化计算可以用来研究神经网络的三个方面:网络连接权重,网络结构(网络拓扑结构,传递函数),网络学习算法。不过大多数这方面的工作都集中在网络连接权重,和网络拓扑结构上。在GA中,网络权重和/或拓扑结构一般编码为染色体(Chromosome),适应函数(fitness function)的选择一般根据研究目的确定。例如在分类问题中,错误分类的比率可以用来作为适应值优缺点演化计算的优势在于可以处理一些传统方法不能处理的例子例如不可导的节点传递函数或者没有梯度信息存在。但是缺点在于:1、在某些问题上性能并不是特别好。2. 网络权重的编码而且遗传算子的选择有时比较麻烦。最近已经有一些利用PSO来代替反向传播算法来训练神经网络的论文。研究表明PSO 是一种很有潜力的神经网络算法。PSO速度比较快而且可以得到比较好的结果。而且还没有遗传算法碰到的问题。举例这里用一个简单的例子说明PSO训练神经网络的过程。这个例子使用分类问题的基准函数 (Benchmark function)IRIS数据集。(Iris 是一种鸢尾属植物) 在数据记录中,每组数据包含Iris花的四种属性:萼片长度,萼片宽度,花瓣长度,和花瓣宽度,三种不同的花各有50组数据. 这样总共有150组数据或模式。我们用3层的神经网络来做分类。现在有四个输入和三个输出。所以神经网络的输入层有4个节点,输出层有3个节点我们也可以动态调节隐含层节点的数目,不过这里我们假定隐含层有6个节点。我们也可以训练神经网络中其他的参数。不过这里我们只是来确定网络权重。粒子就表示神经网络的一组权重,应该是4*6+6*3=42个参数。权重的范围设定为[-100,100] (这只是一个例子,在实际情况中可能需要试验调整).在完成编码以后,我们需要确定适应函数。对于分类问题,我们把所有的数据送入神经网络,网络的权重有粒子的参数决定。然后记录所有的错误分类的数目作为那个粒子的适应值。现在我们就利用PSO来训练神经网络来获得尽可能低的错误分类数目。PSO本身并没有很多的参数需要调整。所以在实验中只需要调整隐含层的节点数目和权重的范围以取得较好的分类效果。
㈣ 粒子群优化的算法参数
PSO参数包括:群体规模m,惯性权重w,加速常数c1和c2,最大速度Vmax,最大代数Gmax,解空间[Xmin Xmax]。
Vmax决定在当前位置与最好位置之间的区域的分辨率(或精度)。如果Vmax太高,微粒可能会飞过好解,如果Vmax太小,微粒不能进行足够的探索,导致陷入局部优值。该限制有三个目的:防止计算溢出;实现人工学习和态度转变;决定问题空间搜索的粒度。
惯性权重w使微粒保持运动的惯性,使其有扩展搜索空间的趋势,有能力探索新的区域。
加速常数c1和c2代表将每个微粒推向pbest和gbest位置的统计加速项的权重。低的值允许微粒在被拉回来之前可以在目标区域外徘徊,而高的值导致微粒突然的冲向或者越过目标区域。
如果没有后两部分,即c1 = c2 = 0,微粒将一直以当前的速度飞行,直到到达边界。由于它只能搜索有限的区域,将很难找到好的解。
如果没有第一部分,即w = 0,则速度只取决于微粒当前的位置和它们历史最好位置pbest和gbest,速度本身没有记忆性。假设一个微粒位于全局最好位置,它将保持静止。而其它微粒则飞向它本身最好位置pbest和全局最好位置gbest的加权中心。在这种条件下,微粒群将统计的收缩到当前的全局最好位置,更象一个局部算法。
在加上第一部分后,微粒有扩展搜索空间的趋势,即第一部分有全局搜索的能力。这也使得w的作用为针对不同的搜索问题,调整算法全局和局部搜索能力的平衡。
如果没有第二部分,即c1 = 0,则微粒没有认知能力,也就是“只有社会(social-only)”的模型。在微粒的相互作用下,有能力到达新的搜索空间。它的收敛速度比标准版本更快,但是对复杂问题,比标准版本更容易陷入局部优值点。
如果没有第三部分,即c2 = 0,则微粒之间没有社会信息共享,也就是“只有认知(cognition-only)”的模型。因为个体间没有交互,一个规模为m的群体等价于m个单个微粒的运行。因而得到解的几率非常小。
㈤ 粒子群优化算法的参数设置
从上面的例子我们可以看到应用PSO解决优化问题的过程中有两个重要的步骤: 问题解的编码和适应度函数PSO的一个优势就是采用实数编码, 不需要像遗传算法一样是二进制编码(或者采用针对实数的遗传操作.例如对于问题 f(x) = x1^2 + x2^2+x3^2 求解,粒子可以直接编码为 (x1, x2, x3), 而适应度函数就是f(x). 接着我们就可以利用前面的过程去寻优.这个寻优过程是一个叠代过程, 中止条件一般为设置为达到最大循环数或者最小错误
PSO中并没有许多需要调节的参数,下面列出了这些参数以及经验设置
粒子数: 一般取 20–40. 其实对于大部分的问题10个粒子已经足够可以取得好的结果, 不过对于比较难的问题或者特定类别的问题, 粒子数可以取到100 或 200
粒子的长度: 这是由优化问题决定, 就是问题解的长度
粒子的范围: 由优化问题决定,每一维可是设定不同的范围
Vmax: 最大速度,决定粒子在一个循环中最大的移动距离,通常设定为粒子的范围宽度,例如上面的例子里,粒子 (x1, x2, x3) x1 属于 [-10, 10], 那么 Vmax 的大小就是 20
学习因子: c1 和 c2 通常等于 2. 不过在文献中也有其他的取值. 但是一般 c1 等于 c2 并且范围在0和4之间
中止条件: 最大循环数以及最小错误要求. 例如, 在上面的神经网络训练例子中, 最小错误可以设定为1个错误分类, 最大循环设定为2000, 这个中止条件由具体的问题确定.
全局PSO和局部PSO: 我们介绍了两种版本的粒子群优化算法: 全局版和局部版. 前者速度快不过有时会陷入局部最优. 后者收敛速度慢一点不过很难陷入局部最优. 在实际应用中, 可以先用全局PSO找到大致的结果,再用局部PSO进行搜索.
另外的一个参数是惯性权重, 由Shi 和Eberhart提出, 有兴趣的可以参考他们1998年的论文(题目: A modified particle swarm optimizer)。
㈥ 粒子群优化算法C语言实现
随着计算机技术的不断发展,软件的规模越来越大,随之而来软件的错误也越来越隐蔽,造成的后果也越来越严重。因此,提高软件质量及可靠性己成为软件工程领域的重要任务。而软件测试则是保证软件质量、提高软件可靠性的关键。但软件测试需要耗费巨大的人力、物力和时间,故提高软件测试的自动化程度对于确保软件开发质量、降低软件开发成本都是非常重要的。其中,提高生成测试用例的自动化程度又是提高软件测试自动化程度的关键。 本文分析了软件测试中测试用例自动生成技术的发展现状和粒子群优化算法的基本原理及实现步骤,并详细研究了几种重要的改进的粒子群优化算法。在此基础上,改进了基本粒子群优化算法,提出了基于改进的粒子群优化算法的测试用例自动生成系统框架,并给出了基于改进的粒子群优化算法的测试用例自动生成算法。最后,采用C语言编程实现了基于改进的粒子群优化算法的测试用例自动生成算法,用具体实例对其进行了实验,并对结果数据进行了分析。 本文提出的基于改进的粒子群优化算法的测试用例自动生成算法具有简单、易实现、设置参数少和收敛速度快等特点。实验结果表明,使用本文提出的算法测试用例自动生成的效果明显优于遗传算法等测试用例自动生成算法。 本文提出的基于改进的粒子群优化算法的测试用例自动生成算法提高了测试用例自动生成的效率,但该算法只实现了数值类型的数据,而且还存在手动操作问题,这将是作者下一步的主要研究方向。
㈦ 粒子群优化算法的优化参数范围怎么确定
参数设置时:
LB=[0.5 1 0.3 1]';
UB=[1 2 0.8 1.5]';
这样就确定了参数范围了
㈧ 最优化 粒子群法
运行结果。
function[xm,fv]=PSO(fitness,N,c1,c2,w,M,D)
%[xm,fv]=PSO(@fitness,40,2,2,0.8,1000,2)
%
%求解无约束优化问题
%fitness待优化目标函数
%N粒子数目,
%cX学习因子
%W惯性权重
%M最大迭代次数
%D自由变量的个数
%xm目标函数取最小值时的自由变量
%fv目标函数的最小值
%Detailedexplanationgoeshere
tic;
formatlong;
%------step1.初始化种群的个体------------
x=zeros(N,D);
v=zeros(N,D);
fori=1:N
forj=1:D
x(i,j)=100*rand-50;%随机初始化位置
v(i,j)=100*rand-50;%随机初始化速度
end
end
%------step2.先计算各个粒子的适应度,并初始化Pi和PgPg为全局最优-------------
p=zeros(N,1);
%y=zeros(N,D);
fori=1:N
p(i)=fitness(x(i,:));
%y(i,:)=x(i,:);
end
y=x;
pg=x(N,:);%Pg为全局最优
fori=1:(N-1)
iffitness(x(i,:))<fitness(pg)
pg=x(i,:);
end
end
%------step3.进入主要循环,按照公式依次迭代------------
%Pbest=zeros(M,1);
fort=1:M
fori=1:N
v(i,:)=w*v(i,:)+c1*rand*(y(i,:)-x(i,:))+c2*rand*(pg-x(i,:));
fork=1:D
ifv(i,k)>10%10=vmax
v(i,k)=10;
end
end
x(i,:)=x(i,:)+v(i,:);
fork=1:D
ifx(i,k)>50%50=xmax
x(i,k)=31;
end
end
iffitness(x(i,:))<p(i)
p(i)=fitness(x(i,:));
y(i,:)=x(i,:);
end
ifp(i)<fitness(pg)
pg=y(i,:);
end
end
%Pbest(t)=fitness(pg);
end
xm=pg';
fv=fitness(pg);
toc;
㈨ C++的粒子群优化算法运行结果是怎么样的
它是每进化一代就差找一次,能否找到结果是看你设置的最大迭代次数和终止条件是否满足。你可以看pso算法的两个公式。
算法运行和用什么语言没关系。
PSO的具体实现步骤如下:
Step1: 参数初始化。
在初始范围内,随机初始化一群粒子。即设置种群规模m,粒子的初始位置 x1,x2,...,xm,初始速度v1,,v2…,vm,并将各粒子的个体最优pi设置为初始位置,全局最优值pg设为pi中的最优值。
Step2: 根据速度和位置公式对粒子的速度和位置进行更新。
Step3: 计算每个粒子的适应值。
Step4: 判断每个粒子的个体最优值。
对每个粒子,将其当前的适应值和上一次的个体最优值pi进行比较,如果当前适应值优于pi,则令pi取当前适应值,否则,个体最优值仍为原来的pi(其中i=1,2,...,m)。
Step5:判断整个粒子群的全局最优值。
比较当前每个粒子的个体最优值,找出当前迭代中的全局最优值,与历史全局最优pg比较,如果优于pg,则令pg取当前迭代中的全局最优值,否则,全局最优pg还取原来的值。
Step6: 判断是否满足终止条件。如果满足则转入Step7;否则,转Step2,继续迭代。
Step7: 输出全局最优解,算法进行结束。
㈩ 粒子群优化参数寻优
研究PSO参数寻优中,采用粒子群算法对SVM的参数(惩罚参数C,核函数参数σ)进行最优选择。PSO是一种进化计算技术,由Eberhart和Kennedy于1995年提出,其思想源于鸟类捕食行为,算法的数学描述如下(何同弟等,2011):
设在一个D维搜索空间中,由有m个粒子组成的一个群体,其中第i个粒子的位置表示为向量zi=(zi1,zi2,…,ziD),i=1,2,…,m。第i个粒子的飞行速度表示为向量vi=(vi1,vi2,…,viD),其搜索的最佳位置pi=(pi1,pi2,…,piD),整个粒子群搜索到的最优位置pg=(pg1,pg2,…,pgD)。找到这两个最优位置时,各粒子根据如下公式更新自己的速度和位置:
高光谱遥感影像信息提取技术
式中:i=1,2,…,m;ψ是惯性权重函数,用来控制前面速度对当前速度的影响;c1和c2称为加速因子,为非负常数;r1和r2是[0,1]的随机数。