遺傳演算法f

1. 遺傳演算法

例如：[1,2,3]，[1,3,2]，[3,2,1]均是函數 3x+4y+5z<100 的可行解（代進去成立即為可行解），那麼這些可行解在遺傳演算法中均稱為「染色體」。可行解由 3 個元素構成，每個元素都稱為染色體的一個基因。

遺傳演算法在運行過程中會進行 N 次迭代，每次迭代都會生成若干條染色體。適應度函數會給本次迭代中生成的所有染色體打個分，來評判這些染色體的適應度，然後將適應度低的染色體淘汰，只保留適應度高的染色體，從而講過若干次迭代後染色體的質量將越來越好。

遺傳演算法每次迭代會生成 N 條染色體，在遺傳演算法中一次迭代被稱為一次進化。每次進化新的染色體生成的方法——交叉。

每一次進化完成後，都要計算每一條染色體的適應度+適應度概率。在交叉過程中就需要根據這個概率來選擇父母染色體。適應度高的染色體被選中的概率越高。（這就是遺傳演算法能夠保留優良基因的原因）

交叉能保證每次進化留下優良的基因，但它僅僅是對原有的結果集進行選擇，基因還是那麼幾個，只不過交換了它們的順序。這只能保證 N 次進化後，計算結果更接近於局部最優解，而永遠沒辦法達到全局最優解（？？？？？），為了解決這個問題，需引入變異。

假設每次進化都需要生成 N 條染色體，那麼每次進化中，通過交叉方式需要生成 N-M 條，剩餘的 M 條染色體通過復制上一代適應度最高的 M 條染色體而來。

本文的目標是使所有任務的總處理時間最少，時間越短適應度越大。適應度 = 1 / 所有任務的總處理時間

將任務從 0 開始編號，用一個一維數組存儲每個任務的時長

tasks[i] ：表第 i 個任務的長度。
第 0 個任務的長度為 2；
第 1 個任務的長度為 4；
第 2 個任務的長度為 6；
第 3 個任務的長度為 8；

將處理器節點從 0 開始編號，用一個一維數組存儲每個處理器的處理速度（單位時間內可處理的長度）

nodes[i] 表第 i 個節點的處理速度。
第 0 個節點的處理速度為 2；
第 1 個節點的處理速度為 1。

timeMatrix[i][j] 表第 i 個任務在第 j 個節點上處理的話，所需處理時間。

一個可行解就是一個染色體，就是一個一維數組

chromosome[i]=j 表將第 i 個任務分配到節點 j 上處理（任務編號從 0 開始；節點編號從 0 開始）

將任務 0 分配給 3 號節點處理；
將任務 1 分配給 2 號節點處理；
將任務 2 分配給 1 號節點處理；
將任務 3 分配給 0 號節點處理。

記錄本次進化生成的 N 條染色體的適應度，將染色體從 0 開始編號。

adaptablility[i] 表第 i 個染色體的適應度

selectionProbability[i] 表第 i 個染色體的適應度概率，所有染色體的適應度概率和為 1 。

java中PriorityQueue優先順序隊列使用方法

第 2 次迭代結果

第 100 次迭代結果

2. 什麼是遺傳演算法

遺傳演算法（Genetic Algorithm）是模擬達爾文生物進化論的自然選擇和遺傳學機理的生物進化過程的計算模型，是一種通過模擬自然進化過程搜索最優解的方法。遺傳演算法是從代表問題可能潛在的解集的一個種群（population）開始的，而一個種群則由經過基因（gene）編碼的一定數目的個體(indivial)組成。每個個體實際上是染色體(chromosome)帶有特徵的實體。染色體作為遺傳物質的主要載體，即多個基因的集合，其內部表現（即基因型）是某種基因組合，它決定了個體的形狀的外部表現，如黑頭發的特徵是由染色體中控制這一特徵的某種基因組合決定的。因此，在一開始需要實現從表現型到基因型的映射即編碼工作。由於仿照基因編碼的工作很復雜，我們往往進行簡化，如二進制編碼，初代種群產生之後，按照適者生存和優勝劣汰的原理，逐代（generation）演化產生出越來越好的近似解，在每一代，根據問題域中個體的適應度（fitness）大小選擇（selection）個體，並藉助於自然遺傳學的遺傳運算元（genetic operators）進行組合交叉（crossover）和變異（mutation），產生出代表新的解集的種群。這個過程將導致種群像自然進化一樣的後生代種群比前代更加適應於環境，末代種群中的最優個體經過解碼（decoding），可以作為問題近似最優解。

3. 遺傳演算法特點

遺傳演算法有以下特點：不會產生無效的路徑，但是在復雜的環境中，很難創建鏈接圖。此外，遺傳演算法計算效率低，計算時間長，在遺傳進化過程中需要大量的存儲空間。

4. 遺傳演算法的優缺點

優點：

1、遺傳演算法是以決策變數的編碼作為運算對象，可以直接對集合、序列、矩陣、樹、圖等結構對象進行操作。這樣的方式一方面有助於模擬生物的基因、染色體和遺傳進化的過程，方便遺傳操作運算元的運用。

另一方面也使得遺傳演算法具有廣泛的應用領域，如函數優化、生產調度、自動控制、圖像處理、機器學習、數據挖掘等領域。

2、遺傳演算法直接以目標函數值作為搜索信息。它僅僅使用適應度函數值來度量個體的優良程度，不涉及目標函數值求導求微分的過程。因為在現實中很多目標函數是很難求導的，甚至是不存在導數的，所以這一點也使得遺傳演算法顯示出高度的優越性。

3、遺傳演算法具有群體搜索的特性。它的搜索過程是從一個具有多個個體的初始群體P(0)開始的，一方面可以有效地避免搜索一些不必搜索的點。

另一方面由於傳統的單點搜索方法在對多峰分布的搜索空間進行搜索時很容易陷入局部某個單峰的極值點，而遺傳演算法的群體搜索特性卻可以避免這樣的問題，因而可以體現出遺傳演算法的並行化和較好的全局搜索性。

4、遺傳演算法基於概率規則，而不是確定性規則。這使得搜索更為靈活，參數對其搜索效果的影響也盡可能的小。

5、遺傳演算法具有可擴展性，易於與其他技術混合使用。以上幾點便是遺傳演算法作為優化演算法所具備的優點。

缺點：

1、遺傳演算法在進行編碼時容易出現不規范不準確的問題。

2、由於單一的遺傳演算法編碼不能全面將優化問題的約束表示出來，因此需要考慮對不可行解採用閾值，進而增加了工作量和求解時間。

3、遺傳演算法效率通常低於其他傳統的優化方法。

4、遺傳演算法容易出現過早收斂的問題。

(4)遺傳演算法f擴展閱讀

遺傳演算法的機理相對復雜，在Matlab中已經由封裝好的工具箱命令，通過調用就能夠十分方便的使用遺傳演算法。

函數ga：[x, fval,reason]= ga(@fitnessfun, nvars, options)x是最優解，fval是最優值，@fitnessness是目標函數，nvars是自變數個數，options是其他屬性設置。系統默認求最小值，所以在求最大值時應在寫函數文檔時加負號。

為了設置options，需要用到下面這個函數：options=gaoptimset('PropertyName1', 'PropertyValue1', 'PropertyName2', 'PropertyValue2','PropertyName3', 'PropertyValue3', ...)通過這個函數就能夠實現對部分遺傳演算法的參數的設置。

5. 遺傳演算法的基本原理

遺傳演算法本質上是對染色體模式所進行的一系列運算，即通過選擇運算元將當前種群中的優良模式遺傳到下一代種群中，利用交叉運算元進行模式重組，利用變異運算元進行模式突變。

6. 關於遺傳演算法

遺傳演算法（Genetic Algorithm，簡稱GA）是美國 Michigan大學的 John Golland提出的一種建立在自然選擇和群體遺傳學機理基礎上的隨機、迭代、進化、具有廣泛適用性的搜索方法。現在已被廣泛用於學習、優化、自適應等問題中。圖4-1 給出了 GA搜索過程的直觀描述。圖中曲線對應一個具有復雜搜索空間（多峰空間）的問題。縱坐標表示適應度函數（目標函數），其值越大相應的解越優。橫坐標表示搜索點。顯然，用解析方法求解該目標函數是困難的。採用 GA時，首先隨機挑選若干個搜索點，然後分別從這些搜索點開始並行搜索。在搜索過程中，僅靠適應度來反復指導和執行 GA 搜索。在經過若干代的進化後，搜索點後都具有較高的適應度並接近最優解。

一個簡單GA由復制、雜交和變異三個遺傳運算元組成：

圖4-2 常規遺傳演算法流程圖

7. 遺傳演算法

遺傳演算法是從代表問題可能潛在解集的一個種群開始的，而一個種群則由經過基因編碼的一定數目的個體組成。每個個體實際上是染色體帶有特徵的實體。染色體作為遺傳物質的主要載體，即多個基因的集合，其內部表現（即基因型）是某種基因的組合，它決定了個體形狀的外部表現，如黑頭發的特徵是由染色體中控制這一特徵的某種基因組合決定的。因此，在一開始需要實現從表現型到基因型的映射即編碼工作。由於仿照基因編碼的工作很復雜，我們往往進行簡化，如二進制編碼。初始種群產生之後，按照適者生存和優勝劣汰的原理，逐代（generation）演化產生出越來越好的近似解。在每一代，根據問題域中個體的適應度（fitness）大小挑選（selection）個體，並藉助於自然遺傳學的遺傳運算元（genetic operators）進行組合交叉（crossover）和變異（mutation），產生出代表新的解集的種群。這個過程將導致種群自然進化一樣的後生代種群比前代更加適應環境，末代種群中的最優個體經過編碼（decoding），可以作為問題近似最優解。

5.4.1 非線性優化與模型編碼

假定有一組未知參量

x_i（i=1，2，…，M）

構成模型向量m，它的非線性目標函數為Φ（m）。根據先驗知識，對每個未知量都有上下界α_i及b_i，即α_i≤x≤b_i，同時可用間隔d_i把它離散化，使

d_i=（b_i-α_i）/N （5.4.1）

於是，所有允許的模型m將被限制在集

x_i=α_i+jd_i（j=0，1，…，N） （5.4.2）

之內。

通常目標泛函（如經濟學中的成本函數）表示觀測函數與某種期望模型的失擬，因此非線性優化問題即為在上述限制的模型中求使Φ（m）極小的模型。對少數要求擬合最佳的問題，求目標函數的極大與失擬函數求極小是一致的。對於地球物理問題，通常要進行殺重離散化。首先，地球模型一般用連續函數表示，反演時要離散化為參數集才能用於計算。有時，也將未知函數展開成已知基函數的集，用其系數作為離散化的參數集x_i，第二次離散化的需要是因為每一個未知參數在其變化范圍內再次被離散化，以使離散模型空間最終包含著有限個非線性優化可選擇的模型，其個數為

地球物理數據處理教程

其中M為未知參數x_i的個數。由此式可見，K決定於每個參數離散化的間隔d_i及其變化范圍（α_i，b_i），在大多數情況下它們只能靠先驗知識來選擇。

一般而言，優化問題非線性化的程度越高，逐次線性化的方法越不穩定，而對蒙特卡洛法卻沒有影響，因為此法從有限模型空間中隨機地挑選新模型並計算其目標函數 Φ（m）。遺傳演算法與此不同的是同時計算一組模型（開始時是隨機地選擇的），然後把它進行二進制編碼，並通過繁殖、雜交和變異產生一組新模型進一步有限的模型空間搜索。編碼的方法可有多種，下面舉最簡單的例說明之，對於有符號的地球物理參數反演時的編碼方式一般要更復雜些。

假設地球為有三個水平層的層次模型，含層底界面深度h_j（j=1，2，3）及層速度v_j（j=1，2，3）這兩組參數。如某個模型的參數值為（十進制）：

h₁=6，h₂=18，h₃=28，單位為10m

v₁=6，v₂=18，v₃=28，單位為 hm/s

按正常的二進制編碼法它們可分別用以下字元串表示為：

地球物理數據處理教程

為了減少位元組，這種編碼方式改變了慣用的單位制，只是按精度要求（深度為10m，波速為hm/s）來規定參數的碼值，同時也意味著模型空間離散化間距d_i都規格化為一個單位（即10m，或hm/s）。當然，在此編碼的基礎上，還可以寫出多種新的編碼字元串。例如，三參數值的對應位元組順序重排，就可組成以下新的二進制碼串：

地球物理數據處理教程

模型參數的二進制編碼是一種數學上的抽象，通過編碼把具體的非線性問題和生物演化過程聯系了起來，因為這時形成的編碼字元串就相當於一組遺傳基因的密碼。不僅是二進制編碼，十進制編碼也可直接用於遺傳演算法。根據生物系統傳代過程的規律，這些基因信息將在繁殖中傳到下一帶，而下一代將按照「適者生存」的原則決定種屬的發展和消亡，而優化准則或目標函數就起到了決定「適者生存」的作用，即保留失擬較小的新模型，而放棄失擬大的模型。在傳帶過程中用編碼表示的基因部分地交合和變異，即字元串中的一些子串被保留，有的改變，以使傳代的過程向優化的目標演化。總的來說，遺傳演算法可分為三步：繁殖、雜交和變異。其具體實現過程見圖5.8。

圖5.8 遺傳演算法實現過程

5.4.2 遺傳演算法在地震反演中的應用

以地震走時反演為例，根據最小二乘准則使合成記錄與實測數據的擬合差取極小，目標函數可取為

地球物理數據處理教程

式中：T_i，0為觀測資料中提取出的地震走時；T_i，s為合成地震或射線追蹤算出的地震走時；ΔT為所有合成地震走時的平均值；N_A為合成地震數據的個數，它可以少於實測T_i，0的個數，因為在射線追蹤時有陰影區存在，不一定能算出合成數據T_j，0。利用射線追蹤計算走時的方法很多，參見上一章。對於少數幾個波速為常數的水平層，走時反演的參數編碼方法可參照上一節介紹的分別對深度和速度編碼方法，二進制碼的字元串位數1不會太大。要注意的是由深度定出的字元串符合數值由淺到深增大的規律，這一約束條件不應在雜交和傳代過程中破壞。這種不等式的約束（h₁＜h₂＜h₃…）在遺傳演算法中是容易實現的。

對於波場反演，較方便的做法是將地球介質作等間距的劃分。例如，將水平層狀介質細分為100個等厚度的水平層。在上地殼可假定波速小於6400 m/s（相當於解空間的硬約束），而波速空間距為100m/s，則可將波速用100m/s為單位，每層用6位二進制字元串表示波速，地層模型總共用600位二進制字元串表示（l=600）。初始模型可隨機地選取24～192個，然後通過繁殖雜交與變異。雜交概率在0.5～1.0之間，變異概率小於0.01。目標函數（即失擬方程）在頻率域可表示為

地球物理數據處理教程

式中：P₀（ω_k，v_j）為實測地震道的頻譜；ω_k為角頻率；v_j為第j層的波速；P_s（ω_k，v_j）為相應的合成地震道；A（ω_k）為地震儀及檢波器的頻率濾波器，例如，可取

A（ω）=sinC⁴（ω/ω_N） （5.4.6）

式中ω_N為Nyquist頻率，即ω_N=π/Δt，Δt為時間采樣率。參數C為振幅擬合因子，它起到合成與觀測記錄之間幅度上匹配的作用。C的計算常用地震道的包絡函數的平均比值。例如，設E［］為波動信號的包絡函數，可令

地球物理數據處理教程

式中：t_max為包絡極大值的對應時間；J為總層數。包絡函數可通過復數道的模擬取得。

用遺傳演算法作波速反演時失擬最小的模型將一直保存到迭代停止。什麼時候停止傳代還沒有理論上可計算的好辦法，一般要顯示解空間的搜索范圍及局部密度，以此來判斷是否可以停止傳代。值得指出的是，由（5.4.4）和（5.4.5）式給出的目標函數對於有誤差的數據是有問題的，反演的目標不是追求對有誤差數據的完美擬合，而是要求出准確而且解析度最高的解估計。

遺傳演算法在執行中可能出現兩類問題。其一稱為「早熟」問題，即在傳代之初就隨機地選中了比較好的模型，它在傳代中起主導作用，而使其後的計算因散不開而白白浪費。通常，增加Q值可以改善這種情況。另一類問題正相反，即傳相當多代後仍然找不到一個特別好的解估計，即可能有幾百個算出的目標函數值都大同小異。這時，最好修改目標函數的比例因子（即（5.4.5）式的分母），以使繁殖概率P_s的變化范圍加大。

對於高維地震模型的反演，由於參數太多，相應的模型字元串太長，目前用遺傳演算法作反演的計算成本還嫌太高。實際上，為了加快計算，不僅要改進反演技巧和傳代的控制技術，而且還要大幅度提高正演計算的速度，避免對遺傳演算法大量的計算花費在正演合成上。

8. 遺傳演算法理解

遺傳演算法是一種進化演算法，進化是什麼哪？就是種群逐漸適應生存環境，種群中個體不斷得到改良的過程。

遺傳演算法是一種對生物遺傳的模擬、在演算法中，初始化一個種群，種群中的每個染色體個體都是一種解決方案，我們通過適應性fitness來衡量這個解決方案的好壞。並對它們進行選擇、變異、交叉的操作，找到最優的解決方案。

總結一下遺傳演算法的基本的步驟：

1.初始化一個種群，並評估每條染色體所對應個體的適應度。

2.選擇、交叉、變異，產生新的種群

3.再評估每個個體的適應值，如果適應值達到要求或者達到最大循環次數，否則重復2，不斷產生新種群。

知道了GA的大致流程之後、來具體分析一下細節，怎麼實現吧

我們知道遺傳演算法起源於生物遺傳，因此在種群中每個個體就是一個染色體，那如何對染色體進行編碼，讓它表示我們的解決方案那（就是把現實要優化的參數用編碼表示成一個染色體）。這里就遇到了一個編碼、解碼的問題，我們將需要優化的目標編碼成染色體，然後再解碼為我們可以用來計算fitness的解；

一般在進行參數優化時，一般有兩種方式：實數編碼、二進制編碼

實數編碼：基因直接用實數進行表示，這樣的表示方法比較簡單，不用特意解碼了，但是在交叉和變異時，容易過早收斂，陷入局部最優。

二進制編碼：將基因用二進制的形式表示，將參數的值轉化為二進制形式，這樣交叉、變異時更好操作，多樣性好，但是佔用的存儲空間大，需要解碼。

染色體就稱為個體。對於一次實驗，個體就是需要優化參數的一種解、許多這樣的個體就構成了種群。

在面對群體中那麼多個體時，如何判斷個體的好壞呢，就是通過適應值函數了，將解帶入適應值函數，適應值越大、解越好。

在遺傳演算法中，我們怎麼使得裡面的個體變得越來越優秀呢？

核心思想就是：選擇優秀的、淘汰不好的，並且為了生成更好的解，我們要嘗試交叉、變異，帶來新的解。

選擇就是從當前的種群中選擇出比較好的個體、淘汰不好的個體

常見的選擇方法有：輪盤賭選擇、錦標賽選擇、最佳保留選擇等等

輪盤賭選擇就是根據每個個體fitness和種群所有fitness之和比較，確定每個個體被選中的概率，然後進行n次選擇，選擇n個個體構成新種群，是一種放回抽樣的方式。

錦標賽就是每次從種群中選擇m個個體，選擇最優的，放入新種群，重復選擇，直到新種群中個體數目達到n。

最佳保留選擇就是在輪盤賭的基礎上，將fitness個體先加進新種群，因為輪盤賭是一種概率模型，可能存在最優個體沒有進入新種群的情況。

在選擇之後，就要考慮產生新的、更優秀的解，為種群帶來新的血液。遺傳演算法的思路是交叉兩個優秀的解，往往get好的解。

交叉通過在經過選擇的種群中，隨機選擇一對父母，將它們的染色體進行交叉，生成新的個體，替代原來的解。

常用的交叉方法有：單點交叉、多點交叉等等。

交叉就像生物裡面，染色體交換基因一樣的～但是並不是種群中所有個體都進行交叉的，實現時可以，設置一個交叉率和交叉概率，隨機選擇種群中兩個體、隨機一個數，小於交叉率就進行交叉操作，並根據交叉概率判斷交叉的程度，從而生成新個體，反之就保留這兩個體。

變異也是一種產生新個體的方式，通過改變個體上基因，期望產生更好的解。比如在以二進制編碼的個體上，將裡面的0、1進行等位變化啥的，就是0變1、1變0這樣。同樣也要考慮變異率、變異產生的新解是不可控的，可能很好，也可能很壞，不能像交叉一樣，確保一定的效果，所以往往變異率設置的比較小。

9. 遺傳演算法^[1，]

遺傳演算法，又稱基因演算法(Genetic Algorithm，簡稱GA)，也是一種啟發式蒙特卡洛優化演算法。遺傳演算法最早是由Holland(1975)提出，它模擬了生物適者生存、優勝劣汰的進化過程，具有不依賴於初始模型的選擇、不容易陷入局部極小、在反演過程中不用計算偏導數矩陣等優點。遺傳演算法最早由Stoffa和Sen(1991)用於地震波的一維反演，之後在地球物理資料的非線性反演中得到廣泛的應用。GA演算法對模型群體進行追蹤、搜索，即模型狀態通過模型群體傳送，具有比模擬退火法更大、更復雜的「記憶」，潛力更大。

遺傳演算法在反演中的基本思路和過程是:

(1)將生物體看成模型，模型參數看成染色體，有多少個模型的參數就有多少個染色體。對每個模型的參數(染色體)用二進制進行編碼，這個編碼就是基因。

(2)隨機生成一個模型群體(相當於生物的種群)，然後在模型群體中進行繁殖，通過母本的選擇、交換和變異等遺傳操作產生下一代，然後保留較好基因，淘汰較差基因。

(3)通過一代一代的繁殖優勝劣汰的進化過程，最後所剩下的種群基本上都是最優的基因，種群趨於一致。所謂群體「一致」，即群體目標函數的方差或標准差很小，或者群體目標函數的均值接近於極值(可能是極大值或極小值)，從而獲得非線性反演問題所對應的最優解或近似最優解。

下面以一個實例來簡述遺傳演算法的基本過程。

[例1]設m是正整數，且0≤m≤127，求方程φ(m)=m²的極大值。

這個例子極為簡單，只有一個模型參數，因此只有一條染色體，目標函數的極值是極大值(此例子來自阮百堯課件)。遺傳演算法通過以下7個步驟來實現:

(1)模型參數二進制編碼。

每個模型參數就是一條染色體，把十進制的模型參數表示為二進制，這就是基因。首先確定二進制碼的長度(基因的長度):

2^N=[m_max(i)-m_min(i)]/Δm(i) (8.20)

其中:N為第i條染色體基因的長度(也就是第i個模型參數的二進制碼位數);[m_min(i)，m_max(i)]為第i個模型參數的取值范圍;Δm(i)為第i個模型參數的解析度。這樣就把模型參數離散化了，它只能按Δm(i)的整數倍變化。基因的長度按下式計算:

地球物理反演教程

其中:c為實數;N為基因長度，是整數;int[ ]為取整函數。上式表示如果c不是整數，那麼基因長度N就是對c取整後加1，這樣保證最小解析度。

基因的編碼按下式進行:

地球物理反演教程

其中:式(8.22)是編碼公式;k為基因編碼的十進制數，是整數;int[ ]為取整函數。把k轉化為二進制就是基因的編碼。解碼是按照式(8.23)進行的。首先把一個基因的二進制編碼轉化為十進制數k，然後按式(8.23)可以計算出第i個模型參數m(i)的十進制值。

例如:電阻率參數ρ(1)，它的變化范圍為10~5000Ω·m，解析度為2Ω·m，設當前參數ρ(1)=133Ω·m，按式(8.21)計算得

c=11.28482，N=12

所以二進制基因長度為13位。

利用式(8.22)計算基因編碼k的十進制數:

k=int[(133-10)/2]=61

把它轉化為二進制數為:000000111101。所以ρ(1)=133 的二進制基因編碼為:000000111101。

解碼過程就是把二進制基因編碼變為十進制數k後用式(8.23)計算:

ρ(1)=10+61×2=132(Ω·m)

注意:基因編碼並不是直接把電阻率值變為二進制。此外，133這個值在基因里不會出現，因為解析度是2，所以表示為最接近的132。

對於[例1]問題來說，選解析度為1，0~127用二進制編碼需7位。

(2)產生初始模型種群。

生物繁殖進化需要一定數量的生物體種群，因此遺傳演算法開始時需要一定數量的初始模型。為保證基因的多樣性，隨機產生大量的初始模型作為初始種群，按照上面的編碼方式進行編碼。個體在模型空間中應分布均勻，最好是模型空間各代表區域均有成員。初始模型群體大，有利於搜索，但太大會增加計算量。

為保證演算法收斂，在初始模型群體中，有時候應增加各位都為0和都為1的成員。遺傳演算法就是在這個初始模型種群的基礎上進行繁殖，進化求解的。

對於[例1]問題來說，模型空間是0~127個數字，這樣初始種群最多具有128個個體。為了簡單，隨機選擇4個個體作為初始種群。初始種群的編碼、目標函數值見表8.1。

表8.1 初始種群編碼表

(3)模型選擇。

為了生成新一代模型，需要選擇較優的個體進行配對。生物進化按照自然選擇、優勝劣汰的准則進行。對應地，遺傳演算法按照一定的准則來選擇母本(兩個)，然後進行配對繁殖下一代模型，這個選擇稱為模型選擇。模型配對最基本的方法是隨機采樣，用各模型的目標函數值對所有模型目標函數的平均值的比值定義繁殖概率，即

地球物理反演教程

其中:p(m_i)為繁殖概率;φ(m_i)為第i個模型的目標函數;φ_AVG為目標函數的平均值。對於極小化問題來說，規定目標函數值高於平均值的不傳代;對於極大化問題來說，反之即可。

就[例1]來說，要求目標函數取極大值，所以規定目標函數小於平均值的模型不傳代，大於它的可以傳代。對第一代，為了防止基因丟失，可先不捨去繁殖概率小的模型，讓它與概率大的模型配對。如:本例中70與56配對，101與15配對產生子代，見表8.2。

表8.2 基因交換表

(4)基因交換。

將配對的兩個親本模型的部分染色體相互交換，其中交換點可隨機選擇，形成兩個新的子代(見表8.2)。兩個染色體遺傳基因的交換過程是遺傳演算法的「繁殖」過程，是母本的重組過程。

為了使染色體的基因交換比較徹底，Stoffa等人提出了一個交換概率p_x來控制選擇操作的效果。如果p_x的值較小，那麼交換點的位置就比較靠低位，這時的交換操作基本是低位交換，交換前後模型的染色體變化不是太大。如果p_x的值較大，那麼交換點的位置就比較靠高位，此時的交換操作可以在較大的染色體空間進行，交換前後模型數值變化可以很大。

在[例1]中:15、101和56、70作為母本通過交換繁殖出子代5、6、111、120。所選擇的基因交換位置見表8.2。有下劃線的，是要交換的基因位置。

(5)更新。

母本模型和子本模型如何選擇保留一定數量作為新的母本，就是模型更新。不同的策略會導致不同的結果。一般而言，若產生的新一代模型較好，則選擇新一代模型而淘汰上一代模型。否則，則必須根據一定的更新概率p_u來選擇上一代模型來取代新一代中某些較劣的模型。

經過更新以後，繁殖時對子代再進行優勝劣汰的選擇。對於極大值問題，大於目標函數平均值的子代可以繁殖，小於目標函數平均值的子代不能繁殖。由於新的種群能繁殖的個體數量減小了，所以要多繁殖幾次，維持種群個體的數量保持平衡。

在[例1]中，子代較好，所以完全淘汰上一代模型，完全用子代作為新的母本。選擇子代目標函數最大的兩個模型進行繁殖，分別是111、120。

(6)基因變異。

在新的配對好的母本中，按一定比例隨機選擇模型進行變異，變異操作就是模擬自然界中的環境因素，就是按比較小的變異概率p_m將染色體某位或某幾位的基因發生突變(即將0變為1或將1變為0)。

變異操作的作用是使原來的模型發生某些變化，從而成為新的個體。這樣可使群體增加多樣性。變異操作在遺傳演算法中也起著至關重要的作用。實際上，由於搜索空間的性質和初始模型群體的優劣，遺傳演算法搜索過程中往往會出現所謂的「早熟收斂」現象，即在進化過程中早期陷入局部解而中止進化。採用合適的變異策略可提高群體中個體的多樣性，從而防止這種現象的出現，有助於模型跳出局部極值。表8.3為[例1]的基因變異繁殖表。

表8.3 基因變異繁殖表

在[例1]中，用111、120分別繁殖兩次，形成4個子代，維持種群數量平衡。隨機選擇120進行變異，變異的位數也是隨機的。這里把它的第2位進行變異，即從1變為0，繁殖後形成子代為:70、110、121、127。可以看出新的子代比初始種群要好得多，其中甚至已經出現了最優解。如果對於地球物理的極小值問題，我們可以預先設置一個擬合精度，只要在種群中出現一個達到擬合精度的模型就可以終止反演了。

(7)收斂。

重復(3)~(6)的步驟，模型群體經多次選擇、交換、更新、變異後，種群個體數量大小不變，模型目標函數平均值趨於穩定，最後聚集在模型空間中一個小范圍內，則找到了全局極值對應的解，使目標函數最大或最小的模型就是全局最優模型。

對於具有多解性的地球物理反演問題來說，通過這一步有可能找到滿足擬合精度的多個模型，對於實際反演解釋、推斷具有較高的指導意義。

遺傳演算法中的各種概率包括交換概率px、變異概率p_m以及更新概率p_u，這些參數的選擇與設定目前尚無統一的理論指導，多數都視具體問題而定。Stoffa等(1991)的研究表明，適中的交換概率(p_x≈0.6)、較小的變異概率(p_m≈0.01)和較大的更新概率(p_u≈0.9)，遺傳演算法的性能較優。

與模擬退火反演演算法相同，遺傳演算法與傳統的線性反演方法相比，該方法具有:不依賴初始模型的選擇、能尋找全局最小點而不陷入局部極小、在反演過程中不用計算雅克比偏導數矩陣等優點。另外，遺傳演算法具有並行性，隨著並行計算和集群式計算機技術的發展，該演算法將會得到越來越廣泛的研究與應用。

但是遺傳演算法作為類蒙特卡洛演算法同樣需要進行大量的正演計算，種群個體數量越大，繁衍代數越多，則計算量越大。所以和前面的最小二乘法相比，速度不是它的優勢。

10. 遺傳演算法原理簡介

遺傳演算法（Genetic Algorithm, GA）是一種進化計算（Evolutionary Computing）演算法，屬於人工智慧技術的一部分。遺傳演算法最早是由John Holland和他的學生發明並改進的，源於對達芬奇物種進化理論的模仿。在物種進化過程中，為了適應環境，好的基因得到保留，不好的基因被淘汰，這樣經過很多代基因的變化，物種的基因就是當前自然環境下適應度最好的基因。該演算法被廣泛應用於優化和搜索中，用於尋求最優解（或最優解的近似），其最主要的步驟包括交叉（crossover）和突變（mutation）。

所有的生物體都由細胞組成，每個細胞中都包含了同樣的染色體（chromosome）。染色體由一串DNA組成，我們可以簡單地把一個生物個體表示為一條染色體。每條染色體上都包含著基因，而基因又是由多個DNA組成的。每個基因都控制著個體某個性狀的表達，例如眼睛的顏色、眼皮的單雙等。在物種繁衍的過程中，首先發生交叉，來自於父母的染色體經過分裂和重組，形成後代的染色體。之後，後代有一定概率發生基因突變，即染色體上某個位置處的基因以一定概率發生變化。之後，對每一代都重復進行交叉和突變兩個步驟。對於每一個後代，我們可以通過一定的方式測量其適應度。適應度越好的個體，在下一次交叉中被選中的概率越大，它的基因越容易傳給下一代。這樣，後代的適應度就會越來越好，直到收斂到一個穩定值。

在優化問題中，可行解總是有很多個，我們希望尋找一個最優解，它相對於其他可行解來說具有更好的適應度（即目標函數值更大或更小）。每個可行解就是一個「生物個體」，可以表示為狀態空間中的一個點和適應度。每個解都是一個經過編碼的序列，已二進制編碼為例，每個解都是一個二進制序列。這樣每個染色體就是一個二進制序列。遺傳演算法從從一組可行解開始，稱為population，從population中隨機選擇染色體進行交叉產生下一代。這一做法的基於下一代的適應度會好於上一代。遺傳演算法的過程如下：

終止條件可以是達到了最大迭代次數，或者是前後連續幾代的最優染色體的適應度差值小於一個閾值。以上演算法描述也許還不夠直觀，我們舉例說明。假設解可以用二進制編碼表示，則每個染色體都是一個二進制序列。假設序列長度為16，則每個染色體都是一個16位的二進制序列：

首先，我們隨機生成一個population，假設population size為20，則有20個長度為16的二進制序列。計算每個染色體的適應度，然後選取兩個染色體進行交叉，如下圖所示。下圖在第6為上將染色體斷開再重組，斷開的位置是可以隨機選擇的。當然，斷裂位置也可以不止一個。可以根據具體問題選擇具體的交叉方式來提升演算法性能。

之後，隨機選取後代染色體上某個基因發生基因突變，突變的位置是隨機選取的。並且，基因突變並不是在每個後代上都會發生，只是有一定的概率。對於二進制編碼，基因突變的方式是按位取反：

上述例子是關於二進制編碼的，像求解一元函數在某個區間內的最大最小值就可以使用二進制編碼。例如，求解函數f(x)=x+sin(3x)+cos(3x)在區間[0,6]內的最小值。假設我們需要最小值點x保留4位小數，那麼求解區間被離散成60000個數。因為2 {15}<60000<2 {16}，所以，需要16位二進制數來表示這60000個可能的解。其中0x0000表示0，0x0001表示0.0001，以此類推。針對這個例子，文末給出了demo code．

然而，在排序問題中無法使用二進制編碼，應該採用排列編碼（permutation encoding）。例如有下面兩個染色體：

交叉：隨機選取一個交叉點，從該出將兩個染色體斷開。染色體A的前部分組成後代1的前部分，然後掃描染色體B，如果出現了後代1中不包含的基因，則將其順序加入後代1中。同理，染色體B的前部分組成了後代2的前部分，掃描染色體A獲得後代2的後部分。注意，交叉的方式多種多樣，此處只是舉出其中一種方式。

( 1 5 3 2 6 | 4 7 9 8) + ( 8 5 6 7 2 | 3 1 4 9) => ( 1 5 3 2 6 8 7 4 9) + ( 8 5 6 7 2 1 3 4 9)

突變：對於一個染色體，隨機選中兩個基因互換位置。例如第3個基因和倒數第2個基因互換：

(1 5 3 2 6 8 7 4 9) => (1 5 4 2 6 8 7 3 9)

此外還有值編碼（value encoding）和樹編碼（tree encoding）等，具體例子可以參考這個鏈接： http://obitko.com/tutorials/genetic-algorithms/encoding.php

在實際的遺傳演算法中，往往會保留上一代中的少數幾個精英（elite），即將上一代population中適應度最好的幾個染色體加入到後代的poulation中，同時去除後代population中適應度最差的幾個染色體。通過這個策略，如果在某次迭代中產生了最優解，則最優解能夠一直保留到迭代結束。

用GA求函數最小值的demo code： https://github.com/JiaxYau/GA_test

參考資料 ：

[1] Introction to Genetic Algorithm, http://obitko.com/tutorials/genetic-algorithms/index.php

[2] Holland J H. Adaption in natural and artificial systems