演算法總結筆記

『壹』 求高中數學常用幾何定理及證明的筆記整理

一、《集合與函數》
內容子交並補集，還有冪指對函數。性質奇偶與增減，觀察圖象最明顯。 復合函數式出現，性質乘法法則辨，若要詳細證明它，還須將那定義抓。 指數與對數函數，兩者互為反函數。底數非1的正數，1兩邊增減變故。 函數定義域好求。分母不能等於0，偶次方根須非負，零和負數無對數 正切函數角不直，餘切函數角不平；其餘函數實數集，多種情況求交集。 兩個互為反函數，單調性質都相同；圖象互為軸對稱，Y=X是對稱軸 求解非常有規律，反解換元定義域；反函數的定義域，原來函數的值域。 冪函數性質易記，指數化既約分數；函數性質看指數，奇母奇子奇函數， 奇母偶子偶函數，偶母非奇偶函數；圖象第一象限內，函數增減看正負。
二、《三角函數》
三角函數是函數，象限符號坐標注。函數圖象單位圓，周期奇偶增減現。 同角關系很重要，化簡證明都需要。正六邊形頂點處，從上到下弦切割 中心記上數字1，連結頂點三角形；向下三角平方和，倒數關系是對角， 頂點任意一函數，等於後面兩根除。誘導公式就是好，負化正後大化小， 變成稅角好查表，化簡證明少不了。二的一半整數倍，奇數化余偶不變， 將其後者視銳角，符號原來函數判。兩角和的餘弦值，化為單角好求值， 餘弦積減正弦積，換角變形眾公式。和差化積須同名，互餘角度變名稱。 計算證明角先行，注意結構函數名，保持基本量不變，繁難向著簡易變。 逆反原則作指導，升冪降次和差積。條件等式的證明，方程思想指路明。 萬能公式不一般，化為有理式居先。公式順用和逆用，變形運用加巧用 1加餘弦想餘弦，1 減餘弦想正弦，冪升一次角減半，升冪降次它為范 三角函數反函數，實質就是求角度，先求三角函數值，再判角取值范圍 利用直角三角形，形象直觀好換名，簡單三角的方程，化為最簡求解集
三、《不等式》
解不等式的途徑，利用函數的性質。對指無理不等式，化為有理不等式。 高次向著低次代，步步轉化要等價。數形之間互轉化，幫助解答作用大。 證不等式的方法，實數性質威力大。求差與0比大小，作商和1爭高下。 直接困難分析好，思路清晰綜合法。非負常用基本式，正面難則反證法。 還有重要不等式，以及數學歸納法。圖形函數來幫助，畫圖建模構造法。
四、《數列》
等差等比兩數列，通項公式N項和。兩個有限求極限，四則運算順序換。 數列問題多變幻，方程化歸整體算。數列求和比較難，錯位相消巧轉換， 取長補短高斯法，裂項求和公式算。歸納思想非常好，編個程序好思考： 一算二看三聯想，猜測證明不可少。還有數學歸納法，證明步驟程序化： 首先驗證再假定，從 K向著K加1，推論過程須詳盡，歸納原理來肯定。
五、《復數》
虛數單位i一出，數集擴大到復數。一個復數一對數，橫縱坐標實虛部。 對應復平面上點，原點與它連成箭。箭桿與X軸正向，所成便是輻角度。 箭桿的長即是模，常將數形來結合。代數幾何三角式，相互轉化試一試。 代數運算的實質，有i多項式運算。i的正整數次慕，四個數值周期現。 一些重要的結論，熟記巧用得結果。虛實互化本領大，復數相等來轉化。 利用方程思想解，注意整體代換術。幾何運算圖上看，加法平行四邊形， 減法三角法則判；乘法除法的運算，逆向順向做旋轉，伸縮全年模長短。 三角形式的運算，須將輻角和模辨。利用棣莫弗公式，乘方開方極方便。 輻角運算很奇特，和差是由積商得。四條性質離不得，相等和模與共軛， 兩個不會為實數，比較大小要不得。復數實數很密切，須注意本質區別。
六、《排列、組合、二項式定理》
加法乘法兩原理，貫穿始終的法則。與序無關是組合，要求有序是排列。 兩個公式兩性質，兩種思想和方法。歸納出排列組合，應用問題須轉化。 排列組合在一起，先選後排是常理。特殊元素和位置，首先注意多考慮。 不重不漏多思考，捆綁插空是技巧。排列組合恆等式，定義證明建模試。 關於二項式定理，中國楊輝三角形。兩條性質兩公式，函數賦值變換式。
七、《立體幾何》
點線面三位一體，柱錐檯球為代表。距離都從點出發，角度皆為線線成。 高中《立體幾何》
垂直平行是重點，證明須弄清概念。線線線面和面面、三對之間循環現。 方程思想整體求，化歸意識動割補。計算之前須證明，畫好移出的圖形。 立體幾何輔助線，常用垂線和平面。射影概念很重要，對於解題最關鍵。 異面直線二面角，體積射影公式活。公理性質三垂線，解決問題一大片。
八、《平面解析幾何》
有向線段直線圓，橢圓雙曲拋物線，參數方程極坐標，數形結合稱典範。 笛卡爾的觀點對，點和有序實數對，兩者—一來對應，開創幾何新途徑。 兩種思想相輝映，化歸思想打前陣；都說待定系數法，實為方程組思想。 三種類型集大成，畫出曲線求方程，給了方程作曲線，曲線位置關系判。 四件工具是法寶，坐標思想參數好；平面幾何不能丟，旋轉變換復數求。 解析幾何是幾何，得意忘形學不活。圖形直觀數入微，數學本是數形學。
編輯本段數學 必修1
1. 集合 （約4課時） （1）集合的含義與表示
高中數學(15張)①通過實例，了解集合的含義，體會元素與集合的「屬於」關系。 ②能選擇自然語言、圖形語言、集合語言（列舉法或描述法）描述不同的具體問題，感受集合語言的意義和作用。 （2）集合間的基本關系 ①理解集合之間包含與相等的含義，能識別給定集合的子集。 ②在具體情境中，了解全集與空集的含義。 （3）集合的基本運算 ①理解兩個集合的並集與交集的含義，會求兩個簡單集合的並集與交集。 ②理解在給定集合中一個子集的補集的含義，會求給定子集的補集。 ③能使用Venn圖表達集合的關系及運算，體會直觀圖示對理解抽象概念的作用。 2. 函數概念與基本初等函數 （約32課時） （1）函數 ①進一步體會函數是描述變數之間的依賴關系的重要數學模型，在此基礎上學慣用集合與對應的語言來刻畫函數，體會對應關系在刻畫函數概念中的作用；了解構成函數的要素，會求一些簡單函數的定義域和值域；了解映射的概念。 ②在實際情境中，會根據不同的需要選擇恰當的方法（如圖象法、列表法、解析法）表示函數。 ③了解簡單的分段函數，並能簡單應用。 ④通過已學過的函數特別是二次函數，理解函數的單調性、最大（小）值及其幾何意義；結合具體函數，了解奇偶性的含義。 ⑤學會運用函數圖象理解和研究函數的性質（參見例1）。 （2）指數函數 ①（細胞的分裂，考古中所用的C的衰減，葯物在人體內殘留量的變化等），了解指數函數模型的實際背景。 ②理解有理指數冪的含義，通過具體實例了解實數指數冪的意義，掌握冪的運算。 ③理解指數函數的概念和意義，能藉助計算器或計算機畫出具體指數函數的圖象，探索並理解指數函數的單調性與特殊點。 ④在解決簡單實際問題的過程中，體會指數函數是一類重要的函數模型（參見例2）。 （3）對數函數 ①理解對數的概念及其運算性質，知道用換底公式能將一般對數轉化成自然對數或常用對數；通過閱讀材料，了解對數的產生歷史以及對簡化運算的作用。 ②通過具體實例，直觀了解對數函數模型所刻畫的數量關系，初步理解對數函數的概念，體會對數函數是一類重要的函數模型；能藉助計算器或計算機畫出具體對數函數的圖象，探索並了解對數函數的單調性與特殊點。 ③知道指數函數 與對數函數 互為反函數（a>0，a≠1）。 （4）冪函數 通過實例，了解冪函數的概念；結合函數 的圖象，了解它們的變化情況。 （5）函數與方程 ①結合二次函數的圖象，判斷一元二次方程根的存在性及根的個數，從而了解函數的零點與方程根的聯系。 ②根據具體函數的圖象，能夠藉助計算器用二分法求相應方程的近似解，了解這種方法是求方程近似解的常用方法。 （6）函數模型及其應用 ①利用計算工具，比較指數函數、對數函數以及冪函數增長差異；結合實例體會直線上升、指數爆炸、對數增長等不同函數類型增長的含義。 ②收集一些社會生活中普遍使用的函數模型（指數函數、對數函數、冪函數、分段函數等）的實例，了解函數模型的廣泛應用。 （7）實習作業 根據某個主題，收集17世紀前後發生的一些對數學發展起重大作用的歷史事件和人物（開普勒、伽利略、笛卡兒、牛頓、萊布尼茨、歐拉等）的有關資料或現實生活中的函數實例，採取小組合作的方式寫一篇有關函數概念的形成、發展或應用的文章，在班級中進行交流。具體要求參見數學文化的要求。
編輯本段數學 必修2
1. 立體幾何初步
（約18課時） （1）空間幾何體 ①利用實物模型、計算機軟體觀察大量空間圖形，認識柱、錐、台、球及其簡單組合體的結構特徵，並能運用這些特徵描述現實生活中簡單物體的結構。 ②能畫出簡單空間圖形（長方體、球、圓柱、圓錐、稜柱等的簡易組合）的三視圖，能識別上述的三視圖所表示的立體模型，會使用材料（如紙板）製作模型，會用斜二側法畫出它們的直觀圖。 ③通過觀察用兩種方法（平行投影與中心投影）畫出的視圖與直觀圖，了解空間圖形的不同表示形式。 ④完成實習作業，如畫出某些建築的視圖與直觀圖（在不影響圖形特徵的基礎上，尺寸、線條等不作嚴格要求）。 ⑤了解球、稜柱、棱錐、台的表面積和體積的計算公式（不要求記憶公式）。 （2）點、線、面之間的位置關系 ①藉助長方體模型，在直觀認識和理解空間點、線、面的位置關系的基礎上，抽象出空間線、面位置關系的定義，並了解如下可以作為推理依據的公理和定理。 ◆公理1：如果一條直線上的兩點在一個平面內，那麼這條直線在此平面內。 ◆公理2：過不在一條直線上的三點，有且只有一個平面。 ◆公理3：如果兩個不重合的平面有一個公共點，那麼它們有且只有一條過該點的公共直線。 ◆公理4：平行於同一條直線的兩條直線平行。 ◆定理：空間中如果兩個角的兩條邊分別對應平行，那麼這兩個角相等或互補。 ②以立體幾何的上述定義、公理和定理為出發點，通過直觀感知、操作確認、思辨論證，認識和理解空間中線面平行、垂直的有關性質與判定。 操作確認，歸納出以下判定定理。 ◆平面外一條直線與此平面內的一條直線平行，則該直線與此平面平行。 ◆一個平面內的兩條相交直線與另一個平面平行，則這兩個平面平行。 ◆一條直線與一個平面內的兩條相交直線垂直，則該直線與此平面垂直。 ◆一個平面過另一個平面的垂線，則兩個平面垂直。 操作確認，歸納出以下性質定理，並加以證明。 ◆一條直線與一個平面平行，則過該直線的任一個平面與此平面的交線與該直線平行。 ◆兩個平面平行，則任意一個平面與這兩個平面相交所得的交線相互平行。 ◆垂直於同一個平面的兩條直線平行。 ◆兩個平面垂直，則一個平面內垂直於交線的直線與另一個平面垂直。 ③能運用已獲得的結論證明一些空間位置關系的簡單命題。
2. 平面解析幾何初步
（約18課時） （1）直線與方程 ①在平面直角坐標系中，結合具體圖形，探索確定直線位置的幾何要素。 ②理解直線的傾斜角和斜率的概念，經歷用代數方法刻畫直線斜率的過程，掌握過兩點的直線斜率的計算公式。 ③能根據斜率判定兩條直線平行或垂直。 ④根據確定直線位置的幾何要素，探索並掌握直線方程的幾種形式（點斜式、兩點式及一般式），體會斜截式與一次函數的關系。 ⑤能用解方程組的方法求兩直線的交點坐標。 ⑥探索並掌握兩點間的距離公式、點到直線的距離公式，會求兩條平行直線間的距離。 （2）圓與方程 ①回顧確定圓的幾何要素，在平面直角坐標系中，探索並掌握圓的標准方程與一般方程。 ②能根據給定直線、圓的方程，判斷直線與圓、圓與圓的位置關系。 ③能用直線和圓的方程解決一些簡單的問題。 （3）在平面解析幾何初步的學習過程中，體會用代數方法處理幾何問題的思想。 （4）空間直角坐標系 ①通過具體情境，感受建立空間直角坐標系的必要性，了解空間直角坐標系，會用空間直角坐標系刻畫點的位置。 ②通過表示特殊長方體（所有棱分別與坐標軸平行）頂點的坐標，探索並得出空間兩點間的距離公式。
編輯本段數學 必修3
1. 演算法初步
（約12課時） （1）演算法的含義、程序框圖 ①通過對解決具體問題過程與步驟的分析（如二元一次方程組求解等問題），體會演算法的思想，了解演算法的含義。 ②通過模仿、操作、探索，經歷通過設計程序框圖表達解決問題的過程。在具體問題的解決過程中（如三元一次方程組求解等問題），理解程序框圖的三種基本邏輯結構：順序、條件分支、循環。 （2）基本演算法語句：經歷將具體問題的程序框圖轉化為程序語句的過程，理解幾種基本演算法語句——輸入語句、輸出語句、賦值語句、條件語句、循環語句，進一步體會演算法的基本思想。 （3）通過閱讀中國古代數學中的演算法案例，體會中國古代數學對世界數學發展的貢獻。
2. 統計
（約16課時） （1）隨機抽樣 ①能從現實生活或其他學科中提出具有一定價值的統計問題。 ②結合具體的實際問題情境，理解隨機抽樣的必要性和重要性。 ③在參與解決統計問題的過程中，學會用簡單隨機抽樣方法從總體中抽取樣本；通過對實例的分析，了解分層抽樣和系統抽樣方法。 ④能通過試驗、查閱資料、設計調查問卷等方法收集數據。 （2）用樣本估計總體 ①通過實例體會分布的意義和作用，在表示樣本數據的過程中，學會列頻率分布表、畫頻率分布直方圖、頻率折線圖、莖葉圖（參見例1），體會它們各自的特點。 ②通過實例理解樣本數據標准差的意義和作用，學會計算數據標准差。 ③能根據實際問題的需求合理地選取樣本，從樣本數據中提取基本的數字特徵（如平均數、標准差），並作出合理的解釋。 ④在解決統計問題的過程中，進一步體會用樣本估計總體的思想，會用樣本的頻率分布估計總體分布，會用樣本的基本數字特徵估計總體的基本數字特徵；初步體會樣本頻率分布和數字特徵的隨機性。 ⑤會用隨機抽樣的基本方法和樣本估計總體的思想，解決一些簡單的實際問題；能通過對數據的分析為合理的決策提供一些依據，認識統計的作用，體會統計思維與確定性思維的差異。 ⑥形成對數據處理過程進行初步評價的意識。 （3）變數的相關性 ①通過收集現實問題中兩個有關聯變數的數據作出散點圖，並利用散點圖直觀認識變數間的相關關系。 ②經歷用不同估算方法描述兩個變數線性相關的過程。知道最小二乘法的思想，能根據給出的線性回歸方程系數公式建立線性回歸方程（參見例2）。
3. 概率
（約8課時） （1）在具體情境中，了解隨機事件發生的不確定性和頻率的穩定性，進一步了解概率的意義以及頻率與概率的區別。 （2）通過實例，了解兩個互斥事件的概率加法公式。 （3）通過實例，理解古典概型及其概率計算公式，會用列舉法計算一些隨機事件所含的基本事件數及事件發生的概率。 （4）了解隨機數的意義，能運用模擬方法（包括計算器產生隨機數來進行模擬）估計概率，初步體會幾何概型的意義（參見例3）。 （5）通過閱讀材料，了解人類認識隨機現象的過程。
編輯本段數學 必修4
1. 三角函數
（約16課時） （1）任意角、弧度 了解任意角的概念和弧度制，能進行弧度與角度的互化。 （2）三角函數 ①藉助單位圓理解任意角三角函數（正弦、餘弦、正切）的定義。 ②藉助單位圓中的三角函數線推導出誘導公式（ 的正弦、餘弦、正切），能畫出 的圖象，了解三角函數的周期性。 ③藉助圖象理解正弦函數、餘弦函數在 ，正切函數在 上的性質（如單調性、最大和最小值、圖象與x軸交點等）。 ④理解同角三角函數的基本關系式： ⑤結合具體實例，了解 的實際意義；能藉助計算器或計算機畫出 的圖象，觀察參數A，ω， 對函數圖象變化的影響。 ⑥會用三角函數解決一些簡單實際問題，體會三角函數是描述周期變化現象的重要函數模型。
2. 平面向量
（約12課時） （1）平面向量的實際背景及基本概念 通過力和力的分析等實例，了解向量的實際背景，理解平面向量和向量相等的含義，理解向量的幾何表示。 （2）向量的線性運算 ①掌握向量加、減法的運算，並理解其幾何意義。 ②掌握向量數乘的運算，並理解其幾何意義，以及兩個向量共線的含義。 ③了解向量的線性運算性質及其幾何意義。 （3）平面向量的基本定理及坐標表示 ①了解平面向量的基本定理及其意義。 ②掌握平面向量的正交分解及其坐標表示。 ③會用坐標表示平面向量的加、減與數乘運算。 ④理解用坐標表示的平面向量共線的條件。 （4）平面向量的數量積 ①通過物理中「功」等實例，理解平面向量數量積的含義及其物理意義。 ②體會平面向量的數量積與向量投影的關系。 ③掌握數量積的坐標表達式，會進行平面向量數量積的運算。 ④能運用數量積表示兩個向量的夾角，會用數量積判斷兩個平面向量的垂直關系。 （5）向量的應用 經歷用向量方法解決某些簡單的平面幾何問題、力學問題與其他一些實際問題的過程，體會向量是一種處理幾何問題、物理問題等的工具，發展運算能力和解決實際問題的能力。
3. 三角恆等變換
（約8課時） （1）經歷用向量的數量積推導出兩角差的餘弦公式的過程，進一步體會向量方法的作用。 （2）能從兩角差的餘弦公式導出兩角和與差的正弦、餘弦、正切公式，二倍角的正弦、餘弦、正切公式，了解它們的內在聯系。 （3）能運用上述公式進行簡單的恆等變換（包括引導導出積化和差、和差化積、半形公式，但不要求記憶）。
編輯本段數學 必修5
1. 解三角形
（約8課時） （1）通過對任意三角形邊長和角度關系的探索，掌握正弦定理、餘弦定理，並能解決一些簡單的三角形度量問題。 （2）能夠運用正弦定理、餘弦定理等知識和方法解決一些與測量和幾何計算有關的實際問題。
2. 數列
（約12課時） （1）數列的概念和簡單表示法 了解數列的概念和幾種簡單的表示方法（列表、圖象、通項公式），了解數列是一種特殊函數。 （2）等差數列、等比數列 ①理解等差數列、等比數列的概念。 ②探索並掌握等差數列、等比數列的通項公式與前n項和的公式。 ③能在具體的問題情境中，發現數列的等差關系或等比關系，並能用有關知識解決相應的問題（參見例1）。 ④體會等差數列、等比數列與一次函數、指數函數的關系。
3. 不等式
（約16課時） （1）不等關系 感受在現實世界和日常生活中存在著大量的不等關系，了解不等式（組）的實際背景。 （2）一元二次不等式 ①經歷從實際情境中抽象出一元二次不等式模型的過程。 ②通過函數圖象了解一元二次不等式與相應函數、方程的聯系。 ③會解一元二次不等式，對給定的一元二次不等式，嘗試設計求解的程序框圖。 （3）二元一次不等式組與簡單線性規劃問題 ①從實際情境中抽象出二元一次不等式組。 ②了解二元一次不等式的幾何意義，能用平面區域表示二元一次不等式組（參見例2）。 ③從實際情境中抽象出一些簡單的二元線性規劃問題，並能加以解決（參見例3）。 （4）基本不等式： 。 ①探索並了解基本不等式的證明過程。 ②會用基本不等式解決簡單的最大（小）值問題（參見例4）。 函數的性質 指數和對數 （1）定義域、值域、對應法則 （2）單調性 對於任意x1，x2∈D 若x1<x2 f（x1）<f（x2），稱f（x）在D上是增函數 若x1<x2 f（x1）>f（x2），稱f（x）在D上是減函數 （3）奇偶性 對於函數f（x）的定義域內的任一x，若f（－x）=f（x），稱f（x）是偶函數 若f（－x）=－f（x），稱f（x）是奇函數 （4）周期性 對於函數f（x）的定義域內的任一x，若存在常數T，使得f（x+T）=f(x)，則稱f（x）是周期函數（1）分數指數冪 數學 選修
編輯本段選修2－1
1. 常用邏輯用語
（約8課時） （1）命題及其關系 ①了解命題的逆命題、否命題與逆否命題。 ②理解必要條件、充分條件與充要條件的意義，會分析四種命題的相互關系。 （2）簡單的邏輯聯結詞 了解邏輯聯結詞「或」「且」「非」的含義。 （3）全稱量詞與存在量詞 ①理解全稱量詞與存在量詞的意義。 ②能正確地對含有一個量詞的命題進行否定。
2. 圓錐曲線與方程
（約16課時） （1）圓錐曲線 ①了解圓錐曲線的實際背景，感受圓錐曲線在刻畫現實世界和解決實際問題中的作用。 ②經歷從具體情境中抽象出橢圓、拋物線模型的過程，掌握它們的定義、標准方程、幾何圖形及簡單性質。 ③了解雙曲線的定義、幾何圖形和標准方程，知道雙曲線的有關性質。 ④能用坐標法解決一些與圓錐曲線有關的簡單幾何問題（直線與圓錐曲線的位置關系）和實際問題。 ⑤通過圓錐曲線的學習，進一步體會數形結合的思想。 （2）曲線與方程 了解曲線與方程的對應關系，進一步感受數形結合的基本思想。 （3）橢圓、雙曲線與拋物線 橢圓 標准方程x^2/a^2+y^2/b^2=1(a>b>0,c^2=a^2-b^2)（焦點在x軸上） 焦點F1(-c,0)，F2(c,0) 離心率e=c/a 雙曲線 標准方程x^2/a^2-y^2/b^2=1(a>0,b>0，c^2=a^2+b^2)（焦點在x軸上） 焦點F1(-c,0)，F2(c,0) 離心率e=c/a 拋物線 標准方程 y^2=2px(p>0)（焦點在x軸正半軸上） 焦點F(p/2,0)
3. 空間向量與立體幾何
（約12課時） （1）空間向量及其運算 （2）空間向量的應用
編輯本段選修2－2
1. 導數及其應用 （約24課時） （1）導數概念及其幾何意義 ①通過對大量實例的分析，經歷由平均變化率過渡到瞬時變化率的過程，了解導數概念的實際背景，知道瞬時變化率就是導數，體會導數的思想及其內涵（參見選修1－1案例中的例2、例3）。 ②通過函數圖象直觀地理解導數的幾何意義。 （2）導數的運算 ①能根據導數定義求函數的導數。 ②能利用給出的基本初等函數的導數公式和導數的四則運演算法則求簡單函數的導數，能求簡單的復合函數（僅限於形如 ）的導數。 ③會使用導數公式表。 （3）導數在研究函數中的應用 ①藉助幾何直觀探索並了解函數的單調性與導數的關系（參見選修1－1案例中的例4）；能利用導數研究函數的單調性，會求不超過三次的多項式函數的單調區間。 ②結合函數的圖象，了解函數在某點取得極值的必要條件和充分條件；會用導數求不超過三次的多項式函數的極大值、極小值，以及閉區間上不超過三次的多項式函數最大值、最小值；體會導數方法在研究函數性質中的一般性和有效性。

『貳』 老喻的人生演算法課

世界的發展是如此迅速，每時每刻都在不停迭代，迎接變化，擁抱進步。認識這個世界，認知你自己。

《老喻的人生演算法課》是「得到APP」的課程，幫助你發現自己，打造自己核心發動機，並提煉18種人生「元問題」，幫助你在不確定的世界，成為解決問題的高手。

本文是我學習《人生演算法課》開篇後，留下的筆記和總結。

《人生演算法課》里的演算法不是指的數學，而是指 可復制的、解決問題的一系列步驟 。

演算法的關鍵詞是： 解決問題，步驟，量化，可復制 。

人生演算法題：

如果你學了人生演算法課，你其實有更多的可能，比如：

由上面的演算法題可以看到， 通過演算法的迭代，成功的概率在不斷的提高 。

我們從小接受的學校教育有兩個特點：一是凡事都有正確答案；二是目的是做對題，得到100分，不要犯錯誤。

但現實中我們面對的問題如此繁多，大部分問題都沒有標准答案，我們面對的事情總是充滿不確定性的。

如果只顧眼前問題，不去思考背後的邏輯，那可能終其一生，都只能在人生低層級旋轉，無法晉升。

演算法就是為解決問題的一些可量化、可復制的步驟，只需要懂一些非常簡單的演算法，就能過得很好。

與其東張西望尋找標准答案，不如打好你手上最好的牌—— 也就是你自己 ，探索屬於你的極簡公式，找到你的核心演算法。這些公式，能讓你跨越出身、智商、背景、運氣，幫你過好這一生。

世界是不確定的，包括內心世界的不確定性和外部世界的不確定。

其中 內心世界的不確定性，體現為不充分 。我們似乎總是沒有準備好，知識不夠，智慧不夠，經驗不夠，理性不夠，時機也總是不對。

外部世界的不確定性，體現為未來的世界模糊不清 。世界是個如此復雜的系統，想法和行為無法預測，努力不一定有結果，不知如何發力。

《人生演算法課》分別從內心和外部世界出發，開出對應的 自我塑造的九段心法 和 面對人生的18種難題 兩種葯方，幫你找到核心演算法，構建思維模型，讓你成為解決不確定問題的高手。

發現你自己 ！

這是一個自我發現之旅，幫你尋找自己的最小內核，並通過復制使價值最大化。

挖掘核心演算法的過程，其實就是發現你人生定位的旅程。

有效的研究和學習過程，應該如同觀察生物時，用顯微鏡看細胞切片。為了求解核心演算法，我們也必須拆解一個個認知。

把「從獲取信息到採取行動」這個過程， 當做一個認知行為的最小閉環，它特別像 —個四人接力賽：

從認知到行動，構成完整的閉環，一個個小閉環，隨著時間的不斷疊加，構成了我們的整個人生。人與人之間，一個單獨的小閉環差別不大，但一個個閉環不斷地串起來，將會形成巨大的差距。

人生的悲劇，往往是追求了錯誤的方向；

而生活的艱辛，則是因為在不對的賽道上努力。

在不確定的世界裡，有著18種人生難題：

這18個難題，其實是我們人生中的「元問題」，也就是「問題的問題」。

《人生演算法課》會指導你如何面對這些元問題，構建相應演算法或思維模型，教會你在迷霧中怎樣做出人生重要的決策，讓你成為解決不確定問題的高手。

歡迎大家一起學習，一起探討！

『叄』 優化演算法筆記（一）優化演算法的介紹

（以下描述，均不是學術用語，僅供大家快樂的閱讀）

        我們常見常用的演算法有排序演算法,字元串遍歷演算法,尋路演算法等。這些演算法都是為了解決特定的問題而被提出。

        演算法本質是一種按照固定步驟執行的過程。

        優化演算法也是這樣一種過程，是一種根據概率按照固定步驟尋求問題的最優解的過程。與常見的排序演算法、尋路演算法不同的是，優化演算法不具備等冪性，是一種 概率演算法 。演算法不斷的 迭代 執行同一步驟直到結束，其流程如下圖。

        等冪性即 對於同樣的輸入，輸出是相同的 。

        比如圖1，對於給定的魚和給定的熊掌，我們在相同的條件下一定可以知道它們誰更重，當然，相同的條件是指魚和熊掌處於相同的重力作用下，且不用考慮水分流失的影響。在這些給定的條件下，我們（無論是誰）都將得出相同的結論，魚更重或者熊掌更重。我們可以認為，秤是一個等冪性的演算法（工具）。

        現在把問題變一變，問魚與熊掌你更愛哪個，那麼現在，這個問題，每個人的答案可能不會一樣，魚與熊掌各有所愛。說明喜愛這個演算法不是一個等冪性演算法。當然你可能會問，哪個更重，和更喜歡哪個這兩個問題一個是客觀問題，一個是主觀問題，主觀問題沒有確切的答案的。當我們處理主觀問題時，也會將其轉換成客觀問題，比如給喜歡魚和喜歡熊掌的程度打個分，再去尋求答案，畢竟計算機沒有感情，只認0和1（量子計算機我不認識你）。

        說完了等冪性，再來說什麼是概率演算法。簡單來說就是看臉、看人品、看運氣的演算法。

        有一場考試，考試的內容全部取自課本，同時老師根據自己的經驗給同學們劃了重點，但是因為試卷並不是該老師所出，也會有考試內容不在重點之內，老師估計試卷中至少80%內容都在重點中。學霸和學渣參加了考試，學霸為了考滿分所以無視重點，學渣為了pass，因此只看了重點。這樣做的結果一定是score(學霸)>=score(學渣)。

        當重點跟上圖一樣的時候，所有的內容都是重點的時候，學霸和學渣的學習策略變成了相同的策略，則score(學霸)=score(學渣)。但同時，學渣也要付出跟學霸相同的努力去學習這些內容，學渣心裡苦啊。

        當課本如下圖時

        學霸？學霸人呢，哪去了快來學習啊，不是說學習一時爽，一直學習一直爽嗎，快來啊，還等什麼。

        這時，如果重點內容遠少於書本內容時，學渣的學習策略有了優勢——花費的時間和精力較少。但是同時，學渣的分數也是一個未知數，可能得到80分也可能拿到100分，分數完全取決於重點內容與題目的契合度，契合度越高，分數越高。對學渣來說，自己具體能考多少分無法由自己決定，但是好在能夠知道大概的分數范圍。

        學霸的學習策略是一種遍歷性演算法，他會遍歷、通讀全部內容，以保證滿分。

        學渣的學習策略則是一種概率演算法，他只會遍歷、學習重點內容，但至於這些重點是不是真重點他也不知道。

        與遍歷演算法相比，概率演算法的結果具有不確定性，可能很好，也可能很差，但是會消耗更少的資源，比如時間（人生），空間（記憶）。概率演算法的最大優點就是 花費較少的代價來獲取最高的收益 ，在現實中體現於節省時間，使用很少的時間得到一個不與最優解相差較多的結果。

        「莊子：吾生也有涯，而知也無涯；以有涯隨無涯，殆矣。」的意思是：人生是有限的，但知識是無限的（沒有邊界的），用有限的人生追求無限的知識，是必然失敗的。

        生活中概率演算法（思想）的應用其實比較廣泛，只是我們很少去注意罷了。關於概率演算法還衍生出了一些有趣的理論，比如墨菲定律和倖存者偏差，此處不再詳述。

        上面說到，優化演算法就是不停的執行同樣的策略、步驟直到結束。為什麼要這樣呢？因為優化演算法是一種概率演算法，執行一次操作就得到最優結果幾乎是不可能的，重復多次取得最優的概率也會增大。

        栗子又來了，要從1-10這10個數中取出一個大於9的數，只取1次，達到要求的概率為10%，取2次，達到要求的概率為19%。

        可以看出取到第10次時，達到要求的概率幾乎65%，取到100次時，達到要求的概率能接近100%。優化演算法就是這樣簡單粗暴的來求解問題的嗎？非也，這並不是一個恰當的例子，因為每次取數的操作之間是相互獨立的，第2次取數的結果不受第1次取數結果的影響，假設前99次都沒達到要求，那麼再取一次達到要求的概率跟取一次達到要求的概率相同。

        優化演算法中，後一次的計算會依賴前一次的結果，以保證後一次的結果不會差於前一次的結果。這就不得不談到馬爾可夫鏈了。

        由鐵組成的鏈叫做鐵鏈，同理可得，馬爾可夫鏈就是馬爾可夫組成的鏈。

        言歸正傳, 馬爾可夫鏈（Markov Chain, MC） ,描述的是 狀態轉移的過程中,當前狀態轉移的概率只取決於上一步的狀態,與其他步的狀態無關 。簡單來說就是當前的結果只受上一步的結果的影響。每當我看到馬爾可夫鏈時，我都會陷入沉思，生活中、或者歷史中有太多太多與馬爾可夫鏈相似的東西。西歐封建等級制度中「附庸的附庸不是我的附庸」與「昨天的努力決定今天的生活，今天的努力決定明天的生活」，你的下一份工作的工資大多由你當前的工資決定，這些都與馬爾可夫鏈有異曲同工之處。

        還是從1-10這10個數中取出一個大於9的數的這個例子。基於馬爾可夫鏈的概率演算法在取數時需要使當前取的數不小於上一次取的數。比如上次取到了3，那麼下次只能在3-10這幾個數中取，這樣一來，達到目標的概率應該會顯著提升。還是用數據說話。

        取1次達到要求的概率仍然是

        取2次內達到要求的概率為

        取3次內達到要求的概率為

        取4次內……太麻煩了算了不算了

        可以看出基於馬爾可夫鏈來取數時，3次內能達到要求的概率與不用馬爾可夫鏈時取6次的概率相當。說明基於馬爾可夫鏈的概率演算法求解效率明顯高於隨機概率演算法。那為什麼不將所有的演算法都基於馬爾可夫鏈呢？原因一，其實現方式不是那麼簡單，例子中我們規定了取數的規則是復合馬爾可夫鏈的，而在其他問題中我們需要建立適當的復合馬爾科夫鏈的模型才能使用。原因二，並不是所有的問題都符合馬爾科夫鏈條件，比如原子內電子出現的位置，女朋友為什麼會生（lou）氣，彩票號碼的規律等，建立模型必須與問題有相似之處才能較好的解決問題。

        介紹完了優化演算法，再來討論討論優化演算法的使用場景。

        前面說了優化演算法是一種概率演算法，無法保證一定能得到最優解，故如果要求結果必須是確定、穩定的值，則無法使用優化演算法求解。

        例1，求城市a與城市b間的最短路線。如果結果用來修建高速、高鐵，那麼其結果必定是唯一確定的值，因為修路寸土寸金，必須選取最優解使花費最少。但如果結果是用來趕路，那麼即使沒有選到最優的路線，我們可能也不會有太大的損失。

        例2，求城市a與城市b間的最短路線，即使有兩條路徑，路徑1和路徑2，它們從a到b的距離相同，我們也可以得出這兩條路徑均為滿足條件的解。現在將問題改一下，求城市a到城市b耗時最少的線路。現在我們無法馬上得出確切的答案，因為最短的線路可能並不是最快的路線，還需要考慮到天氣，交通路況等因素，該問題的結果是一個動態的結果，不同的時間不同的天氣我們很可能得出不同的結果。

        現實生產、生活中，也有不少的場景使用的優化演算法。例如我們的使用的美圖軟體，停車場車牌識別，人臉識別等，其底層參數可能使用了優化演算法來加速參數計算，其參數的細微差別對結果的影響不太大，需要較快的得出誤差范圍內的參數即可；電商的推薦系統等也使用了優化演算法來加速參數的訓練和收斂，我們會發現每次刷新時，推給我們的商品都有幾個會發生變化，而且隨著我們對商品的瀏覽，系統推給我們的商品也會發生變化，其結果是動態變化的；打車軟體的訂單系統，會根據司機和客人的位置，區域等來派發司機給客人，不同的區域，不同的路況，派發的司機也是動態變化的。

        綜上我們可以大致總結一下推薦、不推薦使用優化演算法的場景的特點。

        前面說過，優化演算法處理的問題都是客觀的問題，如果遇到主觀的問題，比如「我孰與城北徐公美」，我們需要將這個問題進行量化而轉換成客觀的問題，如身高——「修八尺有餘」，「外貌——形貌昳麗」，自信度——「明日徐公來，孰視之，自以為不如；窺鏡而自視，又弗如遠甚」，轉化成客觀問題後我們可以得到各個解的分數，通過比較分數，我們就能知道如何取捨如何優化。這個轉化過程叫做問題的建模過程，建立的問題模型實際上是一個函數，這個函數對優化演算法來說是一個黑盒函數，即不需要知道其內部實現只需要給出輸入，得到輸出。

        在優化演算法中這個黑盒函數叫做 適應度函數 ， 優化演算法的求解過程就是尋找適應度函數最優解的過程 ，使用優化演算法時我們最大的挑戰就是如何將抽象的問題建立成具體的模型，一旦合適的模型建立完成，我們就可以愉快的使用優化演算法來求解問題啦。（「合適」二字談何容易）

        優化演算法的大致介紹到此結束，後面我們會依次介紹常見、經典的優化演算法，並探究其參數對演算法性能的影響。

——2019.06.20

[目錄]

[下一篇 優化演算法筆記（二）優化演算法的分類]

『肆』 EM演算法深度解析

最近在做文本挖掘的時候遇到了EM演算法，雖然讀書的時候簡單地接觸過，但當時並沒有深入地去了解，導致現在只記得演算法的名字。既然EM演算法被列為數據挖掘的十大演算法之一，正好借這個機會，重新學習一下這個經典的演算法。學習的過程中，我發現網上的資料大多講解地不夠細致，很多地方解釋得並不明了。因此我決定拋開別人的想法，僅從數學推導本身出發，盡力理解每一個公式的含義，並將其對應到實際的實驗過程當中。這篇博客記錄了我對與EM演算法的思考與理解，也是我人生中的第一篇博客，希望能夠對於想要學習EM演算法的同學有所幫助。

前面談到我在做文本挖掘的時候遇到了EM演算法，EM演算法用於估計模型中的參數。提到參數估計，最常見的方法莫過於極大似然估計——在所有的候選參數中，我們選擇的參數應該讓樣本出現的概率最大。相信看到這篇筆記的同學一定對極大似然估計非常熟悉，而EM演算法可以看作是極大似然估計的一個擴充，這里就讓我們用極大似然估計來解決一個簡單的例子，來開始正式的討論。

有A，B，C三枚硬幣，我們想要估計A，B，C三枚硬幣拋出正面的概率 , , 。我們按如下流程進行實驗100次：

記錄100次實驗的結果如下：

我們將上面的實驗結果表述如下：
表示第i次實驗中，硬幣A的結果，1代表正面，0代表反面； 表示第i次實驗中，硬幣B或硬幣C拋出正面的個數，則參數 的極大似然估計分別為：

即硬幣A，B，C各自拋出正面的次數占總次數的比例，其中 為指示函數。

實驗流程與1相同，但是我們不慎遺失了硬幣A的記錄結果，導致我們只知道隨後十次拋出了多少次正面，多少次反面，卻不知道實驗結果來自於硬幣B還是硬幣C。在這種情況下，我們是否還能估計出 , , 的值呢？

這時候利用極大似然估計似乎行不通了， 因為這種情況下，我們不但缺失了硬幣A產生的觀測值，同時也不知道哪些觀測值屬於硬幣B，哪些觀測值屬於硬幣C。

有些同學可能會提出，雖然我們無法得到三個硬幣各自產生的樣本，但是我們依然可以得到每個觀測值出現的概率。比如在第一次實驗中， 我們拋出了5次正面5次反面，我們可以做如下思考：

  假設這5次正面由硬幣B得到，那麼概率應該為 ，而這次觀測值來自於硬幣B，也就是硬幣A拋出正面的概率為

  假設這5次正面由硬幣C得到，那麼概率應該為 ，而這次觀測值來自於硬幣C，也就是硬幣A拋出反面的概率為

  綜合起來，利用條件概率公式，這個觀測值出現的概率就是

因此我們可以將樣本整體的概率和似然函數利用 , , 表示出來，通過對似然函數求導，令其關於 的偏導數等於0，我們可以求出三個參數的值。

這個思路聽上去十分合理，我們可以順著這個思路進行數學推導，看看可以得到什麼樣的結果。首先我們計算樣本的概率:

對應的似然函數為

其中 關於 的條件分布為

的分布為

因此我們可以得到

至此，我們成功地得到了似然函數。然而觀察可以發現，這個函數是由100項對數函數相加組成，每個對數函數內部包含一個求和，想通過求導並解出導數的零點幾乎是不可能的。當然我們可以通過梯度下降來極小化這個函數，藉助深度學習庫的自動微分系統在實現上也非常容易。但是這種做法過於簡單粗暴，有沒有辦法來優雅地解決這個問題呢？在繼續討論之前，我們先將這類問題進行一般化表述：

我們觀測到隨機變數 產生的m個相互獨立的樣本 , 的分布由聯合分布 決定， 是缺失數據或無法在實驗中被直接觀測到，稱為 隱變數 ，我們想要從樣本中估計出模型參數 的值。在接下來的討論中，我們假定 的取值是離散的，於是可以得到似然函數如下:

接下來，我們就探討一下，如何利用EM演算法解決這個問題。

這一部分的數學推導，主要參考了吳恩達CS229n的筆記，並且根據個人的思考和理解，盡力對公式的每一步進行詳細的解釋。我們先簡單地介紹一下琴生不等式。

琴生不等式有多種形式，下面給出其離散形式的表述和概率論中的表述:
1.若 為嚴格凹函數， 為定義域內的n個點， 是n個正實數，且滿足 , 則下述不等式成立:

當且僅當 時，不等式取等號。

2.若 為嚴格凹函數， 為實值隨機變數，且期望存在，則下述不等式成立:

當且僅當 ，即 為常數時，不等式取等號。

註： 這里將函數上方為凹集的函數稱為凹函數， 例如 函數就是凹函數。
相信大家對琴生不等式都十分熟悉，因此這里就不做過多的說明。接下來，我們將琴生不等式應用到我們的問題中。

回到我們之前的問題上， 我們想要極大化下面這個函數:

但是我們無法對這個函數直接求導，因此我們藉助琴生不等式，對這個函數進行變換。為了讓過程看上去簡潔，下面只對求和中的第 項進行計算。

令 滿足 ，且 ，則根據琴生不等式，可以得到：

當且僅當 為常數時，上述不等式取等號。也就是說，對於任意 ， 是一個與 無關的量。設對於任意 ，我們可以得到：

因此當 時，不等式 取等號，容易驗證此時 , 與 無關。將 綜合一下，我們可以得到以下結論:

到這里為止，我們已經擁有了推導出EM演算法的全部數學基礎，基於 我們可以構建出E步和M步。上面的數學推導雖然看上去略為復雜，但實際上只用到了三個知識點：
  1.琴生不等式:

  2.條件概率:

  3.聯合分布求和等於邊緣分布:

對上面的數學推導有疑問的同學，可以結合上面這三點，再將整個推導過程耐心地看一遍。

大部分關於EM演算法的資料，只是在數學形式上引入了 函數，即 ，以滿足琴生不等式的使用條件，卻沒有過多地解釋 函數本身。這導致了很多人完全看懂了演算法的推導，卻還是不理解這些數學公式究竟在做什麼，甚至不明白EM演算法為什麼叫做EM演算法。所以在給出E步和M步之前，我想先談一談 函數。

我們回顧一下 函數所滿足的條件（暫時不考慮琴生不等式取等號的限制），

在 所有可能的取值處有定義。可以看出， 是 的樣本空間上任意的一個概率分布。因此，我們可以對不等式 進行改寫。首先我們可以將含有 的求和寫成期望的形式:

這里 指的是在概率分布 下，求隨機變數 和 的期望。有同學會問，為什麼我們平時求期望的時候只要寫 ，並沒有指明是在哪個概率分布下的期望。這是因為一般情況下，我們都清楚地知道隨機變數 所服從的分布 ，並且默認在分布 下求期望。

舉個例子，我手上有一個硬幣，拋了10次，問拋出正面次數的期望。這種情況下，大部分人會默認硬幣是均勻的，也就是說拋出正面的次數 服從二項分布 ，期望 。這時有人提出了質疑，他說我認為你這個硬幣有問題，拋出正面的概率只有0.3，那麼在他眼裡， 期望 。

回到正題，我們利用等式 改寫不等式 ，可以得到:

這正是琴生不等式在概率論中的形式。我們可以將不等式倒過來理解：
  首先，假定隨機變數 服從概率分布 ， 是 的樣本空間上的任意一個概率分布。這里 可以是一組定值，也可以是關於參數 的函數。

  顯然，當我們取不同的 時，隨機變數 的期望也會隨之改變。需要注意的是，由於 與 相關，所以這里的期望不是一個數值，而是關於 的函數。

  當我們令 為 的後驗分布 時，上面的期望最大。這里有兩點需要注意，1. 後驗分布 也是一個關於參數 的函數。2. 由於期望是關於 的函數，所以這里的最大指的並非是最大值，而是最大的函數。

  若對於每一個 ，我們都令 為 的後驗分布 ，則上述期望之和等於我們要極大化的似然函數，即

通過上述分析，我們為尋找似然函數的極大值點 提供了一個思路。我們不去極大化似然函數本身，而是去極大化 。至於如何將這個思路實際應用，就要利用到EM演算法中的E-step和M-step。

這一節中，我們先給出E-step和M-step的數學形式，隨後在結合拋硬幣的例子來解釋這兩步究竟在做什麼。下面進入演算法的流程，首先我們任意初始化 ，按下述過程進行迭代直至收斂：

在第 次迭代中，
(E-step)對於每個 ，令
(M-step)更新 的估計值，令

EM演算法從任意一點 出發，依次利用E-step優化 ，M-step優化 ，重復上述過程從而逐漸逼近極大值點。而這個過程究竟是怎樣的呢，就讓我們一步步地揭開EM演算法的面紗。

假設我們現在隨機初始化了 ，進入第一輪迭代：
(E-step)

由於我們已經假定模型參數為 ，所以此時 不再是與 有關的函數，而是由一組常數構成的概率分布。結合拋硬幣的例子來看，這一步是在我們已知模型參數 的基礎上(雖然這是我們瞎猜的)，去推測每一次的觀測值是由哪個硬幣產生的，或者說我們對每一次觀測值做一個軟分類。比如我們根據初始化的參數，計算出 ， 。可以解釋為第 個觀測值有20%的概率來自於硬幣B，80%的概率來自於硬幣C；或者說硬幣A拋出了0.2個正面，0.8個反面。

(M-step)

考慮到 是一組常數，我們可以舍棄常數項，進一步簡化上面這個要極大化的函數

由於 不再與 相關，因此上面的函數變成了對數函數求和的形式，這個函數通常來說是容易求導的，令導數等於0，我們可以求出新的參數 。我們仍舊以拋硬幣為例進行解釋，

令 , 可以得到，

這三個參數的解釋是顯而易見的。我們在E-step中對每個觀測值進行了軟分類， 可以看成是硬幣A拋出正面的次數，所以 是 的極大似然估計； 是我們拋硬幣B的次數， 是硬幣B拋出正面的次數，所以 是 的極大似然估計；對於 我們有相同的解釋。

我們將這個結果與拋硬幣1中極大似然估計的結果相比較可以發現，之前結果中的指示函數 變成了這里的 ，在指示函數下，某個觀測值要麼來自於硬幣B，要麼來自於硬幣C，因此也稱為硬分類。而在 函數下，某個觀測值可以一部分來自於硬幣B，一部分來自於硬幣C，因此也稱作軟分類。

將上述兩步綜合起來，EM演算法可以總結如下：我們首先初始化模型的參數，我們基於這個參數對每一個隱變數進行分類，此時相當於我們觀測到了隱變數。有了隱變數的觀測值之後，原來含有隱變數的模型變成了不含隱變數的模型，因此我們可以直接使用極大似然估計來更新模型的參數，再基於新的參數開始新一輪的迭代，直到參數收斂。接來下我們就討論為什麼參數一定會收斂。

前面寫了太多的公式，但是這一部分我不打算給出收斂性的數學推導。其實數學上證明EM演算法的收斂性很容易，只需要證明每一輪迭代之後，參數的似然函數遞增，即

『伍』 X分之3.6等於3分之二節比例

排序演算法第一篇-排序演算法介紹

在面試中，現在無論大小公司都會有演算法的。其中排序演算法也是一種很常見的面試題。比如冒泡，快排等。這些，排序演算法自己看了一次又一次，可是過一段時間，又忘掉了。所以，這次就把演算法是怎麼推導出來的，詳細記錄下來。看看這次多久還會忘記。

本文主要介紹排序演算法的分類、時間復雜度、空間復雜。為了後面的學習做准備的。

通過本文學習，將收獲到：排序演算法分幾類？什麼是演算法的時間復雜度？是怎麼算出來的？什麼是演算法的空間復雜度？常見的時間復雜度比較。

如果這些您都已經知道了，可以不用耽誤時間看了。

約定：

文中的n2表示的是n的2次方(n²),n^2也是表示n的2次方；

n3表示的是n的3次方；

n^k表示的是n的k次方；

long2n表示的是以2為底的對數。

本文出自：凱哥java(微信：kaigejava)學習Java版數據結構與演算法筆記。

一：介紹

排序又稱排序演算法(Sort Algorithm),排序是將一組數據，依據指定的順序進行排序的過程。

二：分類

排序的分類分為兩大類

2.1：內部排序

內部排序是指將需要處理的所有數據一次性都載入到內存中進行排序的。

如：冒泡、快排等這些演算法都是內部排序的

2.2：外部排序

數據量過大，無法全部載入到內存中，需要藉助於外部存儲進行排序的。

如：資料庫中數據8個G，內存只有4個G的這種。

2.3：參加分類如下圖：

三：演算法的時間復雜度

3.1：分類

衡量一個程序(演算法)執行時間有兩種方法

3.1.1：事後統計的方法

所謂的事後統計方法，顧名思義，就是程序(演算法)已經寫完了，運行後得到的結果。

這種方法雖然是可行的，但是有兩個問題：

①：要想對設計的演算法運行的性能進行評估，需要實際運行該程序(浪費時間)；

②：運行所得的時間統計嚴重依賴於機器的硬體、軟體等環境因為。

這種方法有個嚴苛的要求：要在同一台機器在相同狀態(軟硬體)下運行，才能比較哪個演算法更快。

3.1.2：事前估算的方法

通過分析某個演算法的時間復雜度來判斷哪個演算法更優。

3.2：時間頻度

概念：一個演算法花費的時間與演算法中語句執行的次數成正比。哪個演算法中語句執行次數多，那麼這個演算法所花費的時間就多(這不廢話嗎)。

一個演算法中語句執行次數稱為語句頻度或時間頻度。記為：T(n).

(復雜的概念是，時間頻度：一個演算法執行所消耗的時間，從理論上是 不能算出來的，想要具體數值，必須要將程序上機運行測試才能知道。但是我們不可能也沒必要對每個演算法都上機進行測試的，只需要知道哪個演算法花費的時間多，哪個演算法花費的時間少就可以了。並且一個演算法花費的時間與演算法中語句執行的次數成正比的，哪個演算法中語句執行次數多，那麼這個程序花費的時間就多。一個演算法中的語句執行次數稱為語句頻度或者時間頻度，即為：T(n))

例如：我們知道的技術從1到100所有數字的和。這個就有兩種演算法。分別如下：

①：使用for循環，從1到100循環出來，然後累加出來。代碼如下：

根據上面概念(注意對概念的理解,total和end這兩行相對於for循環來說，可以忽略。後面我們還會詳細講解還會忽略哪些)，我們來看下這個演算法的時間頻度是多少呢？

在for循環中，實際需要執行101次(+1的原因是因為，在for循環的時候，需要做最後一次判斷，才能推出。因此n個數的計算一共是n+1次操作)。所以其時間頻度就是：T(n)=n+1;

我們再來看看第二種演算法：

是不是很簡單，只要一行代碼就執行完成了。所以第二種演算法的T(n)=1了。是不是很快呢？

時間頻度是不是一眼就看出來了？是不是不用在代碼運行下來比較運行時間了？

(ps：從上面簡單地從1到100求和演算法中，我們是不是感受到演算法的魅力了？感受到編程之美了？)

3.3：時間復雜度

在上面3.2中提到的時間頻度中,n稱為問題的規模，當n不斷變化的時候，時間頻度T(n)也會不斷變化。但是有時我們想知道它在變化的時候呈現什麼樣的規律呢？為此，我們引入了時間復雜度概念。

一般情況下，演算法中基本操作重復執行的次數是問題規模n的某個函數，用T(n)表示。若有某個輔助函數f(n)，是的當n趨近於無窮大的時候，T(n)/f(n)的極限值為不等於零的參數，則稱為f(n)是T(n)的同數量級函數。記作T(n)=O(f(n)),稱O(f(n))為演算法的漸進的時間復雜度。簡稱時間復雜度。這就是大O法。

在計算時間復雜度的時候，我們會忽略以下幾個數據值

3.3.1：忽略常數項

比如上面，我們計算1到100的第一種演算法中，有兩行int total=0；和 int end = 100;這兩行代碼，這個數值是2，我們一般計算時間復雜度的時候，會忽略這個常數項的。為什麼呢？請看下面四個函數，隨著n的增大而增大運行時間。

T(n) = 2n+20

T(n) = 2*n

T(n)=3n+10

T(n)=3*n

請看下圖隨著n的增大所呈現的規律：

我們來看看，把這些數據使用折線圖展示：

圖例說明：上面兩個是3*n及3n+10的，下面兩個是2n及2n+10的

從上面兩個圖表中我們可以得到以下結論：

①：2n+20和2*n隨著n的增加，執行曲線無限接近(折線圖中下面兩個)，常量值20可以忽略了

②：3n+10和3*n隨著n的增加，執行曲線無限接近(折線圖中上面兩個)，常量值10可以忽略了

所以，綜上所述，在計算程序(演算法)時間復雜度的時候,常量值是可以忽略的

3.3.2：忽略低次項

請看下面四個函數，隨著n的增大又會呈現什麼規律嗎？

T(n)=2n^2+3n+10

T(n)=2n^2

T(n)=n^2+5n+20

T(n)=n^2

說明：n^2表示n的2次方

我們來看看隨著n的增加，運行所消耗的時間。如下圖：

把上面數據，用折線圖表示，如下圖：

圖例說明：上面兩個是2n^2及2n^2+3n+10，下面兩個是n^2及 n^2+5n+20

從上面兩個圖中我們可以得到如下結論：

①：2n^2+3n+10和2n^2隨著n的增大，執行曲線無限接近，可以忽略低次項及常量項：3n+10

②：n^2+5n+20和n^2隨著n的增大，執行曲線無限接近，可以忽略低次項及常量項：5n+20

綜上所述，我們可以得到結論：在計算程序(演算法)時間復雜度的時候，低次項(3n=3*n^1比n^2項數少)是可以忽略的

3.3.3：忽略系數

我們再來看看下面四個函數，看看它們隨著n的增大呈現出什麼樣的規律

T(n)=3n^2+2n

T(n)=5n^2+7n

T(n)=n^3+5n

T(n)=6n^3+4n

隨著n的增加，運行時間所消耗耗時如下圖：

折線圖如下：

從上圖可以得到如下：

①：隨著n值變大，5n^2+7n和3n^2+2n，執行曲線重合，說明這種情況下，系數5和3可以忽略；

②：n^3+5n和6n^3+4n，執行曲線分離，說明多少次方是關鍵

3.3.4：總結：

• 計算時間復雜度的時候忽略常數項、忽略低次項、忽略系數

• T(n)不同，但時間復雜度可能相同。

如：T(n)=n2+7n+6與T(n)=3n^2+2n+2它們的T(n)不同，但時間復雜相同，都為O(n^2).

• 計算時間復雜度的方法用常數1代替運行時間中的所有加法常數T(n)=n^2+7n+6 =>T(n)=n^2+7n+1修改後的運行次數函數中，只保留最高階項T(n)=n^2+7n+1 => T（n）=n^2去除最高階項的系數T(n)=n^2 =>T(n)=n^2 => O(n^2)

3.4：常見的時間復雜度

• 常數階O(1)

• 對數階O(log2n)

• 線性階O(n)

• 線性對數階O(nlog2n)

• 平方階O(n^2)

• 立方階O(n^3)

• K次方階(n^k)

• 指數階O(2^n)

各個時間復雜度復雜度折線圖如下圖：

總結：

• 常見演算法時間復雜度由小到大依次為：

O(1)

• 從上圖折線圖中，我們可以看出，程序(演算法)盡可能的避免使用指數階段的演算法。

3.5：常見演算法時間復雜度舉例

3.5.1：常數階O(1)

無論代碼執行多少行，只要是沒有循環等復雜結構，那這個代碼的時間復雜度就是O(1)

(計算時間復雜度的時候，忽略常數項)

代碼demo:

上述代碼在執行的時候，消耗的時間並不是隨著某個變數的增長而增長，那麼無論這類代碼有多長，即使有有幾萬幾十萬行，都是可以用O(1)來表示它的時間復雜度。

3.5.2：對數階O(log2n)

代碼敬上：

說明：

在while循環裡面，每次都是將i*2的。n的值是固定的，所以在i乘完之後，i距離n就越來越近了。假設循環x次之後，i就大於n了，此時這個循環就退出了。也就是說2的x次方等於n了。那麼x=log2n。也就是說當循環了log2n次以後，代碼就結束了。因此這個代碼的時間復雜度就是

O(log2n)。

O(log2n)的這個2時間上是隨著代碼變化的。如果i = i*3，那麼時間復雜度就是O(log3n)

回顧下log的理解(這是初中知識點)：

如果a的x次方等於N（a>0,且a≠1），那麼熟x就叫做以a為底的對數(logarithm)，記作x=logaN.

其中，a叫做對數的底數，N叫做真數，x叫做「以a為底N的對數」。

3.5.3：線性階O(n)

代碼如下：

說明：

這段代碼，for循環裡面的代碼會執行n次。因此它所消耗的時間隨著n的變化而變化的，因此這類代碼都是可以用O(n)來表示它的時間復雜度。

3.5.4：線性對數階O(nlogn)

代碼如下：

說明：

線性對數階O(nlogN)其實非常容易理解的。將時間復雜度為O(logn)的代碼循環了N次的話，那麼它的時間復雜度就是n*O(logn)，也就是O(nlogN)

3.5.5：平方階O(n2)

代碼：

說明：

平方階O(n2)就容易理解了。如果把O(n)的代碼再嵌套循環一遍，它的時間復雜度就是O(n2)，

上圖中的代碼起始就是嵌套了2層n循環，它的時間復雜度就是O(n*n)，即時O(n2)。如果將其中一層循環的n修改成m，那麼它的時間復雜度就變成了O(m*n).

3.5.6：立方階O(n3)、K次方階O(n^k)

說明：參考上面的O(n2)去理解就好了。O(n3)起始就相當於是三層n循環了。其他的一次類推。

3.6：平均時間復雜度和最壞時間復雜度

平均時間復雜度：

是指所有可能的輸入實例均以概率出現的情況下，該演算法的運行時間

最壞時間復雜度：

是指在最壞情況下的時間復雜度稱為最壞時間復雜度。一般討論時間復雜度均是最壞情況下的時間復雜度。

這樣做的原因：最壞情況下的時間復雜度是演算法在任何輸入實例上運行時間的界限。這就保證了演算法的運行時間不會比最壞情況更長了。

平均時間復雜度和最壞時間復雜度是否一致，和演算法有關。具體如下圖：

四：演算法的空間復雜度

空間復雜度介紹

• 類似於時間復雜度的討論。一個演算法的空間復雜度(Space Complexity)定義為該演算法所消耗的存儲空間，它也是問題規模n的函數；

• 空間復雜度是對一個演算法在運行過程中臨時佔用存儲空間大小的量度。有的演算法需要佔用臨時工作單元數與解決問題的規模n有關。它們隨著n的增大而增大，當n較大的時候，將佔用較多的存儲單元(存儲空間)。例如：在快排(快速排序)和歸並排序演算法就屬於這種情況。

• 在做演算法分析的時候，主要討論的是時間的復雜度。因為從用戶的使用體驗上來看，更看重的是程序執行的速度的快慢。一般緩存產品(比如Redis)和技術排序演算法本質就是拿空間換時間的。

下節預告：

下節我們將講講冒泡排序和選擇排序。使用的是圖解+代碼一步一步推導出來演示的。歡迎大家一起學習

『陸』 Nginx運行原理和配置詳解（個人總結筆記）

話不多說，擼起鍵盤就是干！正所謂知其然知其所以然，個人總結了下Nginx運行原理和配置詳解，便於理解和後續復盤。

先來看這一張圖。

nginx啟動後會有 一個master進程和多個worker進程 。master進程用來管理worker進程， 一個worker進程處理一個請求 ，一個請求，只可能在一個worker進程中處理，一個worker進程，不可能處理其它進程的請求。 worker進程的個數是可以設置的，一般我們會設置與機器cpu核數一致 ，這裡面的原因與nginx的進程模型以及事件處理模型是分不開的 ，過多的worker數，只會導致進程來競爭cpu資源，從而帶來不必要的上下文切換。

php WEB伺服器目前最佳方式之一就是： Nginx + FastCGI（解決CGI並發重復fork問題） + PHP-FPM（管理PHP-CGI進程） 。nginx是怎麼做到把請求拋給PHP解釋來處理的呢？這個過程又是怎麼實現的呢？稍後我們來看一下參數配置。

代理，反向代理，負載均衡是Nginx常用功能。

Http代理，反向代理：作為web伺服器最常用的功能之一，尤其是反向代理。如果你和小馬之前一樣還是分不清代理和反向代理的區別，下面這個圖對理解會有所幫助。

它們的區別就是，前者知道我要找的人並知道地址在哪，代理伺服器按這個地址代為請求一下然後把他說的話返回給我。後者就是，我知道我要找誰問話但不知道地址在哪，我也不想管，代理服務你自己去找，只要幫我返回他要說的話就可以了。

負載均衡：其實也是 反向代理 的一種。負載均衡，熱備等等其實都屬於高可用范疇，Nginx提供的負載均衡策略有2種：內置策略和擴展策略。內置策略為 輪詢，加權輪詢，Ip hash 等等。擴展策略，就天馬行空，只有你想不到的沒有他做不到的啦，你可以參照所有的負載均衡演算法，給他做下實現。思考一個問題，IP hash真的能解決session共享的問題么？

我們來簡單看下兩個 配置示例 。

這個配置將請求轉發轉向mysvr 定義的伺服器列表。 注意proxy_pass配置。其實這塊也是負載均衡的配置 。如下：

在訪問網站時，由於配置了proxy_pass地址，所有請求都會先通過nginx反向代理伺服器，在伺服器將請求轉發給目的主機時，讀取upstream為 tomcatsever1的地址，讀取分發策略，配置tomcat1權重為3，所以nginx會將大部分請求發送給49伺服器上的tomcat1，也就是8080埠；較少部分給tomcat2來實現有條件的負載均衡，當然這個條件就是伺服器1、2的硬體指數處理請求能力。

負載均衡配置 還有其他的相關參數，這是只是打個樣，不贅述。

可以認為fastcgi_pass這個配置非常關鍵，將Nginx + FastCGI + PHP-FPM串連 。這個配置將PHP請求都交給 fastcgi_pass配置的PHP-FPM處理。 location分別通過正則過濾和轉發配置決定了各個請求URL將要轉發交與的處理方式 ，location /表示默認請求，location  ~\.php(.*)$ 表示PHP 腳本請求全部轉發到 FastCGI處理。 使用FastCGI默認配置.。

以上配置指定了這些 靜態文件要nginx自己處理 。

NGINX負載均衡可以用於很多服務負載均衡的實現，比如做Redis服務的負載均衡，配置upstream的IP列表再配置 proxy_pass 代理即可。那要實現負載均衡除了NGINX，還有哪些呢？

根據7層OSI模型可將負載均衡分為 ：

1）二層負載均衡（一般是用虛擬mac地址方式，外部對虛擬MAC地址請求，負載均衡接收後分配後端實際的MAC地址響應）；

2）三層負載均衡（一般採用虛擬IP地址方式，外部對虛擬的ip地址請求，負載均衡接收後分配後端實際的IP地址響應）；

3）四層負載均衡（在三次負載均衡的基礎上，用 ip+port 接收請求，再轉發到對應的機器）；

4）七層負載均衡（根據虛擬的url或是IP，主機名接收請求，再轉向相應的處理伺服器）。

這其中，最常見的是四層和七層負載均衡。思考一下，NGINX的負載均衡是屬於哪一種？

關於負載均衡的架構

『柒』 MIT線性代數總結筆記——行列式

前面的章節已經學習了大量關於矩陣的知識，現在我們來集中探討一下方陣的性質，其中行列式和特徵值是重中之重，本章來單獨討論行列式。

行列式是每個方陣都具有的值，我們將矩陣 的行列式記作 。行列式將很多矩陣信息壓縮到這一個數值中，例如矩陣的不可逆（奇異矩陣）與行列式的值為 等價（也就是說行列式可以直接判斷矩陣是否可逆）。

我們先從行列式最主要的三個性質開始講起，因為這三個性質定義了行列式，然後再拓展到其他性質上。

（1）單位矩陣的行列式為 。

例如二維單位矩陣：

（2）如果發生行交換，那麼行列式的正負號會改變。

將性質（1）和性質（2）結合在一起，就能得到所有置換矩陣 的行列式。

例如

通過該性質還可以得出，置換矩陣 具有奇偶性，也就是說，一個矩陣不可能經過奇數次置換得到和偶數次置換相同的方陣。

性質（3）有兩個，分別為

（3）a.

（3）b.

為什麼說由以上三個性質可以定義行列式，因為行列式其餘的性質皆可由上述三個性質推導而出，以下是行列式其餘的性質及它們的推導過程。

（4）如果矩陣中的兩行相等，則它的行列式為 。

矩陣中的兩行相等，意味著發生兩行交換時，行列式不變，根據性質（2）：「如果發生行交換，那麼行列式的正負號會改變。」，那麼行列式只能為 。

（5）行列式不因消元操作而改變。

證明：

（6）若矩陣中有一行是 ，那麼行列式為

矩陣中有一行是0，可以看作 ，那麼有

（7）對於三角陣的行列式，主元的乘積等於行列式。例如在四維中，設上三角矩陣 ，則 ， 維同理。

對於三角矩陣，我們可以通過不斷地消元最終得到對角矩陣，例如，通過消元法可以得到

那麼我們再利用性質（3）a.來證明對角矩陣的行列式就是對角線元素相乘

（8） ，則矩陣 為奇異矩陣。相反，若 ，則矩陣 可逆。

因為如果A可逆，化簡後能得到矩陣各列都含非0主元，得到三角矩陣，再利用性質（7）得到其行列式。

（9）

這意味著 ，這也可以作為本性質的證明，也可以用對角陣 和 ，但是我們必須一步步進行消元，整個證明過程需要是非耐心，最終證明該性質對任意矩陣成立。

同時本性質還能推出

這說明如果矩陣進行平方，那麼它的行列式也會平方。

此外，本性質還能推出

因為對一個 矩陣，將矩陣翻倍意味著各列向量都翻倍，一共翻倍 次，因此行列式變成了 倍。

（10）

證明：

根據 ，有

由於 和 都是三角矩陣，因此它們的行列式都是對角線的乘積，因此

所以最後我們得出

對於行列式的計算，我們先來推導二維行列式的求解過程。

觀察二維行列式的求解過程，我們發現，行列式的求解取決於那些分解後非零行列式的和，即各行各列均有非零元素的行列式。因此我們按照這個規律，繼續推導三維行列式，我們這次只寫出非 項，有

可以發現規律，因為各行各列均需有非零元素，所以對於 的矩陣，其行列式分解後的非零項有 個。

同理，我們根據 階行列式可以分解為 個非零行列式來推到出高維行列式的一般求解公式，即

例 求

如果檢查該行列式分解出的24項會發現其中有22項為 ，剩下的非零行列式為

因此 。

接下來引入代數餘子式的概念，它的作用是把 階行列式化簡為 階行列式。

先來看 行列式的情況，上一節我們得到了

那麼我們以行列式第一行的三個元素來合並同類項，可以得到

合並同類項後，我們又可以把新的三個項看作是三個矩陣的行列式

由此我們定義 的代數餘子式：將原行列式的第 行與第 列抹去後得到的 階行列式記為 ， 為偶數時，該項前的符號為 ， 為奇數時，該項前的符號為 ，規律如下

例 的代數餘子式為

因此，將矩陣 沿第一行展開的公式為

例

求 、 、 、

發現規律： ，因此可知

會發現，隨著維度增加，行列式的值呈現 ，以這樣 個值循環，因此周期為 。

至此，我們掌握了三種方法來求一個方陣的行列式：

我們已經接觸到很多逆矩陣了，但是一直沒有給出逆矩陣的公式，你可以通過Gauss-Jordan消元法來求矩陣的逆，不過現在學習了行列式，可以直接求逆矩陣。

我們已經知道二階逆矩陣的公式為：

那麼我們能否通過二階公式來推導至更高維度？

通過觀察公式我們發現：

因此可以得出，逆矩陣公式為

等式右側矩陣外的因子，其分母是矩陣的行列式，而矩陣為 代數餘子式矩陣（Cofactor Matrix） 的轉置 ，稱為 伴隨矩陣（Adjoint Matrix） 。因此 矩陣 的逆就是矩陣行列式的倒數與其伴隨矩陣的乘積。

那麼為什麼是這個公式呢？我們來驗證一下，假設等式成立，首先將等式兩邊都乘上矩陣 得到

因此，若逆矩陣公式成立其實就是判斷 是否與 相等。

根據矩陣相乘，我們觀察發現，矩陣 的第一行第一列元素等於矩陣 第一行和矩陣 第一列進行點積，計算可得

也就是說，它們的點積其實就是矩陣 的行列式計算公式，而 對角線上的所有元素都是如此，因此我們可以得到，它們相乘後的矩陣，其對角線處全部都是行列式。那麼非對角元素呢？以第二行第一列為例，相乘我們發現，各個代數餘子式的形式不變，但是與代數餘子式相乘的變為了矩陣 第二行第 列元素。因此這個形式相當於用矩陣 第二行的元素替代第一行的元素得到的矩陣，前兩行的元素相同，因此按照行列式性質（4），其值為 。

因此最後我們得到

對於可逆矩陣 ，方程 必有解 ，將逆矩陣的公式代入，那麼

克萊姆法則（Cramer's Rule）則是從另一個角度來看待這個公式，即 的分量 為

其中，矩陣 為用向量 替換矩陣 的第 列所得到的新矩陣。例如

矩陣 的行列式的值從第j列用代數餘子式進行展開計算，正好是伴隨矩陣 的第j行，與向量 點積的結果。

但是相較於高斯消元法，克萊姆法則計算方程的解的效率較低，它僅僅只是提供了一個代數表達式，讓人們能代數運算而不是寫演算法。

在二維中，行列式的幾何意義其實就是矩陣所對應的線性變換所改變由空間中兩基向量構成的矩形的面積的比例，對應到三維就是對應空間中三個基向量對應的平行六面體的體積的比例。

『捌』 各類場景應用中涉及的AI演算法匯總

整理了各類場景應用中AI演算法

一、圖像CV

內容安全，目標檢測，圖像識別，智能視覺生產，圖像搜索，圖像分割，物體檢測，圖像分類，圖像標簽，名人識別，概念識別，場景識別，物體識別，場景分析，智能相冊，內容推薦，圖庫管理，網紅人物識別，明星人物識別，圖像搜索，商品圖片搜索，版權圖片搜索，通用圖片搜索，車牌識別，垃圾分類，車輛檢測，菜品識別，車型識別，犬類識別，實例分割，風格遷移，智能填充，智能識圖，拍照搜商品，精準廣告投放，電商導購，圖像分析，圖像理解，圖像處理，圖像質量評估，場景識別，物體識別，場所識別，圖像自訓練平台，圖像分類，目標檢測，圖像分割，關鍵點檢測，圖像生成，場景文字識別，度量學習，圖像識別，圖像比對，圖像分類使用手冊，圖像分類API文檔目標檢測使用手冊，目標檢測API文檔Logo檢測使用手冊，Logo檢測API文檔，通用圖片搜索，車牌識別，垃圾分類，車輛檢測，車型識別，犬類識別，實例分割，風格遷移，智能填充，車牌識別，相冊聚類，場景與物體識別，無限天空，圖像識別引擎，黃色圖片識別，暴力圖像識別，工業輪胎智能檢測，肋骨骨折識別，顯微識別，圖像處理，廣告識別，人臉演算法，人體演算法，圖像識別，圖像增強，OCR，圖像處理，ZoomAI，智能貼圖，智能製作，質量評價，圖像識別，智能鑒黃，圖像識別，實時手寫識別，唇語識別，通用文字識別，手寫文字識別，圖像技術，圖像識別，圖像審核，圖像搜索，圖像增強，圖像特效，車輛分析，圖像生成，繪畫機器人獨家，動漫化身獨家，像素風獨家，超清人像獨家，圖像融合，換臉技術，神奇變臉，圖像風格化，證件照生成，線稿圖像識別，寶寶檢測，圖像分類，圉像深度估計，天空分割，食物分割，貓狗臉技術，食物識別獨家，圖像美學評分，車輛分析，車型識別，車型識別（含指導價），車型識別（含配置參數），車標識別，人臉識別（活體），車牌識別，表情識別，安全帽識別，計算機影像，計算機視覺，聚焦光學字元識別、人臉識別、質檢、感知、理解、交互，圖像視頻分析，Logo檢測，內容審核，智能批改，筆記評估，思維導圖評估，物體檢測，物體識別。

二、人臉、體態、眼瞳、聲音、指紋

人臉分割人臉識別，無，人體分析HAS，識別人的年齡，性別，穿著信息，客流統計分析，智能客服，熱點區域分析，人體檢測，人臉口罩識別，人臉對比，人臉搜索，人臉檢測與屬性分析，人臉活體檢測，人體關鍵點檢測，行人重識別，細粒度人像分割，人像分割，人臉解析，3D人體姿態估計，人臉融合，人臉識別，換臉甄別，人臉支付，人臉核身，人像變換，人臉試妝，人臉融合，人體分析，手勢識別，人臉驗證與檢索，人臉比對，人臉比對sensetime，人臉水印照比對，靜默活體檢測，靜默活體檢測sensetime，人臉檢測和屬性分析，人臉特徵分析tuputech，配合式活體檢測，人臉安防，計算機視覺，智能應用服務，人臉查詢人臉分析人臉統計名單庫管理人臉布控，人臉應用，人體應用，人體查詢，車輛查詢車輛分析車輛統計車輛布控車輛名單庫管理，車輛應用，人臉圖像識別人體圖像識別車輛圖像識別，圖像識別，圖像比對，人臉比對，人體檢測，人臉口罩識別，人臉對比，人臉搜索，人臉檢測與屬性分析，人臉活體檢測，人體關鍵點檢測，行人重識別，細粒度人像分割，人像分割，人臉解析，3D人體姿態估計，人臉融合，人臉識別，人臉檢測，人臉比對，人臉搜索，人臉關鍵點，稠密關鍵點，人臉屬性，情緒識別，顏值評分，視線估計，皮膚分析，3D人臉重建，面部特徵分析人體識別，人體檢測，人體關鍵點，人體摳像，人體屬性，手勢識別人像處理，美顏美型，人臉融合，濾鏡，聲紋識別支付，語音合成，語音合成，聲紋識別，語音喚醒，人臉識別引擎，攝像頭人臉識別，圖片人臉檢測，身份識別，人臉識別，人臉屬性，人體識別，聲紋識別，衣服檢索及聚類，語音分析，聲紋識別，說話人歸檔，人臉和人體識別，人臉檢測，手勢識別，人臉與人體識別，人臉識別雲服務，人臉識別私有化，人臉離線識別SDK，人臉實名認證，人像特效，人體分析，人臉技不，皮膚分析獨家，頭部分割，宏觀人臉分析，人臉關鍵點檢測，微觀人臉分析獨家，頭發分析獨家，五官分割，頭發分割人體技術，人體外輪廓點檢測獨家，精細化人像摳圖，人體框檢測，肢體關鍵點檢測，人像分割，服飾識別，手勢識別，皮膚分割，人臉，說話人識別，人臉檢測識別，人臉1：1比對，人臉檢測，AI人臉/人形車輛，大數據人像圖片防偽，QoS保障，CDN，表情識別，舉手動作識別，人臉檢測，網路切片，邊緣計算，人臉分析，人臉檢測，人臉搜索，人體分析，手勢識別，著裝檢測，人臉識別，行為檢測，人臉識別，人形檢測，行為分析，人臉檢測，人臉跟蹤，人臉比對，人臉查找，人臉屬性分析，活體檢測，聲音指紋，聲紋識別。

三、視頻

視頻分割、視頻處理、視頻理解、智能視覺、多媒體，視頻內容分析，人體動作監控，視頻分類，智能交通，人/動物軌跡分析，目標計數，目標跟蹤，視頻編輯-，精彩片段提取，新聞視頻拆分，視頻摘要，視頻封面，視頻拆條，視頻標簽-，視頻推薦，視頻搜索，視頻指紋-，數字版權管理，廣告識別，視頻快速審核，視頻版權，視頻查重，視頻換臉，車輛解析， 體育 視頻摘要，視頻內容分析，顏色識別，貨架商品檢測， 時尚 搭配，危險動作識別，無，無，視頻，視頻換臉，車輛解析， 體育 視頻摘要，視頻內容分析，顏色識別，貨架商品檢測， 時尚 搭配，危險動作識別，菜品識別，視頻識別引擎，結腸息肉檢測，胃鏡評估系統，視頻標簽，場景識別，客流分析，手勢識別，視頻技術，短視頻標簽，視覺看點識別，動態封面圖自動生成，智能剪輯，新聞拆條，智能插幀，視頻技術，多模態媒資檢索公測中，媒體內容分析，媒體內容審核，視頻生成，視頻動作識別，

四、ocr文字識別

手寫識別，票據識別，通用文檔，通用卡證，保險智能理賠，財稅報銷電子化，證照電子化審批，票據類文字識別，行業類文字識別，證件類文字識別，通用類文字識別，通用文字識別，駕駛證識別，身份證識別，增值稅發票識別，行駛證識別，營業執照識別，銀行卡識別，增值稅發票核驗，營業執照核驗，智能掃碼，行業文檔識別， 汽車 相關識別，票據單據識別，卡證文字識別，通用文字識別，手寫文字識別，印刷文字識別，銀行卡識別，名片識別，身份證識別intsig，營業執照識別intsig，增值稅發票識別intsig，拍照速算識別，公式識別，指尖文字識別，駕駛證識別JD，行駛證識別JD，車牌識別JD，身份證識別，增值稅發票識別，營業執照識別，火車票識別，計程車發票識別，印刷文字識別（多語種），印刷文字識別（多語種）intsig內容審核，色情內容過濾，政治人物檢查，暴恐敏感信息過濾，廣告過濾，OCR自定義模板使用手冊，OCR自定義模板API文檔，通用文字識別，駕駛證識別，身份證識別，增值稅發票識別，行駛證識別，營業執照識別，銀行卡識別，身份證識別，駕駛證識別，行駛證識別，銀行卡識別，通用文字識別，自定義模板文字識別，文字識別引擎，身份證識別，圖片文字識別，通用文字識別，身份證識別，名片識別，光學字元識別服務，通用文字識別，手寫體文字識別，表格識別，整題識別（含公式），購物小票識別，身份證識別，名片識別，自定義模板文字識別，文字識別，通用文字識別，銀行卡識別，身份證識別，字幕識別，網路圖片識別， 游戲 直播關鍵字識別，新聞標題識別，OCR文字識別，通用場景文字識別，卡證文字識別，財務票據文字識別，醫療票據文字識別， 汽車 場景文字識別，教育場景文字識別，其他場景文字識別，iOCR自定義模板文字識別，通用類OCR，通用文本識別(中英)通用文本識別(多語言)通用表格識別，證照類OCR，身份證社保卡戶口本護照名片銀行卡結婚證離婚證房產證不動產證，車輛相關OCR，行駛證駕駛證車輛合格證車輛登記證，公司商鋪類OCR，商戶小票稅務登記證開戶許可證營業執照組織機構代碼證，票據類OCR，增值稅發票增值稅卷票火車票飛機行程單計程車發票購車發票智能技術，票據機器人證照機器人文本配置機器人表格配置機器人框選配置機器人，文字識別，行駛證識別，駕駛證識別，表單識別器，通用文本，財務票據識別，機構文檔識別，個人證件識別，車輛相關識別，通用表格，印章識別，財報識別，合同比對，識別文字識別，簽名比對，OCR識別，教育OCR，印刷識別，手寫識別，表格識別，公式識別，試卷拆錄

五、自然語言NPL

文本相似度，文本摘要，文本糾錯，中心詞提取，文本信息抽取，智能文本分類，命名實體，詞性標注，多語言分詞，NLP基礎服務，地址標准化，商品評價解析智能簡訊解析，機器閱讀理解，金融研報信息識別，法律案件抽取，行業問答推理，行業知識圖譜構建，文本實體關系抽取，搜索推薦，知識問答，短文本相似度，文本實體抽取， 情感 傾向分析，興趣畫像匹配，文本分類-多標簽，文本分類-單標簽，定製自然語言處理，語言生成，語言理解，自然語言處理基礎，文本摘要，數據轉文字，文本生成，智能問答系統，內容推薦，評價分析，文本分類，對話理解，意圖理解， 情感 分析，觀點抽取，中文分詞，短文本相似度，關鍵詞提取，詞向量，命名實體，識別依存，句法分析， 情感 分析，評論觀點抽取，短文本相似度，機器翻譯，詞法分析，詞義相似度，詞向量，句法分析，文本分類，短語挖掘，閑聊，文本流暢度，同義詞，聚類，語言模型填空，新聞熱詞生成，機器閱讀理解，商品信息抽取，詞法分析， 情感 分析，關鍵詞提取，用戶評論分析，資訊熱點挖掘，AIUI人機交互，文本糾錯，詞法分析，依存句法分析，語義角色標注，語義依存分析（依存樹），語義依存分析（依存圖）， 情感 分析，關鍵詞提取，NLP能力生產平台，NLP基礎技術，中文詞法分析-LAC，詞向量—Word2vec，語言模型—Language_model，NLP核心技術， 情感 分析、文本匹配、自然語言推理、詞法分析、閱讀理解、智能問答，信息檢索、新聞推薦、智能客服， 情感 分析、文本匹配、自然語言推理、詞法分析、閱讀理解、智能問答，機器問答、自然語言推斷、 情感 分析和文檔排序，NLP系統應用，問答系統對話系統智能客服，用戶消費習慣理解熱點話題分析輿情監控，自然語言處理，文本分類使用手冊，文本分類API文檔， 情感 分析，評論觀點抽取，短文本相似度，機器翻譯，詞法分析，詞義相似度，詞向量，句法分析，文本分類，短語挖掘，閑聊，文本流暢度，同義詞，聚類，語言模型填空，新聞熱詞生成，機器閱讀理解，商品信息抽取智能創作，智能寫作，搭配短文，種草標題，賣點標題，社交電商營銷文案，自然語言處理能力，基礎文本分析，分詞、詞性分析技術，詞向量表示，依存句法分析，DNN語言模型，語義解析技術，意圖成分識別， 情感 分析，對話情緒識別，文本相似度檢測，文本解析和抽取技術，智能信息抽取，閱讀理解，智能標簽，NLG，自動摘要，自動寫文章，語言處理基礎技術，文本審核， 情感 分析，機器翻譯，智能聊天，自然語言，基於標題的視頻標簽，台詞看點識別，意圖識別，詞法分析，相關詞，輿情分析，流量預測，標簽技術，自然語言處理，語義對話，自然語言處理，車型信息提取，關鍵詞提取，語義理解，語義相似度，意圖解析，中文詞向量，表示依存，句法分析，上下文理解，詞法分析，意圖分析，情緒計算，視覺 情感 ，語音 情感 ， 情感 分析，沉浸式閱讀器，語言理解，文本分析，自然語言處理，在線語音識別，自然語言理解火速上線中， 情感 判別，語義角色標注，依存句法分析，詞性標注，實體識別，中文分詞，分詞，

6、知識圖譜

知識圖譜，葯學知識圖譜，智能分診，騰訊知識圖譜，無，葯學知識圖譜，智能分診，知識理解，知識圖譜Schema，圖資料庫BGraph，知識圖譜，語言與知識，語言處理基礎技術，語言處理應用技術，知識理解，文本審核，智能對話定製平台，智能文檔分析平台，智能創作平台，知識圖譜，實體鏈接，意圖圖譜，識別實體，邏輯推理，知識挖掘，知識卡片

7、對話問答機器人

智能問答機器人，智能語音助手，智能對話質檢，智能話務機器人，無，電話機器人，NeuHub助力京東智能客服升級，騰訊雲小微，智能硬體AI語音助手，對話機器人，無，問答系統對話系統智能客服，Replika對話技術，客服機器人，智能問答，智能場景，個性化回復，多輪交互，情緒識別，智能客服，金融虛擬客服，電話質檢，AI語音交互機器人，中移雲客服·智能AI外呼，人機對話精準語義分析

8、翻譯

協同翻譯工具平台，電商內容多語言工具，文檔翻譯，專業版翻譯引擎，通用版翻譯引擎，無，機器翻譯，無，機器翻譯，音視頻字幕平台，機器翻譯，機器翻譯niutrans，文本翻譯，語音翻譯，拍照翻譯，機器翻譯，機器翻譯，文本翻譯，語音翻譯，通用翻譯，自然語言翻譯服務，文本翻譯，圖片翻譯，語音翻譯，實時語音翻譯，文檔翻譯(開發版，機器翻譯，文本翻譯，語音翻譯，拍照翻譯，機器翻譯實時長語音轉寫，錄音文件長語音轉寫，翻譯工具，機器翻譯火速上線中

9、聲音

便攜智能語音一體機，語音合成聲音定製，語音合成，一句話識別，實時語音識別錄音文件識別，客服電話，語音錄入，語音指令，語音對話，語音識別，科學研究，安防監控，聲音分類，語音合成，語音識別，實時語音轉寫，定製語音合成，定製語音識別，語音合成，語音合成聲音定製，離線語音合成，短語音識別，錄音文件識別，聲紋識別，離線語音識別，實時語音識別，呼叫中心短語音識別，呼叫中心錄音文件識別，呼叫中心實時語音識別，語音識別，語音合成，聲紋識別，語音識別，語音聽寫，語音轉寫，實時語音轉寫，語音喚醒，離線命令詞識別，離線語音聽寫，語音合成，在線語音合成，離線語音合成，語音分析，語音評測，性別年齡識別，聲紋識別，歌曲識別，A.I.客服平台能力中間件，語音識別，語音交互技術，語音合成，語音合成聲音定製，離線語音合成，短語音識別，錄音文件識別，聲紋識別，離線語音識別，實時語音識別，呼叫中心短語音識別，呼叫中心錄音文件識別，呼叫中心實時語音識別，遠場語音識別，語音識別，一句話識別，實時語音識別，錄音文件識別，語音合成，實時語音識別，長語音識別，語音識別，語音合成，波束形成，聲源定位，去混響，降噪，回聲消除，分布式拾音，語音識別，語音喚醒，語音合成，聲紋識別，智能語音服務，語音合成，短語音識別，實時語音識別，語音理解與交互，離線喚醒詞識別，語音識別，一句話識別，實時語音識別，錄音文件識別，電話語音識別，語音喚醒，離線語音識別，離線命令詞識別，遠場語音識別，語音合成，通用語音合成，個性化語音合成，語音技術，短語音識別，實時語音識別，音頻文件轉寫，在線語音合成，離線語音合成，語音自訓練平台，語音交互，語音合成，語音識別，一句話識別，實時短語音識別，語音合成，語音喚醒，本地語音合成，語音翻譯，語音轉文本，短語音聽寫，長語音轉寫，實時語音轉寫，語音內容審核，會議超極本，語音交互技術，語音識別，語義理解，語音合成，音頻轉寫，音視頻類產品，語音通知/驗證碼，訂單小號，撥打驗證，點擊撥號，數據語音，統一認證，語音會議，企業視頻彩鈴，語音識別，語音文件轉錄，實時語音識別，一句話語音識別，語音合成，通用語音合成，個性化語音合成，語音評測，通用語音評測，中英文造句評測，在線語音識別，語音識別，語音喚醒，語音合成，語音合成，語音識別，語音聽寫，語音轉寫，短語音轉寫(同步)，語音識別，語音 情感 識別

十、數據挖掘AI硬體

演算法類型：包括二分類、多分類和回歸，精準營銷，表格數據預測，銷量預測，交通流量預測，時序預測，大數據，無，機器學習使用手冊，機器學習API文檔，大數據處理，大數據傳輸，數據工廠，大數據分析，數據倉庫，數據採集與標注，數據採集服務，數據標注服務，AI開發平台，全功能AI開發平台BML，零門檻AI開發平台EasyDL，AI硬體與平台，GPU雲伺服器，機器人平台，度目視頻分析盒子，度目AI鏡頭模組，度目人臉應用套件，度目人臉抓拍機，人臉識別攝像機，昆侖AI加速卡，智能預測，購車指數，數據科學虛擬機，平台效率，雲與AI，抗DDoS，天盾，網站漏洞掃描，網頁防篡改，入侵檢測防護，彈性雲伺服器，對象存儲服務，雲專線（CDA，AI計算機平台—360net深度學習基礎模型，AI演算法訓練適配主流AI框架

十一、其他

內容審核，智能鑒黃，特定人物識別，通用圖片審核，文本智能審核，廣告檢測，Logo檢測，商品理解，拍照購，商品圖片搜索，通用商品識別，疫情物資識別，酒標識別，細分市場劃分，品牌競爭力分析，老品升級，新品定製，商品競爭力分析，商品銷量預測，商品營銷，用戶評論佔比預測，商品命名實體識別，商品顏色識別，強化學習，智能地圖引擎，內容審核，智能鑒黃，特定人物識別，通用圖片審核，文本智能審核，廣告檢測，Logo檢測商品理解，拍照購，商品圖片搜索，通用商品識別，疫情物資識別，酒標識別，細分市場劃分，品牌競爭力分析，老品升級，新品定製，商品競爭力分析，商品銷量預測，商品營銷，用戶評論佔比預測，商品命名實體識別，商品顏色識別，個性化與推薦系統，推薦系統，輿情分析，輿情標簽，智慧教育，智能語音評測，拍照搜題，題目識別切分，整頁拍搜批改，作文批改，學業大數據平台，文檔校審系統，會議同傳系統，文檔翻譯系統，視頻翻譯系統，教育學習，口語評測，朗讀聽書，增強現實，3D肢體關鍵點SDK，美顏濾鏡SDK，短視頻SDK，基礎服務，私有雲部署，多模態交互，多模態 情感 分析，多模態意圖解析，多模態融合，多模態語義，內容審查器，Microsoft基因組學，醫學人工智慧開放平台，數據查驗介面，身份驗證（公安簡項），銀行卡驗證，發票查驗，設備接入服務Web/H5直播消息設備託管異常巡檢電話提醒，音視頻，視頻監控服務雲廣播服務雲存儲雲錄制，司乘體驗，智能地圖引擎，消息類產品，視頻簡訊，簡訊通知/驗證碼，企業掛機彩信，來去電身份提示，企業固話彩印，模板閃信，異網簡訊，內容生產，試卷拆錄解決方案，教學管理，教學質量評估解決方案，教學異常行為監測，授課質量分析解決方案，路況識別，人車檢測，視覺SLAM，高精地圖，免費SDK，智能診後隨訪管理，用葯管家，智能預問診，智能導診，智能自診，智能問葯，智能問答，裁判文書近義詞計算，法條推薦，案由預測，

『玖』 優化演算法筆記（二）優化演算法的分類

（以下描述，均不是學術用語，僅供大家快樂的閱讀）

在分類之前，我們先列舉一下常見的優化演算法（不然我們拿什麼分類呢？）。
1遺傳演算法Genetic algorithm
2粒子群優化演算法Particle Swarm Optimization
3差分進化演算法Differential Evolution
4人工蜂群演算法Artificial Bee Colony
5蟻群演算法Ant Colony Optimization
6人工魚群演算法Artificial Fish Swarm Algorithm
7杜鵑搜索演算法Cuckoo Search
8螢火蟲演算法Firefly Algorithm
9灰狼演算法Grey Wolf Optimizer
10鯨魚演算法Whale Optimization Algorithm
11群搜索演算法Group search optimizer
12混合蛙跳演算法Shuffled Frog Leaping Algorithm
13煙花演算法fireworks algorithm
14菌群優化演算法Bacterial Foraging Optimization
以上優化演算法是我所接觸過的演算法，沒接觸過的演算法不能隨便下結論，知之為知之，不知為不知。其實到目前為止優化演算法可能已經有幾百種了，我們不可能也不需要全面的了解所有的演算法，而且優化演算法之間也有較大的共性，深入研究幾個之後再看其他優化演算法上手速度會灰常的快。
優化演算法從提出到現在不過50-60年（遺傳演算法1975年提出），雖種類繁多但大多較為相似，不過這也很正常，比較香蕉和人的基因相似度也有50%-60%。當然演算法之間的相似度要比香蕉和人的相似度更大，畢竟人家都是優化演算法，有著相同的目標，只是實現方式不同。就像條條大路通羅馬，我們可以走去，可以坐汽車去，可以坐火車去，也可以坐飛機去，不管使用何種方式，我們都在去往羅馬的路上，也不會說坐飛機去要比走去更好，交通工具只是一個工具，最終的方案還是要看我們的選擇。

上面列舉了一些常見的演算法，即使你一個都沒見過也沒關系，後面會對它們進行詳細的介紹，但是對後面的分類可能會有些許影響，不過問題不大，就先當總結看了。
再對優化演算法分類之前，先介紹一下演算法的模型，在筆記（一）中繪制了優化演算法的流程，不過那是個較為簡單的模型，此處的模型會更加復雜。上面說了優化演算法有較大的相似性，這些相似性主要體現在演算法的運行流程中。
優化演算法的求解過程可以看做是一個群體的生存過程。

有一群原始人，他們要在野外中尋找食物，一個原始人是這個群體中的最小單元，他們的最終目標是尋找這個環境中最容易獲取食物的位置，即最易存活下來的位置。每個原始人都去獨自尋找食物，他們每個人每天獲取食物的策略只有採集果實、製作陷阱或者守株待兔，即在一天之中他們不會改變他們的位置。在下一天他們會根據自己的策略變更自己的位置。到了某一天他們又聚在了一起，選擇了他們到過的最容易獲取食物的位置定居。
一群原始人=優化演算法中的種群、群體；
一個原始人=優化演算法中的個體；
一個原始人的位置=優化演算法中個體的位置、基因等屬性；
原始人變更位置=優化演算法中總群的更新操作；
該位置獲取食物的難易程度=優化演算法中的適應度函數；
一天=優化演算法中的一個迭代；
這群原始人最終的定居位置=優化演算法所得的解。
優化演算法的流程圖如下：

對優化演算法分類得有個標准，按照不同的標准分類也會得到不一樣的結果。首先說一下我所使用的分類標准（動態更新，有了新的感悟再加）：

按由來分類比較好理解，就是該演算法受何種現象啟發而發明，本質是對現象分類。

可以看出演算法根據由來可以大致分為有人類的理論創造而來，向生物學習而來，受物理現象啟發。其中向生物學習而來的演算法最多，其他類別由於舉例有偏差，不是很准確，而且物理現象也經過人類總結，有些與人類現象相交叉，但仍將其獨立出來。
類別分好了，那麼為什麼要這么分類呢？

當然是因為要湊字數啦，啊呸，當然是為了更好的理解學習這些演算法的原理及特點。
向動物生存學習而來的演算法一定是一種行之有效的方法，能夠保證演算法的效率和准確性，因為，如果使用該策略的動物無法存活到我們可以對其進行研究，我們也無法得知其生存策略。（而這也是一種倖存者偏差，我們只能看到行之有效的策略，但並不是我們沒看到的策略都是垃圾，畢竟也發生過小行星撞地球這種小概率毀滅性事件。講個冷笑話開cou心一shu下:一隻小恐龍對他的小夥伴說，好開心，我最喜歡的那顆星星越來越亮了（完）。）但是由於生物的局限性，人們所創造出的演算法也會有局限性：我們所熟知的生物都生存在三維空間，在這些環境中，影響生物生存的條件比較有限，反應到演算法中就是這些演算法在解決較低維度的問題時效果很好，當遇到超高維（維度>500）問題時，結果可能不容樂觀，沒做過實驗，我也不敢亂說。

按更新過程分類相對復雜一點，主要是根據優化演算法流程中更新位置操作的方式來進行分類。更新位置的操作按我的理解可大致分為兩類：1.跟隨最優解；2.不跟隨最優解。
還是上面原始人的例子，每天他有一次去往其他位置狩獵的機會，他們採用何種方式來決定今天自己應該去哪裡呢？
如果他們的策略是「跟隨最優解」，那麼他們選取位置的方式就是按一定的策略向群體已知的最佳狩獵位置（歷史最佳）或者是當前群體中的最佳狩獵位置（今天最佳）靠近，至於是直線跑過去還是蛇皮走位繞過去，這個要看他們群體的策略。當然，他們的目的不是在最佳狩獵位置集合，他們的目的是在過去的途中看是否能發現更加好的狩獵位置，去往已經到過的狩獵地點再次狩獵是沒有意義的，因為每個位置獲取食物的難易程度是固定的。有了目標，大家都會朝著目標前進，總有一日，大家會在謀個位置附近相聚，相聚雖好但不利於後續的覓食容易陷入局部最優。
什麼是局部最優呢？假設在當前環境中有一「桃花源」，擁有上帝視角的我們知道這個地方就是最適合原始人們生存的，但是此地入口隱蔽「山有小口，彷彿若有光」、「初極狹，才通人。」，是一個難以發現的地方。如果沒有任何一個原始人到達了這里，大家向著已知的最優位置靠近時，也難以發現這個「桃源之地」，而當大家越聚越攏之後，「桃源」被發現的可能性越來越低。雖然原始人們得到了他們的解，但這並不是我們所求的「桃源」，他們聚集之後失去了尋求「桃源」的可能，這群原始人便陷入了局部最優。

如果他們的策略是「不跟隨最優解」，那麼他們的策略是什麼呢？我也不知道，這個應該他們自己決定。畢竟「是什麼」比「不是什麼」的范圍要小的多。總之不跟隨最優解時，演算法會有自己特定的步驟來更新個體的位置，有可能是隨機在自己附近找，也有可能是隨機向別人學習。不跟隨最優解時，原始人們應該不會快速聚集到某一處，這樣一來他們的選擇更具多樣性。
按照更新過程對上面的演算法分類結果如下

可以看出上面不跟隨最優解的演算法只有遺傳演算法和差分進化演算法，他們的更新策略是與進化和基因的重組有關。因此這些不跟隨最優解的演算法，他們大多依據進化理論更新位置（基因）我把他們叫做進化演算法，而那些跟隨群體最優解的演算法，他們則大多依賴群體的配合協作，我把這些演算法叫做群智能演算法。

目前我只總結了這兩種，分類方法，如果你有更加優秀的分類方法，我們可以交流一下：

目錄
上一篇 優化演算法筆記（一）優化演算法的介紹
下一篇 優化演算法筆記（三）粒子群演算法（1）

『拾』 高二數學知識點筆記

課堂臨時報佛腳，不如 課前預習 好。其實任何學科的知識都是一樣的，學習任何一門學科，勤奮都是最好的 學習 方法 ，沒有之一，書山有路勤為徑。下面是我給大家整理的一些 高二數學 的知識點，希望對大家有所幫助。

高 二年級數學 重要知識點歸納

正弦定理a/sinA=b/sinB=c/sinC=2R註：其中R表示三角形的外接圓半徑

餘弦定理b2=a2+c2-2accosB註：角B是邊a和邊c的夾角

圓的標准方程(x-a)2+(y-b)2=r2註：(a,b)是圓心坐標

圓的一般方程x2+y2+Dx+Ey+F=0註：D2+E2-4F>0

拋物線標准方程y2=2pxy2=-2p_2=2pyx2=-2py

直稜柱側面積S=c_h斜稜柱側面積S=c'_h

正棱錐側面積S=1/2c_h'正稜台側面積S=1/2(c+c')h'

圓台側面積S=1/2(c+c')l=pi(R+r)l球的表面積S=4pi_r2

圓柱側面積S=c_h=2pi_h圓錐側面積S=1/2_c_l=pi_r_l

弧長公式l=a_ra是圓心角的弧度數r>0扇形面積公式s=1/2_l_r

錐體體積公式V=1/3_S_H圓錐體體積公式V=1/3_pi_r2h

斜稜柱體積V=S'L註：其中,S'是直截面面積，L是側棱長

柱體體積公式V=s_h圓柱體V=p_r2h

乘法與因式分a2-b2=(a+b)(a-b)a3+b3=(a+b)(a2-ab+b2)a3-b3=(a-b(a2+ab+b2)

三角不等式|a+b|≤|a|+|b||a-b|≤|a|+|b||a|≤b<=>-b≤a≤b

|a-b|≥|a|-|b|-|a|≤a≤|a|

一元二次方程的解-b+√(b2-4ac)/2a-b-√(b2-4ac)/2a

根與系數的關系X1+X2=-b/aX1_X2=c/a註：韋達定理

判別式

b2-4ac=0註：方程有兩個相等的實根

b2-4ac>0註：方程有兩個不等的實根

b2-4ac<0註：方程沒有實根，有共軛復數根

高二年級數學必修三知識點

(1)演算法概念：在數學上，現代意義上的演算法通常是指可以用計算機來解決的`某一類問題是程序或步驟，這些程序或步驟必須是明確和有效的，而且能夠在有限步之內完成.

(2)演算法的特點:

①有限性：一個演算法的步驟序列是有限的，必須在有限操作之後停止，不能是無限的.

②確定性：演算法中的每一步應該是確定的並且能有效地執行且得到確定的結果，而不應當是模稜兩可.

③順序性與正確性：演算法從初始步驟開始，分為若干明確的步驟，每一個步驟只能有一個確定的後繼步驟，前一步是後一步的前提，只有執行完前一步才能進行下一步，並且每一步都准確無誤，才能完成問題.

④不性：求解某一個問題的解法不一定是的，對於一個問題可以有不同的演算法.

⑤普遍性：很多具體的問題，都可以設計合理的演算法去解決，如心算、計算器計算都要經過有限、事先設計好的步驟加以解決.

高二上冊數學必修二知識點

用樣本的數字特徵估計總體的數字特徵

1、本均值：

2、樣本標准差：

3.用樣本估計總體時，如果抽樣的方法比較合理，那麼樣本可以反映總體的信息，但從樣本得到的信息會有偏差。在隨機抽樣中，這種偏差是不可避免的。

雖然我們用樣本數據得到的分布、均值和標准差並不是總體的真正的分布、均值和標准差，而只是一個估計，但這種估計是合理的，特別是當樣本量很大時，它們確實反映了總體的信息。

4.(1)如果把一組數據中的每一個數據都加上或減去同一個共同的常數，標准差不變

(2)如果把一組數據中的每一個數據乘以一個共同的常數k，標准差變為原來的k倍

(3)一組數據中的值和最小值對標准差的影響，區間的應用;

「去掉一個分，去掉一個最低分」中的科學道理

高二數學知識點筆記相關 文章 ：

★ 高二數學知識點總結

★ 高二數學選修的必學知識點總結

★ 高二數學考點知識點總結復習大綱

★ 高二數學知識點全總結

★ 高二數學知識點總結(人教版)

★ 高二數學必背知識點總結

★ 高二數學知識點總結歸納

★ 高二數學知識點復習總結

★ 高二數學知識點總結人教版

★ 高二數學知識點歸納

var _hmt = _hmt || []; (function() { var hm = document.createElement("script"); hm.src = "https://hm..com/hm.js?"; var s = document.getElementsByTagName("script")[0]; s.parentNode.insertBefore(hm, s); })();