非線性演算法

㈠ 分類演算法怎樣分為 線性分類 和非線性分類

• 線性演算法

  線性演算法的定義：在計算復雜性理論，一個被稱為線性時間或 Ο(n)時間的演算法，表示演算法解題所需時間正比於輸入資料的大小，通常以n表示。

這可以理解為，如果所需時間正比於輸入資料的大小，那就是一個線性演算法，類似於中學時學過的一次函數的函數圖象

• 非線性演算法

  非線性演算法一般有O(NlogN),O(N^2)等等。這些非線性演算法所需的時間和輸入資料大小不成正比，故函數圖象應不會是一條直線，所以這些演算法不是線性分類，即非線性分類。

㈡ 非線性最小二乘法

一.梯度下降法以及Jacobian矩陣計算

在2010年的關於L-K和AAM的博客里提到，模板匹配公式的一階泰勒展開ΔT=J*Δp，J是用於梯度下降的Jacobian矩陣，是高維矢量函數值T=f(p)相對與參數矢量p變化時的增量(導數)。如果p是n維矢量，T是M維矢量，則J是一個[m*n]的矩陣。J在(i,j)處的元素值是(əTi/əpj)。