prony演算法

1. 從經典譜估計到現代譜估計

諧波分析最早可追溯到古代對時間的研究。18世紀伯努利（Bernoulli）、歐拉（Euler）和拉格朗日（Lagrange）等人對波動方程及其正弦解進行了研究，19世紀初葉，傅立葉（Fourier）證明了在有限時間段上定義的任何函數都可以用正弦和餘弦分量的無限諧波的總和來表示。1898年舒斯特（Schuster）以傅立葉分析為基礎來擬合待分析信號，研究太陽黑子數的周期變化，並提出了周期圖的概念。1930年維納（Wiener）發表了經典性論文《廣義諧波分析》，對平穩隨機過程的自相關函數和功率譜密度作了精確的定義，證明了二者之間存在著傅氏變換（以下簡稱傅氏變換）的關系，從而為功率譜分析奠定了堅實的統計學基礎。由於1934年辛欽（Khintchine）也獨立地證明了自相關函數和功率譜之間的傅氏變換關系，即維納-辛欽（Wiener-Khintchine）定理。根據這個定理（詳見第一章），平穩離散隨機信號x（n）的自相關函數r_xx（m）

r_xx（m）=E［x（m+n）x^*（n）］ （4-1）

與功率譜P_xx（e^jω）之間構成一傅氏變換對，即

地球物理信息處理基礎

若x（n）還是各態遍歷性的，則其自相關函數可由它的一個采樣時間序列用時間平均的方法求出，即

地球物理信息處理基礎

在大多數應用中x（n）是實信號，於是上式可寫成

地球物理信息處理基礎

實際上，一般只能在時域觀測到隨機信號的有限個采樣值（例如N個值），可表示為

x_N（n）=｛x（0），x（1），…，x（N-1）｝=｛x（n），n=0，1，…，N-1｝

其自相關函數只能由這N個采樣數據進行估計，常用有偏估計

地球物理信息處理基礎

這是一種漸近一致估計，稱之為采樣自相關函數。

用采樣自相關函數的傅氏變換作為功率譜的估計，這種方法是布萊克曼（R.Blackman）和杜基（J.Tukey）在1958年提出來的，稱為功率譜估計的自相關法（簡稱BT法）。此方法需要先求出有限個觀測數據估計自相關函數，然後再根據式（4-2）計算出功率譜。在快速傅氏變換（FFT）演算法提出之前，這是一種最流行的功率譜估計方法。

1965年庫利（Cooley）和杜基（Tukey）完善了著名的FFT演算法，使計算傅氏變換的速度提高了兩個數量級，運算量顯著降低，這樣DFT變換很快在各領域，特別是在工程實踐中得到了廣泛應用。由式（4-5）知，

為x（n）與x（-n）的卷積運算，因為

地球物理信息處理基礎

若x（n）的傅氏變換為X（e^jω），則x（-n）的傅氏變換等於X^*（e^jω）。對式（4-5）兩端取傅氏變換，得到

地球物理信息處理基礎

這表明：通過對隨機數據直接進行離散傅氏變換，然後取其幅值的平方，再對多樣本進行此種運算並取平均值作為功率譜的估計，即舒斯特的周期圖，這種譜估計受到了人們的普遍重視，因為它不需要計算自相關函數，而直接計算功率譜。

周期圖和自相關法以及它們的改進方法稱為功率譜估計的經典方法，周期圖和自相關法是經典功率譜估計的兩個基本方法。由於FFT的出現，周期圖和自相關法往往被結合起來使用，其步驟如下：

（1）對x_N（n）補N個零，求

；

（2）由

作傅氏變換，得

，這時｜m｜≤M=N-1；

（3）對

加窗函數v（m），這時｜m｜≤M＜＜N-1，得

；

（4）利用

，求

的傅氏變換，即

地球物理信息處理基礎

由周期圖法得到的功率譜

，其估計方差並不隨樣本長度的增加而趨於零，

，出人意料的是，不管數據記錄有多長，周期圖和自相關法得到的估計都不是功率譜的良好估計。事實上，隨著記錄長度增加，這兩種估計的隨機起伏反而會更加嚴重！此外，它們存在著以下兩個難以克服的固有缺點。

（1）頻率解析度（區分兩個鄰近頻率分量的能力）不高。因為它們的頻率解析度（赫茲）反比於數據記錄長度（秒）（即Δf=k/T_p=k/NT，k為常數，T_p=NT為數據的記錄長度，T為采樣周期），而實際應用中一般不可能獲得很長的數據記錄，即觀察到的數據只能是有限個，而觀察不到的數據被認為是0。這樣，如果只有N個觀測數據，而對於N以外的數據，信號仍有較強的相關性，那麼估計出的功率譜就會出現很大的偏差。

（2）對於有限的觀測數據，相當於將信號在時域內乘以矩形窗函數，因而在頻域內則相當於使真正的功率譜與sinc函數進行卷積，由於sinc函數不同於δ 函數，它有主瓣和旁瓣，這樣使卷積後的功率譜不同於真正的功率譜。sinc函數的主瓣不是無限窄的，引起功率譜向附近頻域擴展，造成譜的模糊，降低譜的解析度；同時，由於sinc函數的旁瓣存在，導致能量向旁瓣中「泄漏」（稱之為旁瓣泄漏），即引起頻譜間的干擾，信號強的功率譜旁瓣影響信號弱的功率譜檢測，嚴重時，會使主瓣產生很大失真，檢測不出弱信號，或者把旁瓣誤認為是信號，造成假信號。為了對經典功率譜估計進行改進，可以採用各種不同的窗函數，但其結果都是以增加主瓣寬度來換取旁瓣的壓低，因此功率譜解析度低是經典功率譜估計的致命缺點。

為了克服以上缺點，人們曾做過長期努力，提出了平均、加窗平滑等辦法，在一定程度上改善了經典功率譜估計的性能。實踐證明，對於長數據記錄來說，以傅氏變換為基礎的經典功率譜估計方法，的確是比較實用的。但是，經典方法始終無法根本解決頻率解析度和功率譜估計穩定性之間的矛盾，特別是在數據記錄很短的情況下，這一矛盾顯得尤為突出。這就促進了現代功率譜估計方法研究的展開。

現代功率譜估計方法主要是以隨機過程（Stochastic Process）的參數模型（Parameter Model）為基礎的，稱之為參數模型方法。雖然說現代功率譜估計技術的研究和應用主要起始於60年代，但實際上，時間序列模型在非工程領域早已被採用，如Yule在1927年、Walker在1931年都曾使用過自回歸模型預測描述經濟的時間序列的發展趨勢，而Prony則早在1795年就曾採用指數模型去擬合在氣體化學實驗中獲得的數據。在統計學和數值分析領域中，人們也曾採用過模型方法。

現代功率譜估計的提出主要是針對經典功率譜估計（周期圖和自相關法）的解析度和方差性能不好的問題而提出的。1967年Burg在地震學研究中受到線性預測濾波的啟發，提出了最大熵譜估計方法，在提高解析度方面作了最有意義的探索。1968年Parzen正式提出了自回歸譜估計方法。1971年Van der Bos證明了一維最大熵譜估計與自回歸譜估計等效。1972年出現的譜估計的Prony方法在數學上與自回歸方法有某些類似。目前以自回歸滑動平均模型為基礎的譜估計已經比自回歸模型譜估計具有更高的頻率解析度和更好的性能。1973年Pisarenko提出的諧波分解方法提供了可靠的頻率估計方法。1981年Schmidt提出了譜估計的多信號分類（MUSIC）演算法等。因此，現代功率譜分析主要有ARMA譜分析、最大似然、熵譜估計和特徵分解四種方法。ARMA譜分析是一種建模方法，即通過平穩線性信號過程建立模型來估計功率譜密度；熵譜估計包括最大熵譜和最小交叉法；特徵分解也叫特徵構造法和子空間法，包括Pisarenko諧波分解法、Prony法、MUSIC法和ESPRIT法（用旋轉不變技術估計參數方法）。

現代功率譜估計研究仍側重於一維功率譜分析，而且大部分是建立在二階矩（相關函數、方差、功率譜密度）基礎上的。但由於功率譜密度是頻率的實函數，缺少相位信息，因此，建立在高階譜基礎上的譜估計方法正引起人們的注意，特別是雙譜估計和三譜估計的研究受到了高度的重視。其它如多維譜估計、多通道譜估計等的研究也正在發展中。人們希望這些新方法能更多地在提取信息、估計相位和描述非線性等方面獲得應用。

2. 壓縮感知的歷史背景

盡管壓縮感知是由 E. J. Candes、J. Romberg、T. Tao 和D. L. Donoho 等科學家於2004 年提出的。但是早在上個世紀，相關領域已經有相當的理論和應用鋪墊，包括圖像處理、地球物理、醫學成像、計算機科學、信號處理、應用數學等。
可能第一個與稀疏信號恢復有關的演算法由法國數學家Prony 提出。這個被稱為的Prony 方法的稀疏信號恢復方法可以通過解一個特徵值問題，從一小部分等間隔采樣的樣本中估計一個稀疏三角多項式的非零幅度和對應的頻率。而最早採用基於L1范數最小化的稀疏約束的人是B. Logan。他發現在數據足夠稀疏的情況下，通過L1范數最小化可以從欠采樣樣本中有效的恢復頻率稀疏信號。D. Donoho和B.Logan 是信號處理領域採用L1范數最小化稀疏約束的先驅。但是地球物理學家早在20 世紀七八十年代就開始利用L1范數最小化來分析地震反射信號了。上世紀90 年代，核磁共振譜處理方面提出採用稀疏重建方法從欠采樣非等間隔樣本中恢復稀疏Fourier 譜。同一時期，圖像處理方面也開始引入稀疏信號處理方法進行圖像處理。在統計學方面，使用L1范數的模型選擇問題和相關的方法也在同期開始展開。
壓縮感知理論在上述理論的基礎上，創造性的將L1范數最小化稀疏約束與隨機矩陣結合，得到一個稀疏信號重建性能的最佳結果。
壓縮感知基於信號的可壓縮性, 通過低維空間、低解析度、欠Nyquist采樣數據的非相關觀測來實現高維信號的感知，豐富了關於信號恢復的優化策略,極大的促進了數學理論和工程應用的結合 。它是傳統資訊理論的一個延伸，但是又超越了傳統的壓縮理論，成為了一門嶄新的子分支。它從誕生之日起到現在不過五年時間，其影響卻已經席捲了大半個應用科學。

3. 哪本書詳細的講了prony演算法

Prony演算法是信號處理中的一種重要方法，可以用於信號的分析、濾波、預測等。有一些書籍可以深入介紹Prony演算法的數學原理，推薦以下幾本：
1、《數字信號處理》（Digital Signal Processing，作者：John G. Proakis, Dimitris G. Manolakis）第6章
這本書是經典的信號處理教材，第6章詳細介紹了Prony演算法的數學原理，並給出了彎蔽肢相關的例子和MATLAB代碼實現。
2、《Prony's method》埋世（作者：Giovanni S. Alberti）
這本書專門介紹了Prony演算法的理論和應用，包括Prony方法的基本原理、演算法的穩定性和收斂性、誤差分析以及Prony方並飢法在信號處理、圖像處理、振動分析等領域的應用。
3、《Applied Signal Processing: A MATLABTM-Based Proof of Concept》（作者：D. Sundararajan）
這本書是一個實踐性的信號處理教材，其中包括Prony演算法的數學原理和MATLAB代碼實現，並通過多個實際案例來展示Prony演算法在信號處理中的應用。
這些書籍都涵蓋了Prony演算法的數學原理和實現方法，並提供了實例和代碼，可以幫助讀者深入理解和應用Prony演算法。