多核編程c

1. 為什麼在多核多線程程序中要慎用volatile關鍵字

a. 避免用通用寄存器對內存讀寫的優化。編譯器常做的一種優化就是：把常用變數的頻繁讀寫弄到通用寄存器中，最後不用的時候再存回內存中。但是如果某個內存地址中的值是由片外決定的（例如另一個線程或是另一個設備可能更改它），那就需要volatile關鍵字了。（感謝Kenny老師指正）
b.硬體寄存器可能被其他設備改變的情況。例如一個嵌入式板子上的某個寄存器直接與一個測試儀器連在一起，這樣在這個寄存器的值隨時可能被那個測試儀器更改。在這種情況下如果把該值設為volatile屬性的，那麼編譯器就會每次都直接從內存中去取這個值的最新值，而不是自作聰明的把這個值保留在緩存中而導致讀不到最新的那個被其他設備寫入的新值。
c. 同一個物理內存地址M有兩個不同的內存地址的情況。例如兩個程序同時對同一個物理地址進行讀寫，那麼編譯器就不能假設這個地址只會有一個程序訪問而做緩存優化，所以程序員在這種情況下也需要把它定義為volatile的。

2. 學C語言現在最好用的編程軟體

Turbo C就可以的。編輯文本的時候可以用utraledit
至於vc++之類的我是不推薦初學者使用的

3. 想學編程，需要擁有什麼樣的條件

以下摘自《程序員的十層樓》
自西方文藝復興以來，中國在自然科學方面落後西方很多，軟體領域也不例外。當然現在中國的許多程序員們對此可能有許多不同的意見，有些人認為中國的程序員水平遠落後於西方，有些則認為中國的程序員個人能力並不比西方的程序員差，只是整個軟體產業落後而已。那麼，到底中國的程序員水平比西方程序員水平差，還是中國有許多優秀的程序員達到或超過了西方程序員同等水平呢？要解決這個問題，必須先知道程序員 有多少種技術層級，每個層級需要什麼樣的技術水平，然後再比較中國和西方在各個技術層級的人數，就可以知道到底有沒有差距，差距有多大。
當然，對於如何劃分程序員的技術層級，不同公司或不同人會有不同的劃分標准，下面的劃分僅代表個人的觀點，如有不當之處，還請砸板磚予以糾正。
第1層 菜鳥第1層樓屬於地板層，邁進這層樓的門檻是很低的。基本上懂計算機的基本操作，了解計算機專業的一些基礎知識，掌握一門基本的編程語言如C/C++，或者Java，或者JavaScript，...，均可入門邁進這層。
在這層上，中國有著絕對的優勢，除了從計算機專業畢業的眾多人數外，還有大量的通信、自動化、數學等相關專業的人士進入這一行，此外還有眾多的其他專業轉行的人士，人數絕對比西方多出甚多。並且還有一個優勢就是我們這層人員的平均智商比西方肯定高。
沒有多少人願意一輩子做菜鳥，因為做"菜鳥"的滋味實在是不咋的，整天被老大們吆喝著去裝裝機器，搭建一下測試環境，或者對照著別人寫好的測試用例 做一些黑盒測試，好一點的可以被安排去寫一點測試代碼。當然如果運氣"好"的話，碰到了國內的一些作坊式的公司，也有機會去寫一些正式的代碼。
所以，菜鳥們總是在努力學習，希望爬更高的一層樓去。
第2層 大蝦從第1層爬到第2層相對容易一些，以C/C++程序員為例，只要熟練掌握C/C++編程語言，掌握C標准庫和常用的各種數據結構演算法，掌握STL的 基本實現和使用方法，掌握多線程編程基礎知識，掌握一種開發環境，再對各種操作系統的API都去使用一下，搞網路編程的當然對socket編程要好好掌握 一下，然後再學習一些面向對象的設計知識和設計模式等，學習一些測試、軟體工程和質量控制的基本知識，大部分人經過2～3年的努力，都可以爬到第2層，晉 升為"大蝦"。
中國的"大蝦"數量和"菜鳥"數量估計不會少多少，所以這層上仍然遠領先於西方。
大蝦們通常還是有些自知之明，知道自己只能實現一些簡單的功能，做不了大的東西，有時候還會遇到一些疑難問題給卡住，所以他們對那些大牛級的人物通 常是非常崇拜的，國外的如Robert C. Martin、Linus Torvalds，國內的如求伯君、王志東等通常是他們崇拜的對象。其中的有些人希望有一天也能達到這些大牛級人物的水平，所以他們繼續往樓上爬去。
第3層 牛人由於"大蝦"們經常被一些疑難問題給卡住，所以有了"大蝦"們只好繼續學習，他們需要將原來所學的知識進一步熟練掌握，比如以熟練掌握C++編程語 言為例，除了學一些基礎性的C++書籍如《C++ Primer》，《Effective C++》，《Think in C++》，《Exception C++》等之外，更重要的是需要了解C++編譯器的原理和實現機制，了解操作系統中的內部機制如內存管理、進程和線程的管理機制，了解處理器的基礎知識和 代碼優化的方法，此外還需要更深入地學習更多的數據結構與演算法，掌握更深入的測試和調試知識以及質量管理和控制方法，對各種設計方法有更好的理解等。
學習上面說的這些知識不是一揮而就的，不看個三五十本書並掌握它是做不到的。以數據結構演算法來說，至少要看個5～10本這方面的著作；以軟體設計來 說，光懂結構化設計、面向對象設計和一些設計模式是不夠的，還要了解軟體架構設計、交互設計、面向方面的設計、面向使用的設計、面向數據結構演算法的設計、 情感化設計等，否則是很難進到這個樓層的。
當然除了上面說的知識外，大蝦們還需要去學習各種經驗和技巧。當然這點難不倒他們，現在出版的書籍眾多，網路上的技術文章更是不勝數，然後再去各種 專業論壇里泡一泡，把這些書籍和文章中的各種經驗、技能、技巧掌握下來，再去學習一些知名的開源項目如Apache或linux操作系統的源代碼實現等。 此時對付一般的疑難問題通常都不在話下，菜鳥和大蝦們會覺得你很"牛"，你也就爬到了第3層，晉升為"牛人"了。
看了上面所講的要求，可能有些大蝦要暈過去了，成為牛人要學這么多東西啊！要求是不是太高了？其實要求一點也不高，這么點東西都掌握不了的話，怎麼能讓別人覺得你"牛"呢？

需要提一下的是，進入多核時代後，從第2層爬到第3層增加了一道多核編程的門檻。當然要邁過這道門檻並不難，已經有很多前輩高人邁進了這道門檻，只要循著他們的足跡前進就可以了。想邁進這道門檻者不妨去學習一下TBB開源項目的源代碼(鏈接：http://www.threadingbuildingblocks.org/)，然後上Intel的博客（http://softwareblogs-zho.intel.com/）和多核論壇（http://forum.csdn.net/Intel/IntelMulti-core/）去看看相關文章，再買上幾本相關的書籍學習一下。

在國內， 一旦成為"牛人"，通常可以到許多知名的公司里去，運氣好者可以掛上一個架構師的頭銜，甚至掛上一個"首席架構師"或者"首席xx學家"的頭銜也不足為 奇。有不少爬到這層的人就以為到了樓頂了，可以眼睛往天上看了，開始目空一切起來，以為自己什麼都可以做了，什麼都懂了，經常在網路上亂砸板磚是這個群體 的最好寫照。由此也看出，國內的牛人數量仍然眾多，遠多於西方的牛人數量，在這層上仍然是領先的。
也有不少謙虛的"牛人"，知道自己現在還不到半桶水階段。他們深知爬樓的游戲就像猴子上樹一樣，往下看是笑臉，往上看是屁股。為了多看笑臉，少看屁股，他們並沒有在此停步不前，而是繼續尋找到更上一層的樓梯，以便繼續往上爬。
第4層 大牛從第3層爬到第4層可不像上面說過的那幾層一樣容易，要成為大牛的話，你必須要能做牛人們做不了的事情，解決牛人們解決不了問題。比如牛人們通常都 不懂寫操作系統，不會寫編譯器，不懂得TCP/IP協議的底層實現，如果你有能力將其中的任何一個實現得象模象樣的話，那麼你就從牛人升級為"大牛"了。
當然，由於各個專業領域的差別，這里舉操作系統、編譯器、TCP/IP協議只是作為例子，並不代表成為"大牛"一定需要掌握這些知識，以時下熱門的 多核編程來說，如果你能比牛人們更深入地掌握其中的各種思想原理，能更加自如的運用，並有能力去實現一個象開源項目TBB庫一樣的東西，也可以成為"大 牛"，又或者你能寫出一個類似Apache一樣的伺服器，或者寫出一個資料庫，都可以成為"大牛"。
要成為"大牛"並不是一件簡單的事情，需要付出比牛人們多得多的努力，一般來說，至少要看過200~400本左右的專業書籍並好好掌握它，除此之外，還得經常關注網路和期刊雜志上的各種最新信息。
當"牛人"晉升為"大牛"，讓"牛人們"發現有比他們更牛的人時，對"牛人"們的心靈的震撼是可想而知的。由於牛人們的數量龐大，並且牛人對大蝦和 菜鳥階層有言傳身教的影響，所以大牛們通常能獲得非常高的社會知名度，幾乎可以用"引無數菜鳥、大蝦、牛人競折腰"來形容，看看前面提過的Linus Torvalds等大牛，應該知道此言不虛。
雖然成為"大牛"的條件看起來似乎很高似的，但是這層樓並不是很難爬的一層，只要通過一定的努力，素質不是很差，還是有許多"牛人"可以爬到這一層的。由此可知，"大牛"這個樓層的人數其實並不像想像的那麼少，例如比爾·蓋茨之類的人好像也是屬於這一層的。
由於"大牛"這層的人數不少，所以也很難統計除到底是中國的"大牛"數量多還是西方的大牛數量多？我估計應該是個旗鼓相當的數量，或者中國的"大牛"們會更多一些。
看到這里，可能會有很多人會以為我在這里說瞎話，Linus Torvalds寫出了著名的Linux操作系統，我國並沒有人寫出過類似的東西啊，我國的"大牛"怎麼能和西方的比呢? 不知大家注意到沒有，Linus Torvalds只是寫出了一個"象模象樣"的操作系統雛形，Linux後來真正發展成聞名全球的開源操作系統期間，完全是因為許多支持開源的商業公司如 IBM等，派出了許多比Linus Torvalds更高樓層的幕後英雄在裡面把它開發出來的。
可能有些菜鳥認為Linus Torvalds是程序員中的上帝，不妨說個小故事：
Linus，Richard Stallman和Don Knuth（高德納）一同參加一個會議。
Linus 說："上帝說我創造了世界上最優秀的操作系統。"
Richard Stallman自然不甘示弱地說："上帝說我創造了世界上最好用的編譯器。"
Don Knuth一臉疑惑的說："等等，等等，我什麼時候說過這些話？"
由此可以看出，Linus Torvalds的技術水平並不像想像中那麼高，只是"牛人"和"大蝦"覺得"大牛"比他們更牛吧了。在我國，有一些當時還處於"大蝦"層的人物，也能寫 出介紹如何寫操作系統的書，並且書寫得非常出色，而且寫出了一個有那麼一點點象模象樣的操作系統來。我想中國的"大牛"們是不會比西方差的，之所以沒有人 寫出類似的商業產品來，完全是社會環境的原因，並不是技術能力達不到的原因。
"大牛"們之所以成為大牛，主要的原因是因為把"牛人"給蓋了下去，並不是他們自己覺得如何牛。也許有很多菜鳥、大蝦甚至牛人覺得"大牛"這層已經 到頂了，但大多數"大牛"估計應該是有自知之明的，他們知道自己現在還沒有爬到半山腰，也就勉強能算個半桶水的水平，其中有些爬到這層沒有累趴下，仍然能 量充沛，並且又有志者，還是會繼續往更上一層樓爬的。
看到這里，也許有些菜鳥、大蝦、牛人想不明白了，還有比"大牛"們更高的樓層，那會是什麼樣的樓層？下面就來看看第5層樓的奧妙。
第5層 專家當大牛們真正動手做一個操作系統或者類似的其他軟體時，他們就會發現自己的基本功仍然有很多的不足。以內存管理為例，如果直接抄襲Linux或者其 他開源操作系統的內存管理演算法，會被人看不起的，如果自動動手實現一個內存管理演算法，他會發現現在有關內存管理方法的演算法數量眾多，自己並沒有全部學過和 實踐過，不知道到底該用那種內存管理演算法。
看到這里，可能有些人已經明白第5層樓的奧妙了，那就是需要做基礎研究，當然在計算機里，最重要的就是"計算"二字，程序員要做基礎研究，主要的內容就是研究非數值"計算"。
非數值計算可是一個非常龐大的領域，不僅時下熱門的"多核計算"與"雲計算"屬於非數值計算范疇，就是軟體需求、設計、測試、調試、評估、質量控 制、軟體工程等本質上也屬於非數值計算的范疇，甚至晶元硬體設計也同樣牽涉到非數值計算。如果你還沒有真正領悟"計算"二字的含義，那麼你就沒有機會進到 這層樓來。
可能有人仍然沒有明白為什麼比爾·蓋茨被劃在了大牛層，沒有進到這層來。雖然比爾·蓋茨大學未畢業，學歷不夠，但是家有藏書2萬余冊，進入軟體這個 行業比絕大部分人都早，撇開他的商業才能不談，即使只看他的技術水平，也可以算得上是學富五車，頂上幾個普通的計算機軟體博士之和是沒有問題的，比起 Linus Torvalds之類的"大牛"們應該技高一籌才對，怎麼還進不了這層樓呢？
非常遺憾的是，從Windows操作系統的實現來看，其對計算的理解是很膚淺的，如果把Google對計算方面的理解比做大學生，比爾·蓋茨只能算做一個初中生，所以比爾·蓋茨永遠只能做個大牛人，成不了"專家"。
看到這里，也許國內的大牛們要高興起來了，原來比爾·蓋茨也只和我等在同一個層次，只要再升一層就可以超越比爾·蓋茨了。不過爬到這層可沒有從"牛 人"升為"大牛"那麼簡單，人家比爾·蓋茨都家有2萬多冊書，讓你看個500~1000本以上的專業書籍並掌握好它應該要求不高吧。當然，這並不是主要的 條件，更重要的是，需要到專業的學術站點去學習了，到ACM，IEEE，Elsevier，SpringerLink，SIAM等地方去下載論文應該成為 你的定期功課，使用Google搜索引擎中的學術搜索更是應該成為你的日常必修課。此外，你還得經常關注是否有與你研究相關的開源項目冒出來，例如當聽到 有TBB這樣針對多核的開源項目時，你應該第一時間到Google里輸入"TBB"搜索一下，將其源代碼下載下來好好研究一番，這樣也許你的一隻腳已經快 邁進了這層樓的門檻。
當你象我上面說的那樣去做了以後，隨著時間的推移，總會有某天，你發現，在很多小的領域里，你已經學不到什麼新東西了，所有最新出來的研究成果你幾 乎都知道。此時你會發現你比在做"牛人"和"大牛"時的水平不知高出了多少，但是你一點也"牛"不起來，因為你學的知識和思想都是別人提出來的，你自己並 沒有多少自己的知識和思想分享給別人，所以你還得繼續往樓上爬才行。
我不知道國內的"專家"到底有多少，不過有一點可以肯定的是，如果把那些專門蒙大家的"磚家"也算上的話，我們的磚家比西方的要多得多。
第6層 學者
當"專家"們想繼續往上一層樓爬時，他們幾乎一眼就可以看到樓梯的入口，不過令他們吃驚的是，樓梯入口處豎了一道高高的門檻，上面寫著"創新"二字。不幸的是，大多數人在爬到第5層樓時已經體能消耗過度，無力翻過這道門檻。
有少數體能充足者，可以輕易翻越這道門檻，但是並不意味著體力消耗過度者就無法翻越，因為你只是暫時還沒有掌握恢復體能的方法而已，當掌握了恢復體能的方法，將體能恢復後，你就可以輕易地翻越這道門檻了。
怎麼才能將體能恢復呢？我們的老祖宗"孔子"早就教導過我們"溫故而知新"，在英文里，研究的單詞是"research"，其前綴"re" 和"search"分別是什麼意思不用我解釋吧。或許有些人覺得"溫故而知新"和"research"有些抽象，不好理解，我再給打個簡單的比方，比如你 在爬一座高山，爬了半天，中途體力不支，怎麼恢復體力呢？自然是休息一下，重新進食一些食物，體力很快就可以得到恢復。
由此可知，對體能消耗過度者，休息＋重新進食通常是恢復體能的最佳選擇。可惜的是，國內的老闆們並不懂得這點，他們的公司里不僅連正常國家規定的休 息時間都不給足，有些公司甚至有員工"過勞死"出現。所以國內能翻越"創新"這道門檻的人是"少之又少"，和西方比起來估計是數量級的差別。
再說說重新進食的問題，這個重新進食是有講究的，需要進食一些基礎性易消化的簡單食物，不能進食山珍海味級的復雜食物，否則很難快速吸收。以查找為 例，並不是去天天盯著那些復雜的查找結構和演算法進行研究，你需要做的是將二分查找、哈希查找、普通二叉樹查找等基礎性的知識好好地復習幾遍。
以哈希查找為例，首先你需要去將各種沖突解決方法如鏈式結構、二次哈希等編寫一遍，再試試不同種類的哈希函數，然後還需要試試在硬碟中如何實現哈希 查找，並考慮數據從硬碟讀到內存後，如何組織硬碟中的數據才能快速地在內存中構建出哈希表來，...，這樣你可能需要將一個哈希表寫上十幾個不同的版本， 並比較各個版本的性能、功能方面的區別和適用范圍。
總之，對任何一種簡單的東西，你需要考慮各種各樣的需求，以需求來驅動研究。最後你將各種最基礎性的查找結構和演算法都瞭然於胸後，或許某天你再看其他更復雜的查找演算法，或者你在散步時，腦袋裡靈光一現，突然間就發現了更好的方法，也就從專家晉升為"學者"了。
學者所做的事情，通常都是在前人的基礎上，進行一些小的優化和改進，例如別人發明了鏈式基數排序的方法，你第1個發現使用一定的方法，可以用數組替代鏈表進行基數排序，性能還能得到進一步提高。
由於學者需要的只是一些小的優化改進，因此中國還是有一定數量的學者。不過和國外的數量比起來，估計少了一個數量級而已。
也許有人會覺得現在中國許多公司申請專利的數量達到甚至超過西方發達國家了，我們的學者數量應該不會比他們少多少。因此，有必要把專利和這里說的創新的區別解釋一下。
所謂專利者，只要是以前沒有的，新的東西，都可以申請專利；甚至是以前有的東西，你把他用到了一個新的領域的產品里去，也可以申請專利。比如你在房 子里造一個水泥柱子，只要以前沒有人就這件事申請專利，那麼你就可以申請專利，並且下次你把水泥柱子挪一個位置，又可以申請一個新的專利；或者你在一個櫃 子上打上幾個孔，下次又把孔的位置改一改，...，均可申請專利。
這層樓里所說的創新，是指學術層面的創新，是基礎研究方面的創新，和專利的概念是完全不同的，難度也是完全不同的。你即使申請了一萬個象那種打孔一類的專利，加起來也夠不到這層樓里的一個創新。
當你爬到第6層樓時，你也許會有一種突破極限的快感，因為你終於把那道高高的寫著"創新"二字的門檻給翻過去了，實現了"0"的突破。這時，你也許 有一種"獨上高樓，慾望盡天涯路"的感覺，但是很快你會發現看到的都是比較近的路，遠處的路根本看不清楚。如果你還有足夠的體力的話，你會想爬到更高一層 的樓層去。
第7層 大師
從第6層樓爬到第7層樓，並沒有多少捷徑可走，主要看你有沒有足夠的能量。你如果能象Hoare一樣設計出一個快速排序的演算法；或者象Eugene W. Myers一樣設計出了一個用編輯圖的最短路徑模型來解決diff問題的演算法；或者象M.J.D. Powell一樣提出了一個能夠處理非線性規劃問題的SQP方法；或者你發現基於比較的排序演算法，它的復雜度下界為O(NLogN)；或者你發現用棧可以 將遞歸的演算法變成非遞歸的；或者你設計出一個紅黑樹或者AVL樹之類的查找結構；或者你設計出一個象C++或Java一樣的語言；或者你發明了 UML；...，你就爬到了第7層，晉升為"大師"了。
上面舉的這些例子中，其中有些人站的樓層比這層高，這里只是為了形象說明而舉例他們的某個成就。從上面列出的一些大師的貢獻可以看出，成為大師必須 要有較大的貢獻。首先解決問題必須是比較重要的，其次你要比前輩們在某方面有一個較大的提高，或者你解決的是一個全新的以前沒有解決過的問題；最重要的 是，主要的思路和方法必須是你自己提供的，不再是在別人的思路基礎上進行的優化和改進。
看了上面這些要求，如果能量不夠的話，你也許會覺得有些困難，所以不是每個人都能成為"大師"的。中國軟體業里能稱得上是"大師"的人，用屈指可數來形容，估計是綽綽有餘。值得一提得是，國外的"大師"就象我們的"大牛"一樣滿天飛的多。
我把我猜測本國有可能進到這層樓的大師列一下，以起個拋磚引玉的作用。漢王的"手寫識別"技術由於是完全保密的，不知道它裡面用了什麼思想，原創思 想占的比重有多少，因此不知道該把它劃到這層樓還是更高一層樓去。原山東大學王小雲教授破解DES和MD5演算法時，用到的方法不知道是不是完全原創的，如 果是的話也可進到這層樓來。
陳景潤雖然沒有徹底解決哥德巴赫猜想，但他在解決問題時所用的方法是創新的，因此也可以進到這層樓來。當然，如果能徹底解決哥德巴赫猜想，那麼可以算到更高的樓層去。
求伯君和王志東等大牛們，他們在做WPS和表格處理之類的軟體時，不知是否有較大的原創演算法在裡面，如果有的話就算我錯把他們劃到了大牛層。由於所 學有限，不知道國內還有那些人能夠得上"大師"的級別，或許有少量做研究的教授、院士們，可以達到這個級別，有知道的不妨回個帖子晾一晾。
鑒於"大師"這個稱號的光環效應，相信有不少人夢想著成為"大師"。或許你看了前面舉的一些大師的例子，你會覺得要成為大師非常困難。不妨說一下，現在有一條通往"大師"之路的捷徑打開了，那就是多核計算領域，有大量的處女地等待大家去挖掘。
以前在單核時代開發的各種演算法，現在都需要改寫成並行的。數據結構與演算法、圖像處理、數值計算、操作系統、編譯器、測試調試等各個領域，都存在大量的機會，可以讓你進到這層樓來，甚至有可能讓你進到更高一層樓去。
第8層 科學家

科學家向來都是一個神聖的稱號，因此我把他放在了「大師」之上。要成為科學家，你的貢獻必須超越大師，不妨隨便舉一些例子。

如果你象Dijkstra一樣設計了ALGOL語言，提出了程序設計的三種基本結構：順序、選擇、循環，那麼你可以爬到第8層樓來。順便說一下，即使拋開這個成果，Dijkstra憑他的PV操作和信號量概念的提出，同樣可以進到這層樓。

如果你象Don Knuth一樣，是數據結構與演算法這門學科的重要奠基者，你也可以進到這層樓來。當然，數據結構和演算法這門學科不是某個人開創的，是許多大師和科學家集體開創的。

如果你象巴科斯一樣發明了Fortran語言，並提出了巴科斯範式，對高級程序語言的發展起了重要作用，你也可以進到這層樓來。

或者你象Ken Thompson、Dennis Ritchie一樣發明了Unix操作系統和功能強大、高效、靈活、表達力強的C語言，對操作系統理論和高級編程語言均作出重大貢獻，那麼你也可以進到這層樓來。

或者你有Frederick P. Brooks一樣機會，可以去領導開發IBM的大型計算機System/360和OS/360操作系統，並在失敗後反思總結，寫出《人月神話》，對軟體工程作出里程碑式的貢獻，你也可以進到這層來。

或者你提出了面向對象設計的基本思想，或者你設計了互聯網的TCP/IP協議，或者你象Steven A.Cook一樣奠定NP完全性的理論基礎，或者你象Frances Allen一樣專注於並行計算來實現編譯技術，在編譯優化理論和技術取得基礎性的成就，…，均可進入這層。

當然，如果你發明了C++語言或者Java語言，你進不到這層來，因為你用到的主要思想都是這層樓中的科學家提出的，你自己並沒有沒有多少原創思想在裡面。

看了上面列出的科學家的成就，你會發現，要成為「科學家」，通常要開創一門分支學科，或者是這個分支學科的奠基者，或者在某個分支學科里作出里程碑式的重大貢獻。如果做不到這些的話，那麼你能象Andrew C. Yao（姚期智）一樣在對計算理論的多個方向如偽隨機數生成，密碼學與通信復雜度等各個方向上作出重要貢獻，成為集大成者，也可以進入這層樓。

成為「科學家」後，如果你有幸象Dijkstra一樣，出現在一個非常重視科學的國度。當你去世時，你家鄉滿城的人都會自動地去為你送葬。不過如果不幸生錯地方的話，能不挨「板磚」估計就算萬幸了。

從上面隨便舉的一些例子中，你可能能猜到，西方科學家的數量是非常多的，於是你會想中國應該也有少量的科學家吧？我可以很負責任地告訴你一個不幸的結果，中國本土產生的科學家的數量為0。目前在國內，軟體領域的唯一的科學家就是上面提過的姚期智，還是國外請回來的，並不是本土產生的。

可能你不同意我說的本土科學家數量為0的結論，因為你經常看到有許多公司里都有所謂「首席XX科學家」的頭銜。我想說的是，這些所謂的「首席XX科學家」都是遠遠夠不到這層樓的級別的，有些人的水平估計也就是一個「牛人」或「大牛」的級別，好一點的最多也就一個「學者」的級別。尤其是那些被稱作「首席經X學家」的，基本上可以把稱號改為「首席坑大家」。

雖然我國沒有人能爬到這層樓上來，但是西方國家仍然有許多人爬到了比這層更高的樓上。如果要問我們比西方落後多少？那麼可以簡單地回答為：「落後了三層樓」。下面就來看看我們做夢都沒有到過的更高一層樓的秘密。

第9層 大科學家

進入這層樓的門檻通常需要一些運氣，比如某天有個蘋果砸到你頭上時，你碰巧發現了萬有引力，那麼你可以進到這層樓來。當然，萬有引力幾百年前就被人發現了，如果你現在到處嚷嚷著說你發現了萬有引力，恐怕馬上會有人打110，然後警察會把你送到不正常人類的聚集地去。因此，這里舉萬有引力的例子，只是說你要有類似的成就才能進到這層樓來。

牛頓發現萬有引力定律開創 了經典物理運動力學這門學科，如果你也能開創一門大的學科，那麼你就從科學家晉升為「大科學家」。比如愛因斯坦創建了相對論，從一個小職員變成了大科學 家。當然大科學家可遠不止這兩人，數學界里比物理學界更是多得多，如歐幾里得創建了平面幾何，笛卡爾開創解析幾何，還有歐拉、高斯、萊布尼茨等數不清的人 物，跟計算相關的大科學家則有圖靈等人。

從上面列出的一些大科學家 可以發現，他們的成就不僅是開創了一個大的學科，更重要的是他們的成就上升到了「公理」的層面。發現公理通常是需要一點運氣的，如果你的運氣不夠好的話， 另外還有一個笨辦法也可以進到這層樓來，那就是成為集大成者。例如馮·諾伊曼，對數學的所有分支都非常了解，許多領域都有較大的貢獻，即使撇開他對計算機 的開創貢獻，成為大科學家照樣綽綽有餘。

當然，程序員們最關心的是 自己有沒有機會變成大科學家。既然計算機這門大學科的開創性成果早就被馮·諾伊曼、圖靈等人摘走了，那麼程序員們是不是沒有機會變成大科學家了呢？我們的 古人說得好：「江山代有才人出，各領風騷數百年」，現在在計算機這門學科下面誕生了許多非常重要的大的分支，所以你還是有足夠的機會進到這層樓的。

如果你能夠徹底解決自然語言理解（機器翻譯）這門學科中的核心問題， 或者你在人工智慧或者機器視覺（圖像識別）方面有突破性的發現，那麼你同樣可以輕易地晉升為「大科學家」。這樣當某天你老了去世時，或許那天國人已經覺醒，你也能享受到如Dijkstra一樣的待遇，有滿城甚至全國的人去為你送葬。

4. C語言中的MPI編程和多線程有什麼區別，MPI編程中針對的是一台電腦多核還是多台電腦謝謝！

MPI（MPI是一個標准，有不同的具體實現，比如MPICH等）是多主機聯網協作進行並行計算的工具，當然也可以用於單主機上多核/多CPU的並行計算，不過效率低。它能協調多台主機間的並行計算，因此並行規模上的可伸縮性很強，能在從個人電腦到世界TOP10的超級計算機上使用。缺點是使用進程間通信的方式協調並行計算，這導致並行效率較低、內存開銷大、不直觀、編程麻煩。OpenMP是針對單主機上多核/多CPU並行計算而設計的工具，換句話說，OpenMP更適合單台計算機共享內存結構上的並行計算。由於使用線程間共享內存的方式協調並行計算，它在多核/多CPU結構上的效率很高、內存開銷小、編程語句簡潔直觀，因此編程容易、編譯器實現也容易（現在最新版的C、C++、Fortran編譯器基本上都內置OpenMP支持）。不過OpenMP最大的缺點是只能在單台主機上工作，不能用於多台主機間的並行計算！如果要多主機聯網使用OpenMP（比如在超級計算機上），那必須有額外的工具幫助，比如MPI+OpenMP混合編程。或者是將多主機虛擬成一個共享內存環境（Intel有這樣的平台），但這么做效率還不如混合編程，唯一的好處是編程人員可以不必額外學習MPI編程。

5. python多線程對多核的利用

GIL 與 Python 線程的糾葛
GIL 是什麼東西？它對我們的 python 程序會產生什麼樣的影響？我們先來看一個問題。運行下面這段 python 程序，CPU 佔用率是多少？
# 請勿在工作中模仿，危險:)
def dead_loop():
while True:
pass

dead_loop()

答案是什麼呢，佔用 100％ CPU？那是單核！還得是沒有超線程的古董 CPU。在我的雙核 CPU 上，這個死循環只會吃掉我一個核的工作負荷，也就是只佔用 50％ CPU。那如何能讓它在雙核機器上佔用 100％ 的 CPU 呢？答案很容易想到，用兩個線程就行了，線程不正是並發分享 CPU 運算資源的嗎。可惜答案雖然對了，但做起來可沒那麼簡單。下面的程序在主線程之外又起了一個死循環的線程
import threading

def dead_loop():
while True:
pass

# 新起一個死循環線程
t = threading.Thread(target=dead_loop)
t.start()

# 主線程也進入死循環
dead_loop()

t.join()

按道理它應該能做到佔用兩個核的 CPU 資源，可是實際運行情況卻是沒有什麼改變，還是只佔了 50％ CPU 不到。這又是為什麼呢？難道 python 線程不是操作系統的原生線程？打開 system monitor 一探究竟，這個佔了 50% 的 python 進程確實是有兩個線程在跑。那這兩個死循環的線程為何不能占滿雙核 CPU 資源呢？其實幕後的黑手就是 GIL。
GIL 的迷思：痛並快樂著
GIL 的全稱為 Global Interpreter Lock ，意即全局解釋器鎖。在 Python 語言的主流實現 CPython 中，GIL 是一個貨真價實的全局線程鎖，在解釋器解釋執行任何 Python 代碼時，都需要先獲得這把鎖才行，在遇到 I/O 操作時會釋放這把鎖。如果是純計算的程序，沒有 I/O 操作，解釋器會每隔 100 次操作就釋放這把鎖，讓別的線程有機會執行（這個次數可以通過sys.setcheckinterval 來調整）。所以雖然 CPython 的線程庫直接封裝操作系統的原生線程，但 CPython 進程做為一個整體，同一時間只會有一個獲得了 GIL 的線程在跑，其它的線程都處於等待狀態等著 GIL 的釋放。這也就解釋了我們上面的實驗結果：雖然有兩個死循環的線程，而且有兩個物理 CPU 內核，但因為 GIL 的限制，兩個線程只是做著分時切換，總的 CPU 佔用率還略低於 50％。
看起來 python 很不給力啊。GIL 直接導致 CPython 不能利用物理多核的性能加速運算。那為什麼會有這樣的設計呢？我猜想應該還是歷史遺留問題。多核 CPU 在 1990 年代還屬於類科幻，Guido van Rossum 在創造 python 的時候，也想不到他的語言有一天會被用到很可能 1000＋ 個核的 CPU 上面，一個全局鎖搞定多線程安全在那個時代應該是最簡單經濟的設計了。簡單而又能滿足需求，那就是合適的設計（對設計來說，應該只有合適與否，而沒有好與不好）。怪只怪硬體的發展實在太快了，摩爾定律給軟體業的紅利這么快就要到頭了。短短 20 年不到，代碼工人就不能指望僅僅靠升級 CPU 就能讓老軟體跑的更快了。在多核時代，編程的免費午餐沒有了。如果程序不能用並發擠干每個核的運算性能，那就意謂著會被淘汰。對軟體如此，對語言也是一樣。那 Python 的對策呢？
Python 的應對很簡單，以不變應萬變。在最新的 python 3 中依然有 GIL。之所以不去掉，原因嘛，不外以下幾點：
欲練神功，揮刀自宮：
CPython 的 GIL 本意是用來保護所有全局的解釋器和環境狀態變數的。如果去掉 GIL，就需要多個更細粒度的鎖對解釋器的眾多全局狀態進行保護。或者採用 Lock-Free 演算法。無論哪一種，要做到多線程安全都會比單使用 GIL 一個鎖要難的多。而且改動的對象還是有 20 年歷史的 CPython 代碼樹，更不論有這么多第三方的擴展也在依賴 GIL。對 Python 社區來說，這不異於揮刀自宮，重新來過。
就算自宮，也未必成功：
有位牛人曾經做了一個驗證用的 CPython，將 GIL 去掉，加入了更多的細粒度鎖。但是經過實際的測試，對單線程程序來說，這個版本有很大的性能下降，只有在利用的物理 CPU 超過一定數目後，才會比 GIL 版本的性能好。這也難怪。單線程本來就不需要什麼鎖。單就鎖管理本身來說，鎖 GIL 這個粗粒度的鎖肯定比管理眾多細粒度的鎖要快的多。而現在絕大部分的 python 程序都是單線程的。再者，從需求來說，使用 python 絕不是因為看中它的運算性能。就算能利用多核，它的性能也不可能和 C/C++ 比肩。費了大力氣把 GIL 拿掉，反而讓大部分的程序都變慢了，這不是南轅北轍嗎。
難道 Python 這么優秀的語言真的僅僅因為改動困難和意義不大就放棄多核時代了嗎？其實，不做改動最最重要的原因還在於：不用自宮，也一樣能成功！
其它神功
那除了切掉 GIL 外，果然還有方法讓 Python 在多核時代活的滋潤？讓我們回到本文最初的那個問題：如何能讓這個死循環的 Python 腳本在雙核機器上佔用 100％ 的 CPU？其實最簡單的答案應該是：運行兩個 python 死循環的程序！也就是說，用兩個分別占滿一個 CPU 內核的 python 進程來做到。確實，多進程也是利用多個 CPU 的好方法。只是進程間內存地址空間獨立，互相協同通信要比多線程麻煩很多。有感於此，Python 在 2.6 里新引入了 multiprocessing這個多進程標准庫，讓多進程的 python 程序編寫簡化到類似多線程的程度，大大減輕了 GIL 帶來的不能利用多核的尷尬。
這還只是一個方法，如果不想用多進程這樣重量級的解決方案，還有個更徹底的方案，放棄 Python，改用 C/C++。當然，你也不用做的這么絕，只需要把關鍵部分用 C/C++ 寫成 Python 擴展，其它部分還是用 Python 來寫，讓 Python 的歸 Python，C 的歸 C。一般計算密集性的程序都會用 C 代碼編寫並通過擴展的方式集成到 Python 腳本里（如 NumPy 模塊）。在擴展里就完全可以用 C 創建原生線程，而且不用鎖 GIL，充分利用 CPU 的計算資源了。不過，寫 Python 擴展總是讓人覺得很復雜。好在 Python 還有另一種與 C 模塊進行互通的機制 : ctypes
利用 ctypes 繞過 GIL
ctypes 與 Python 擴展不同，它可以讓 Python 直接調用任意的 C 動態庫的導出函數。你所要做的只是用 ctypes 寫些 python 代碼即可。最酷的是，ctypes 會在調用 C 函數前釋放 GIL。所以，我們可以通過 ctypes 和 C 動態庫來讓 python 充分利用物理內核的計算能力。讓我們來實際驗證一下，這次我們用 C 寫一個死循環函數
extern"C"
{
void DeadLoop()
{
while (true);
}
}

用上面的 C 代碼編譯生成動態庫 libdead_loop.so （Windows 上是 dead_loop.dll）
，接著就要利用 ctypes 來在 python 里 load 這個動態庫，分別在主線程和新建線程里調用其中的 DeadLoop
from ctypes import *
from threading import Thread

lib = cdll.LoadLibrary("libdead_loop.so")
t = Thread(target=lib.DeadLoop)
t.start()

lib.DeadLoop()

這回再看看 system monitor，Python 解釋器進程有兩個線程在跑，而且雙核 CPU 全被占滿了，ctypes 確實很給力！需要提醒的是，GIL 是被 ctypes 在調用 C 函數前釋放的。但是 Python 解釋器還是會在執行任意一段 Python 代碼時鎖 GIL 的。如果你使用 Python 的代碼做為 C 函數的 callback，那麼只要 Python 的 callback 方法被執行時，GIL 還是會跳出來的。比如下面的例子：
extern"C"
{
typedef void Callback();
void Call(Callback* callback)
{
callback();
}
}

from ctypes import *
from threading import Thread

def dead_loop():
while True:
pass

lib = cdll.LoadLibrary("libcall.so")
Callback = CFUNCTYPE(None)
callback = Callback(dead_loop)

t = Thread(target=lib.Call, args=(callback,))
t.start()

lib.Call(callback)

注意這里與上個例子的不同之處，這次的死循環是發生在 Python 代碼里 (DeadLoop 函數) 而 C 代碼只是負責去調用這個 callback 而已。運行這個例子，你會發現 CPU 佔用率還是只有 50％ 不到。GIL 又起作用了。
其實，從上面的例子，我們還能看出 ctypes 的一個應用，那就是用 Python 寫自動化測試用例，通過 ctypes 直接調用 C 模塊的介面來對這個模塊進行黑盒測試，哪怕是有關該模塊 C 介面的多線程安全方面的測試，ctypes 也一樣能做到。
結語
雖然 CPython 的線程庫封裝了操作系統的原生線程，但卻因為 GIL 的存在導致多線程不能利用多個 CPU 內核的計算能力。好在現在 Python 有了易經筋（multiprocessing）, 吸星大法（C 語言擴展機制）和獨孤九劍（ctypes），足以應付多核時代的挑戰，GIL 切還是不切已經不重要了，不是嗎。

6. C++ openmp並行程序在多核linux上如何最大化使用cpu

openmp並行程序在多核linux上最大化使用cpu的方法如下：

#include<stdio.h>
#include<stdlib.h>
#include<omp.h>
#include<time.h>

intmain()
{
longlongi;
longdoublesum=.0;
longdoublesec=.0;

//Multi-threadcomputestart
clock_tt1=clock();
#pragmaompparallelfor
for(i=0;i<1000000000;i++)
{
sum+=i/100;
}
clock_tt2=clock();

sec=(t2-t1);
//sec=(t2-t1);
printf("Programcosts%.2Lfclocktick.
",sec);
exit(EXIT_SUCCESS);
}

以上代碼中，#pragma omp parallel for

這一行的作用即是調用openmp的功能，根據檢測到的CPU核心數目，將for (i = 0; i < 1000000000; i++)這個循環執行過程平均分配給每一個CPU核心。

去掉#pragma omp parallel for這行，則和普通的串列代碼效果一致。

注意，要使用openmp功能，在編譯的時候需要加上-fopenmp編譯參數。

以下是兩種編譯搭配兩種代碼出現的4種結果，可以很直觀地看到效果：

1、代碼里含有#pragma omp parallel for，編譯參數有-fopenmp

Endys-MacBook-Pro:Desktop endy$ vi test.c

Endys-MacBook-Pro:Desktop endy$ gcc-6 test.c -o test -fopenmp

Endys-MacBook-Pro:Desktop endy$ ./test

Program costs 50202611.00 clock tick.

2、代碼里含有#pragma omp parallel for，編譯參數沒有-fopenmp

Endys-MacBook-Pro:Desktop endy$ gcc-6 test.c -o test

Endys-MacBook-Pro:Desktop endy$ ./test

Program costs 4068178.00 clock tick.

3、代碼里沒有#pragma omp parallel for，編譯參數有-fopenmp

Endys-MacBook-Pro:Desktop endy$ vi test.c

Endys-MacBook-Pro:Desktop endy$ gcc-6 test.c -o test -fopenmp

Endys-MacBook-Pro:Desktop endy$ ./test

Program costs 4090744.00 clock tick.

4、代碼里沒有#pragma omp parallel for，編譯參數沒有-fopenmp

Endys-MacBook-Pro:Desktop endy$ vi test.c

Endys-MacBook-Pro:Desktop endy$ gcc-6 test.c -o test

Endys-MacBook-Pro:Desktop endy$ ./test

Program costs 4170093.00 clock tick.

可以看出，只有在情況1下，openmp生效，其他3種情況下，均為單核運行，2、3、4結果較為接近，而1的運行結果大約相差25%。

值得注意的是，使用多核心的case 1竟然比單核的其他3種case慢了25%，原因是在這種單一的循環運算中，並行分配CPU任務的指令比直接執行下一個循環指令的效率更低。所以並不是用並行運算就一定能夠提高運算效率的，要根據實際情況來判斷。