大熱的演算法

1. 哪個編程語言最好學

目前通用排名如下：
1、Java、C、C++！
從2001年Tiobe編程語言排行榜開始發布至今，Java、C、C++幾乎一直占據著前三名。雖然Perl、Visual Basic、Objective-C、PHP曾經也排到第3名，但和C++相比，他們就顯得不值一提了，因為他們最多隻能保持幾個月而已。
2、曾經大熱的語言：
Perl：像C一樣強大，像awk、sed等腳本描述語言一樣方便。

PHP：世界上最好的編程語言。

C#：有人認為C#勢必會取代C++，C++是垃圾語言，因為微軟的大力推廣，使用C#的人越來越多，C++卻正在被人遺忘。

Delphi：真正的程序員用C++，聰明的程序員用Delphi，Delphi簡單、高效、強大。

3、現在使用很廣泛的
Python：當今大學教授的第一語言，在統計領域排名第一，在人工智慧編程領域排名第一，在腳本編寫方面排名第一，在系統測試方面排名第一。

培訓機構說：Python已經超過Java了，世界第一了。

4、很久很久以前的編程語言
Foxpro： 曾經最流程的編程語言，市場上的霸主，2015年消失。

PowerBuilder：史上最強大的數據窗口，如果程序員不會PowerBuilder，都不好意思說自己是程序員。

Foxpro是我的第一編程語言，我用它開發了第一個項目。我最喜歡書是《二十一天PowerBuilder從入門到精通》，面試過紡織廠的程序員職位，沒被錄用。我最後一次用Delphi開發是十五年前。我最不喜歡的是C語言，第一次寫的C語言代碼是：

char str;

str="hello world";

5、C與C++的關系
C++是C的增強版嗎？就像iPhone7和iPhone7 plus的關系嗎？那為什麼國外的C程序員遠遠超過C++程序員呢？

最頂級的工程師用C語言開發出Java、Python等語言給程序員使用。

我們是程序員，所以用C++。

2. K-Means 聚類演算法

問題導入

    假如有這樣一種情況，在一天你想去某個城市旅遊，這個城市裡你想去的有70個地方，現在你只有每一個地方的地址，這個地址列表很長，有70個位置。事先肯定要做好攻略，你要把一些比較接近的地方放在一起組成一組，這樣就可以安排交通工具抵達這些組的「某個地址」，然後步行到每個組內的地址。那麼，如何確定這些組，如何確定這些組的「某個地址」？答案就是聚類。而本文所提供的k-means聚類分析方法就可以用於解決這類問題。

一，聚類思想

        所謂聚類演算法是指將一堆沒有標簽的數據自動劃分成幾類的方法，屬於無監督學習方法，這個方法要保證同一類的數據有相似的特徵，如下圖：

        根據樣本之間的距離或者說相似性，把越相似，差異越小的樣本聚成一類（簇），最後形成多個簇，使同一個簇內部的樣本相似度高，不同簇之間差異性高。

二，K-Means聚類分析演算法

        K-Means是一種基於自下而上的聚類分析方法，基本概念就是空間中有N個點，初始選擇K個點作為中心聚類點，將N個點分別與K個點計算距離，選擇自己最近的點作為自己的中心點，不斷地更新中心聚集點。

相關概念：

        K值：要得到的簇的個數

        質心：每個簇的均值向量，即向量各維取品軍即可

        距離度量：常用歐幾里得距離和餘弦相似度(先標准化)

        兩點之間的距離：

演算法流程：

        1    首先確定一個K值，即我們希望將數據集經過聚類得到 K個集合；

        2    從數據集中隨機選擇K個數據點作為質心；

        3    對數據集中每一個點，計算其與每個質心的距離(如歐式距離)，離哪個質心近，就劃分到哪個質心所屬的集合

        4    把所有數據歸好集合，一共有K個集合，然後重新計算每個集合的質心；

        5    如果新計算出來的質心和原來的質心之間的距離小於某一個設置的閾值(表示重新計算的質心的位置變化不大，趨於穩定，或者說收斂)，我們可以認為聚類已經達到期望的結果，演算法終止。

        6    如果新質心和原質心距離變化大，需要迭代3-5步驟

K-means實現過程

K-means 聚類演算法是一種非監督學習演算法，被用於非標簽數據（data without defined categories or groups）。該演算法使用迭代細化來產生最終結果。演算法輸入的是集群的數量 K 和數據集。數據集是每個數據點的一組功能。

演算法從 Κ 質心的初始估計開始，其可以隨機生成或從數據集中隨機選擇 。然後演算法在下面兩個步驟之間迭代：

1.數據分配：

每個質心定義一個集群。在此步驟中，基於平方歐氏距離將每個數據點分配到其最近的質心。更正式一點， ci 屬於質心集合 C ，然後每個數據點 x 基於下面的公式被分配到一個集群中。

其中 dist（·）是標准（L2）歐氏距離。讓指向第 i 個集群質心的數據點集合定為 Si 。

2. 質心更新：

在此步驟中，重新計算質心。這是通過獲取分配給該質心集群的所有數據點的平均值來完成的。公式如下：

K-means 演算法在步驟 1 和步驟 2 之間迭代，直到滿足停止條件（即，沒有數據點改變集群，距離的總和最小化，或者達到一些最大迭代次數）。

K 值的選擇

上述演算法找到特定預選 K 值和數據集標簽。為了找到數據中的集群數，用戶需要針對一系列 K 值運行 K-means 聚類演算法並比較結果。通常，沒有用於確定 K 的精確值的方法，但是可以使用以下技術獲得准確的估計。

Elbow point 拐點方法

通常用於比較不同 K 值的結果的度量之一是數據點與其聚類質心之間的平均距離。由於增加集群的數量將總是減少到數據點的距離，因此當 K 與數據點的數量相同時，增加 K 將總是減小該度量，達到零的極值。因此，該指標不能用作唯一目標。相反，繪制了作為 K 到質心的平均距離的函數，並且可以使用減小率急劇變化的「拐點」來粗略地確定 K 。

DBI（Davies-Bouldin Index）

DBI 是一種評估度量的聚類演算法的指標，通常用於評估 K-means 演算法中 k 的取值。簡單的理解就是：DBI 是聚類內的距離與聚類外的距離的比值。所以，DBI 的數值越小，表示分散程度越低，聚類效果越好。

還存在許多用於驗證 K 的其他技術，包括交叉驗證，信息標准，信息理論跳躍方法，輪廓方法和 G 均值演算法等等。

三，數學原理

K-Means採用的啟發式很簡單，可以用下面一組圖來形象的描述：

上述a表達了初始的數據集，假設 k=2 。在圖b中，我們隨機選擇了兩個 k 類所對應的類別質點，即圖中的紅色質點和藍色質點，然後分別求樣本中所有點到這兩個質心的距離，並標記每個樣本類別為和該樣本距離最小的質心的類別，如圖c所示，經過計算樣本和紅色質心和藍色質心的距離，我們得到了所有樣本點的第一輪迭代後的類別。此時我們對我們當前標記為紅色和藍色的點分別求其新的質心，如圖d所示，新的紅色質心和藍色質心大熱位置已經發生了變化。圖e和圖f重復了我們在圖c和圖d的過程，即將所有點的類別標記為距離最近的質心的類別並求出新的質心。最終我們得到的兩個類別如圖f.

四，實例

坐標系中有六個點：

1、我們分兩組，令K等於2，我們隨機選擇兩個點：P1和P2

2、通過勾股定理計算剩餘點分別到這兩個點的距離：

3、第一次分組後結果：

        組A：P1

        組B：P2、P3、P4、P5、P6

4、分別計算A組和B組的質心：

        A組質心還是P1=（0，0）

        B組新的質心坐標為：P哥=（（1+3+8+9+10）/5，（2+1+8+10+7）/5）=（6.2，5.6）

5、再次計算每個點到質心的距離：

6、第二次分組結果：

        組A：P1、P2、P3

        組B：P4、P5、P6

7、再次計算質心：

        P哥1=（1.33，1） 

        P哥2=（9，8.33）

8、再次計算每個點到質心的距離：

9、第三次分組結果：

        組A：P1、P2、P3

        組B：P4、P5、P6

可以發現，第三次分組結果和第二次分組結果一致，說明已經收斂，聚類結束。

五、K-Means的優缺點

優點：

1、原理比較簡單，實現也是很容易，收斂速度快。

2、當結果簇是密集的，而簇與簇之間區別明顯時, 它的效果較好。

3、主要需要調參的參數僅僅是簇數k。

缺點：

1、K值需要預先給定，很多情況下K值的估計是非常困難的。

2、K-Means演算法對初始選取的質心點是敏感的，不同的隨機種子點得到的聚類結果完全不同 ，對結果影響很大。

3、對噪音和異常點比較的敏感。用來檢測異常值。

4、採用迭代方法， 可能只能得到局部的最優解，而無法得到全局的最優解 。

六、細節問題

1、K值怎麼定？

答：分幾類主要取決於個人的經驗與感覺，通常的做法是多嘗試幾個K值，看分成幾類的結果更好解釋，更符合分析目的等。或者可以把各種K值算出的 E 做比較，取最小的 E 的K值。

2、初始的K個質心怎麼選？

        答：最常用的方法是隨機選，初始質心的選取對最終聚類結果有影響，因此演算法一定要多執行幾次，哪個結果更reasonable，就用哪個結果。      當然也有一些優化的方法，第一種是選擇彼此距離最遠的點，具體來說就是先選第一個點，然後選離第一個點最遠的當第二個點，然後選第三個點，第三個點到第一、第二兩點的距離之和最小，以此類推。第二種是先根據其他聚類演算法（如層次聚類）得到聚類結果，從結果中每個分類選一個點。

3、關於離群值？

        答：離群值就是遠離整體的，非常異常、非常特殊的數據點，在聚類之前應該將這些「極大」「極小」之類的離群數據都去掉，否則會對於聚類的結果有影響。但是，離群值往往自身就很有分析的價值，可以把離群值單獨作為一類來分析。

4、單位要一致！

        答：比如X的單位是米，Y也是米，那麼距離算出來的單位還是米，是有意義的。但是如果X是米，Y是噸，用距離公式計算就會出現「米的平方」加上「噸的平方」再開平方，最後算出的東西沒有數學意義，這就有問題了。

5、標准化

        答：如果數據中X整體都比較小，比如都是1到10之間的數，Y很大，比如都是1000以上的數，那麼，在計算距離的時候Y起到的作用就比X大很多，X對於距離的影響幾乎可以忽略，這也有問題。因此，如果K-Means聚類中選擇歐幾里德距離計算距離，數據集又出現了上面所述的情況，就一定要進行數據的標准化（normalization），即將數據按比例縮放，使之落入一個小的特定區間。

3. 挖礦算力怎麼計算

首先，算力代表的是礦機每秒的運算次數，如達到 1 次 /s ，則對應算力為 1H 。因此知道挖幣礦機的運作時間與運算次數即可計算其算力。算力的單位是每千位一變化，最小單位 H 為 1 次， 1K=1000H,1G=1000K,1T=1000G,1P=1000T,1E=1000P 。大熱幣種比特幣在各地的挖礦算力不完全一致，但基本保持在 24.5E 上下，至少要擁有 150 萬台計算機才能達到這一算力。並且不同的數字貨幣對挖礦方式（演算法）的選擇也有所區分，因此比較不同貨幣的算力是不可比的。

不同幣種間的算力

不同的幣種挖礦選擇的演算法可能會有所不同，如以太坊使用 Ethash 演算法，比特幣是 sha256 演算法，萊特幣是 scrypt 演算法等。不同演算法對算力的影響就像 6 位數字密碼與 12 位字母和數字密碼解碼的區別，實際情況還要比這個要復雜的多。兩種密碼的解碼要求不同，那麼嘗試解碼的速度也會有較大差距。因此，不同的幣種間的算力是沒有任何關系的。

4. ECC橢圓曲線加密演算法(一)

btc address:
eth address:

隨著區塊鏈的大熱，橢圓曲線演算法也成了密碼學的熱門話題。在Bitcoin 生成地址 中使用到了橢圓曲線加密演算法。

橢圓曲線的一般表現形式：

橢圓曲線其實不是橢圓形的，而是下面的圖形：

Bitcoin使用了 secp256k1 這條特殊的橢圓曲線，公式是：

這個東西怎麼加密的呢？

19世紀挪威青年 尼爾斯·阿貝爾 從普通的代數運算中，抽象出了加群（也叫阿貝爾群或交換群），使得在加群中，實數的演算法和橢圓曲線的演算法得到了統一。是什麼意思呢？

我們在實數中，使用的加減乘除，同樣可以用在橢圓曲線中！
對的，橢圓曲線也可以有加法、乘法運算。

數學中的群是一個集合，我們為它定義了一個二元運算，我們稱之為「加法」，並用符號 + 表示。假定我們要操作的群用𝔾表示，要定義的 加法 必須遵循以下四個特性：

如果在增加第5個條件：
交換律：a + b = b + a

那麼，稱這個群為阿貝爾群。根據這個定義整數集是個阿貝爾群。

岔開一下話題， 伽羅瓦 與 阿貝爾 分別獨立的提出了群論，他們並稱為現代群論的創始人，可惜兩位天才都是英年早逝。

如上文所說，我們可以基於橢圓曲線定義一個群。具體地說：

在橢圓曲線上有 不重合且不對稱的 A 、B兩點，兩點與曲線相交於X點, X與 x軸 的對稱點為R，R即為 A+B 的結果。這就是橢圓曲線的加法定義。

因為橢圓曲線方程存在 項，因此橢圓曲線必然關於x軸對稱

曲線： ，
坐標：A=(2,5)，B=(3,7)
A、B正好在曲線上，因為坐標滿足曲線公式


那如何找到相交的第三個點呢？

通過 A、B兩點確定直線方程，
設直線方程： ，m為直線的斜率

進一步得到c=1。

聯立方程：

X(-1,-1)的x坐標-1代入方式正好滿足方程，所以A、B兩點所在直線與曲線相交於 X(-1,-1)，則點X的關於x軸的對稱點為R(-1,1)，即A(2,5)+B(3,5)=R(-1,1)。

根據橢圓曲線的 群律(GROUP LAW) 公式，我們可以方便的計算R點。

曲線方程：
當A=(x1,y1)，B=(x2,y2) ，R=A+B=(x3,y3)，x1≠x2時,
， m是斜率
x3=
y3=m(x1-x3)-y1

A=(2,5), B=(3,7) , R=(-1,1) 符合上面的公式。

橢圓曲線加法符合交換律么？

先計算(A+B)，在計算 A+B+C

先計算B+C， 在計算 B+C+A

看圖像，計算結果相同，大家手動算下吧。

那 A + A 呢， 怎麼計算呢？

當兩點重合時候，無法畫出 「過兩點的直線」，在這種情況下，
過A點做橢圓曲線的切線，交於X點，X點關於 x軸 的對稱點即為 2A ，這樣的計算稱為 「橢圓曲線上的二倍運算」。

下圖即為橢圓曲線乘法運算：

我們將在 ECC橢圓曲線加密演算法(二) 介紹有限域，橢圓曲線的離散對數問題，橢圓曲線加密就是應用了離散對數問題。

參考：

https://eng.paxos.com/blockchain-101-foundational-math
https://eng.paxos.com/blockchain-101-elliptic-curve-cryptography
https://andrea.corbellini.name/2015/05/17/elliptic-curve-cryptography-a-gentle-introction/