編譯ambari
1. Hadoop到底是什麼玩意
Hadoop到底是個啥？
答：Hadoop是基於廉價設備利用集群的威力對海量數據進行安全存儲和高效計算的分布式存儲和分析框架，Hadoop本身是一個龐大的項目家族，其核心 家族或者底層是HDFS和MapRece，HDFS和MapRece分別用來實現對海量數據的存儲和分析，其它的項目，例如Hive、HBase 等都是基於HDFS和MapRece，是為了解決特定類型的大數據處理問題而提出的子項目，使用Hive、HBase等子項目可以在更高的抽象的基礎上更簡單的編寫分布式大數據處理程序。Hadoop的其它子項目還包括Common, Avro, Pig, ZooKeeper, Sqoop, Oozie 等，隨著時間的推移一些新的子項目會被加入進來，一些關注度不高的項目會被移除Hadoop家族，所以Hadoop是一個充滿活力的系統。
Apache Hadoop: 是Apache開源組織的一個分布式計算開源框架，提供了一個分布式文件系統子項目(HDFS)和支持MapRece分布式計算的軟體架構。
Apache Hive: 是基於Hadoop的一個數據倉庫工具，可以將結構化的數據文件映射為一張資料庫表，通過類sql語句快速實現簡單的MapRece統計，不必開發專門的MapRece應用，十分適合數據倉庫的統計分析。
ApachePig: 是一個基於Hadoop的大規模數據分析工具，它提供的SQL-LIKE語言叫Pig Latin，該語言的編譯器會把類SQL的數據分析請求轉換為一系列經過優化處理的MapRece運算。
ApacheHBase: 是一個高可靠性、高性能、面向列、可伸縮的分布式存儲系統，利用HBase技術可在廉價PC Server上搭建起大規模結構化存儲集群。
Apache Sqoop: 是一個用來將Hadoop和關系型資料庫中的數據相互轉移的工具，可以將一個關系型資料庫（MySQL ,Oracle ,Postgres等）中的數據導進到Hadoop的HDFS中，也可以將HDFS的數據導進到關系型資料庫中。
Apache Zookeeper: 是一個為分布式應用所設計的分布的、開源的協調服務，它主要是用來解決分布式應用中經常遇到的一些數據管理問題，簡化分布式應用協調及其管理的難度，提供高性能的分布式服務 ApacheMahout:是基於Hadoop的機器學習和數據挖掘的一個分布式框架。Mahout用MapRece實現了部分數據挖掘演算法，解決了並行挖掘的問題。
ApacheCassandra:是一套開源分布式NoSQL資料庫系統。它最初由Facebook開發，用於儲存簡單格式數據，集Google BigTable的數據模型與AmazonDynamo的完全分布式的架構於一身 Apache Avro: 是一個數據序列化系統，設計用於支持數據密集型，大批量數據交換的應用。Avro是新的數據序列化格式與傳輸工具，將逐步取代Hadoop原有的IPC機制 ApacheAmbari: 是一種基於Web的工具，支持Hadoop集群的供應、管理和監控。
ApacheChukwa: 是一個開源的用於監控大型分布式系統的數據收集系統，它可以將各種各樣類型的數據收集成適合 Hadoop 處理的文件保存在 HDFS 中供Hadoop 進行各種 MapRece 操作。
ApacheHama: 是一個基於HDFS的BSP（Bulk Synchronous Parallel)並行計算框架, Hama可用於包括圖、矩陣和網路演算法在內的大規模、大數據計算。
ApacheFlume: 是一個分布的、可靠的、高可用的海量日誌聚合的系統，可用於日誌數據收集，日誌數據處理，日誌數據傳輸。
ApacheGiraph: 是一個可伸縮的分布式迭代圖處理系統， 基於Hadoop平台，靈感來自 BSP (bulk synchronous parallel) 和Google 的 Pregel。
ApacheOozie: 是一個工作流引擎伺服器, 用於管理和協調運行在Hadoop平台上（HDFS、Pig和MapRece）的任務。
ApacheCrunch: 是基於Google的FlumeJava庫編寫的Java庫，用於創建MapRece程序。與Hive，Pig類似，Crunch提供了用於實現如連接數據、執行聚合和排序記錄等常見任務的模式庫 ApacheWhirr: 是一套運行於雲服務的類庫（包括Hadoop），可提供高度的互補性。Whirr學支持Amazon EC2和Rackspace的服務。
ApacheBigtop: 是一個對Hadoop及其周邊生態進行打包，分發和測試的工具。
ApacheHCatalog: 是基於Hadoop的數據表和存儲管理，實現中央的元數據和模式管理，跨越Hadoop和RDBMS，利用Pig和Hive提供關系視圖。
ClouderaHue: 是一個基於WEB的監控和管理系統，實現對HDFS，MapRece/YARN, HBase, Hive, Pig的web化操作和管理。
2. [ERROR] Failed to execute goal org.codehaus.mojo:rpm-maven-plugin:2.0.1:rpm
yum install rpm-build
3. 小白想轉行做大數據，怎麼入行
大數據技術專業屬於交叉學科：以統計學、數學、計算機為三大支撐性學科；生物、醫學、環境科學、經濟學、社會學、管理學為應用拓展性學科。
此外還需學習數據採集、分析、處理軟體，學習數學建模軟體及計算機編程語言等，知識結構是二專多能復合的跨界人才(有專業知識、有數據思維)。
大數據時代則對從業人員素質的要求越來越高，因為數據處理變得越來越復雜，數據人才的競爭也越來越激烈，很多大公司都在尋找尖端人才。而且，大到國防、金融，小到跟生活息息相關的物流、購物、醫療、交通等，都日益需要大數據的支撐。大數據正在成為一門「顯學」。
對於大數據開發的學習，重在掌握基本知識以及實踐應用，合理安排基礎知識的學習，可以起到事半功倍的效果，以下是比較經典的大數據開發學習路線：
第一階段：JavaSE+MySql+linux
Java語言入門 → OOP編程 → Java常用Api、集合 → IO/NIO → Java實用技術 → Mysql資料庫 → 階段項目實戰 → Linux基礎 → shell編程
第二階段：Hadoop與生態系統
Hadoop → MapRece → Avro → Hive → Hbase → Zookeeper → Flume → Kafka → Sqoop → Pig
第三階段：Storm與Spark及其生態圈
Storm → Scala → Spark → Spark SQL → Spark Streaming → Spark機器學習
第四階段：其他
Mahout機器學習 → R語言 → python
第五階段：項目實戰、技術綜合運用
希望對您有所幫助！~
4. 常見的大數據分析工具有哪些
大數據分析的前瞻性使得很多公司以及企業都開始使用大數據分析對公司的決策做出幫助，而大數據分析是去分析海量的數據，所以就不得不藉助一些工具去分析大數據，。一般來說，數據分析工作中都是有很多層次的，這些層次分別是數據存儲層、數據報表層、數據分析層、數據展現層。對於不同的層次是有不同的工具進行工作的。下面小編就對大數據分析工具給大家好好介紹一下。
首先我們從數據存儲來講數據分析的工具。我們在分析數據的時候首先需要存儲數據，數據的存儲是一個非常重要的事情，如果懂得資料庫技術，並且能夠操作好資料庫技術，這就能夠提高數據分析的效率。而數據存儲的工具主要是以下的工具。
1、MySQL資料庫，這個對於部門級或者互聯網的資料庫應用是必要的，這個時候關鍵掌握資料庫的庫結構和SQL語言的數據查詢能力。
2、SQL Server的最新版本，對中小企業，一些大型企業也可以採用SQL Server資料庫，其實這個時候本身除了數據存儲，也包括了數據報表和數據分析了，甚至數據挖掘工具都在其中了。
3、DB2，Oracle資料庫都是大型資料庫了，主要是企業級，特別是大型企業或者對數據海量存儲需求的就是必須的了，一般大型資料庫公司都提供非常好的數據整合應用平台;
接著說數據報表層。一般來說，當企業存儲了數據後，首先要解決報表的問題。解決報表的問題才能夠正確的分析好資料庫。關於數據報表所用到的數據分析工具就是以下的工具。
1、Crystal Report水晶報表，Bill報表，這都是全球最流行的報表工具，非常規范的報表設計思想，早期商業智能其實大部分人的理解就是報表系統，不藉助IT技術人員就可以獲取企業各種信息——報表。
2、Tableau軟體，這個軟體是近年來非常棒的一個軟體，當然它已經不是單純的數據報表軟體了，而是更為可視化的數據分析軟體，因為很多人經常用它來從資料庫中進行報表和可視化分析。
第三說的是數據分析層。這個層其實有很多分析工具，當然我們最常用的就是Excel，我經常用的就是統計分析和數據挖掘工具;
1、Excel軟體，首先版本越高越好用這是肯定的;當然對Excel來講很多人只是掌握了5%Excel功能，Excel功能非常強大，甚至可以完成所有的統計分析工作!但是我也常說，有能力把Excel玩成統計工具不如專門學會統計軟體;
2、SPSS軟體：當前版本是18，名字也改成了PASW Statistics;我從3.0開始Dos環境下編程分析，到現在版本的變遷也可以看出SPSS社會科學統計軟體包的變化，從重視醫學、化學等開始越來越重視商業分析，現在已經成為了預測分析軟體。
最後說表現層的軟體。一般來說表現層的軟體都是很實用的工具。表現層的軟體就是下面提到的內容。
1、PowerPoint軟體：大部分人都是用PPT寫報告。
2、Visio、SmartDraw軟體：這些都是非常好用的流程圖、營銷圖表、地圖等，而且從這里可以得到很多零件;
3、Swiff Chart軟體：製作圖表的軟體，生成的是Flash
5. 大數據分析,大數據開發,數據挖掘 所用到技術和工具
大數據分析是一個含義廣泛的術語，是指數據集，如此龐大而復雜的，他們需要專門設計的硬體和軟體工具進行處理。該數據集通常是萬億或EB的大小。這些數據集收集自各種各樣的來源：感測器，氣候信息，公開的信息，如雜志，報紙，文章。大數據分析產生的其他例子包括購買交易記錄，網路日誌，病歷，軍事監控，視頻和圖像檔案，及大型電子商務。
大數據分析，他們對企業的影響有一個興趣高漲。大數據分析是研究大量的數據的過程中尋找模式，相關性和其他有用的信息，可以幫助企業更好地適應變化，並做出更明智的決策。
一、Hadoop
Hadoop是一個開源框架，它允許在整個集群使用簡單編程模型計算機的分布式環境存儲並處理大數據。它的目的是從單一的伺服器到上千台機器的擴展，每一個台機都可以提供本地計算和存儲。
Hadoop 是一個能夠對大量數據進行分布式處理的軟體框架。但是 Hadoop 是以一種可靠、高效、可伸縮的方式進行處理的。Hadoop 是可靠的，即使計算元素和存儲會失敗，它維護多個工作數據副本，確保能夠針對失敗的節點重新分布處理。Hadoop是高效的，它採用並行的方式工作，通過並行處理加快處理速度。Hadoop 還是可伸縮的，能夠處理 PB 級數據。此外，Hadoop 依賴於社區伺服器，因此它的成本比較低，任何人都可以使用。
Hadoop是輕松架構和使用的分布式計算平台。用戶可以輕松地在Hadoop上開發和運行處理海量數據的應用程序。它主要有以下幾個優點：
1、高可靠性。Hadoop按位存儲和處理數據的能力值得人們信賴。
2、高擴展性。Hadoop是在可用的計算機集簇間分配數據並完成計算任務的，這些集簇可以方便地擴展到數以千計的節點中。
3、高效性。Hadoop能夠在節點之間動態地移動數據，並保證各個節點的動態平衡，因此處理速度非常快。
4、高容錯性。Hadoop能夠自動保存數據的多個副本，並且能夠自動將失敗的任務重新分配。
Hadoop帶有用 Java 語言編寫的框架，因此運行在 Linux 生產平台上是非常理想的。Hadoop 上的應用程序也可以使用其他語言編寫，比如 C++。
二、HPCC
HPCC，High Performance Computing and Communications(高性能計算與通信)的縮寫。1993年，由美國科學、工程、技術聯邦協調理事會向國會提交了"重大挑戰項目：高性能計算與通信"的報告，也就是被稱為HPCC計劃的報告，即美國總統科學戰略項目，其目的是通過加強研究與開發解決一批重要的科學與技術挑戰問題。HPCC是美國實施信息高速公路而上實施的計劃，該計劃的實施將耗資百億美元，其主要目標要達到：開發可擴展的計算系統及相關軟體，以支持太位級網路傳輸性能，開發千兆比特網路技術，擴展研究和教育機構及網路連接能力。
十、Tableau Public
1、什麼是Tableau Public -大數據分析工具
這是一個簡單直觀的工具。因為它通過數據可視化提供了有趣的見解。Tableau Public的百萬行限制。因為它比數據分析市場中的大多數其他玩家更容易使用票價。使用Tableau的視覺效果，您可以調查一個假設。此外，瀏覽數據，並交叉核對您的見解。
2、Tableau Public的使用
您可以免費將互動式數據可視化發布到Web;無需編程技能;發布到Tableau Public的可視化可以嵌入到博客中。此外，還可以通過電子郵件或社交媒體分享網頁。共享的內容可以進行有效硫的下載。這使其成為最佳的大數據分析工具。
3、Tableau Public的限制
所有數據都是公開的，並且限制訪問的范圍很小;數據大小限制;無法連接到[R ;讀取的唯一方法是通過OData源，是Excel或txt。
十一、OpenRefine
1、什麼是OpenRefine - 數據分析工具
以前稱為GoogleRefine的數據清理軟體。因為它可以幫助您清理數據以進行分析。它對一行數據進行操作。此外，將列放在列下，與關系資料庫表非常相似。
2、OpenRefine的使用
清理凌亂的數據;數據轉換;從網站解析數據;通過從Web服務獲取數據將數據添加到數據集。例如，OpenRefine可用於將地址地理編碼到地理坐標。
3、OpenRefine的局限性
Open Refine不適用於大型數據集;精煉對大數據不起作用
十二、KNIME
1、什麼是KNIME - 數據分析工具
KNIME通過可視化編程幫助您操作，分析和建模數據。它用於集成各種組件，用於數據挖掘和機器學習。
2、KNIME的用途
不要寫代碼塊。相反，您必須在活動之間刪除和拖動連接點;該數據分析工具支持編程語言;事實上，分析工具，例如可擴展運行化學數據，文本挖掘，蟒蛇，和[R 。
3、KNIME的限制
數據可視化不佳
十三、Google Fusion Tables
1、什麼是Google Fusion Tables
對於數據工具，我們有更酷，更大版本的Google Spreadsheets。一個令人難以置信的數據分析，映射和大型數據集可視化工具。此外，Google Fusion Tables可以添加到業務分析工具列表中。這也是最好的大數據分析工具之一，大數據分析十八般工具。
2、使用Google Fusion Tables
在線可視化更大的表格數據;跨越數十萬行進行過濾和總結;將表與Web上的其他數據組合在一起；您可以合並兩個或三個表以生成包含數據集的單個可視化;
3、Google Fusion Tables的限制
表中只有前100,000行數據包含在查詢結果中或已映射;在一次API調用中發送的數據總大小不能超過1MB。
十四、NodeXL
1、什麼是NodeXL
它是關系和網路的可視化和分析軟體。NodeXL提供精確的計算。它是一個免費的(不是專業的)和開源網路分析和可視化軟體。NodeXL是用於數據分析的最佳統計工具之一。其中包括高級網路指標。此外，訪問社交媒體網路數據導入程序和自動化。
2、NodeXL的用途
這是Excel中的一種數據分析工具，可幫助實現以下方面：
數據導入;圖形可視化;圖形分析;數據表示;該軟體集成到Microsoft Excel 2007,2010,2013和2016中。它作為工作簿打開，包含各種包含圖形結構元素的工作表。這就像節點和邊緣;該軟體可以導入各種圖形格式。這種鄰接矩陣，Pajek .net，UCINet .dl，GraphML和邊緣列表。
3、NodeXL的局限性
您需要為特定問題使用多個種子術語;在稍微不同的時間運行數據提取。
十五、Wolfram Alpha
1、什麼是Wolfram Alpha
它是Stephen Wolfram創建的計算知識引擎或應答引擎。
2、Wolfram Alpha的使用
是Apple的Siri的附加組件;提供技術搜索的詳細響應並解決微積分問題;幫助業務用戶獲取信息圖表和圖形。並有助於創建主題概述，商品信息和高級定價歷史記錄。
3、Wolfram Alpha的局限性
Wolfram Alpha只能處理公開數字和事實，而不能處理觀點;它限制了每個查詢的計算時間;這些數據分析統計工具有何疑問?
十六、Google搜索運營商
1、什麼是Google搜索運營商
它是一種強大的資源，可幫助您過濾Google結果。這立即得到最相關和有用的信息。
2、Google搜索運算符的使用
更快速地過濾Google搜索結果;Google強大的數據分析工具可以幫助發現新信息。
十七、Excel解算器
1、什麼是Excel解算器
Solver載入項是Microsoft Office Excel載入項程序。此外，它在您安裝Microsoft Excel或Office時可用。它是excel中的線性編程和優化工具。這允許您設置約束。它是一種先進的優化工具，有助於快速解決問題。
2、求解器的使用
Solver找到的最終值是相互關系和決策的解決方案;它採用了多種方法，來自非線性優化。還有線性規劃到進化演算法和遺傳演算法，以找到解決方案。
3、求解器的局限性
不良擴展是Excel Solver缺乏的領域之一;它會影響解決方案的時間和質量;求解器會影響模型的內在可解性;
十八、Dataiku DSS
1、什麼是Dataiku DSS
這是一個協作數據科學軟體平台。此外，它還有助於團隊構建，原型和探索。雖然，它可以更有效地提供自己的數據產品。
2、Dataiku DSS的使用
Dataiku DSS - 數據分析工具提供互動式可視化界面。因此，他們可以構建，單擊，指向或使用SQL等語言。
3、Dataiku DSS的局限性
有限的可視化功能;UI障礙：重新載入代碼/數據集;無法輕松地將整個代碼編譯到單個文檔/筆記本中;仍然需要與SPARK集成
以上的工具只是大數據分析所用的部分工具，小編就不一一列舉了，下面把部分工具的用途進行分類：
1、前端展現
用於展現分析的前端開源工具有JasperSoft，Pentaho, Spagobi, Openi, Birt等等。
用於展現分析商用分析工具有Style Intelligence、RapidMiner Radoop、Cognos, BO, Microsoft Power BI, Oracle,Microstrategy,QlikView、 Tableau 。
國內的有BDP，國雲數據(大數據分析魔鏡)，思邁特，FineBI等等。
2、數據倉庫
有Teradata AsterData, EMC GreenPlum, HP Vertica 等等。
3、數據集市
有QlikView、 Tableau 、Style Intelligence等等。
當然學大數據分析也有很多坑：
《轉行大數據分析師後悔了》、《零基礎學大數據分析現實嗎》、《大數據分析培訓好就業嗎》、《轉行大數據分析必知技能》
6. ambari+web+二次開發是怎麼回事
開發環境搭建
在windows下安裝nodejsPython的編譯運行環境比較復雜，主要是nodejs有些庫文件 是需要C++ 、ruby、python等一些語言進行編譯，所以在Linux上搭建這些環境簡單，使用samba協議共享Linux中的文件，在linux上運行測試，在windows下進行代碼修改。
開發流程
在ambari-web工程下，運行命令，下載好ambari相應的源碼，進入相應的目錄中。[root@bigData-02 ambari-web]# brunch watch –server ；
在window上，通過遠程連接訪問到samba共享出來的目錄，修改相應的代碼，ambari-web項目會自動編譯，在瀏覽器刷新，會看到修改後的效果。
打包。
7. Apache，CDH和Cloudera三者有什麼區別
親，很高興為您解答，
Hortonworks Hadoop區別於其他的Hadoop發行版(如Cloudera)的根本就在於，Hortonworks的產品均是百分之百開源。
Cloudera有免費版和企業版，企業版只有試用期。
apache hadoop則是原生的hadoop。
目前在中國流行的是apache hadoop，Cloudera CDH，當然Hortonworks也有用的
Apache Ambari是一個基於web的工具，用於配置、管理和監視Apache Hadoop集群，支持Hadoop HDFS,、Hadoop MapRece、Hive、HCatalog,、HBase、ZooKeeper、Oozie、Pig和Sqoop。Ambari同樣還提供了集群狀況儀表盤，比如heatmaps和查看MapRece、Pig、Hive應用程序的能力，以友好的用戶界面對它們的性能特性進行診斷。希望能幫助到您，望採納！