1. 如何搭建大數據分析平台

1、 搭建大數據分析平台的背景
在大數據之前，BI就已經存在很久了，簡單把大數據等同於BI，明顯是不恰當的。但兩者又是緊密關聯的，相輔相成的。BI是達成業務管理的應用工具，沒有BI，大數據就沒有了價值轉化的工具，就無法把數據的價值呈現給用戶，也就無法有效地支撐企業經營管理決策；大數據則是基礎，沒有大數據，BI就失去了存在的基礎，沒有辦法快速、實時、高效地處理數據，支撐應用。 所以，數據的價值發揮，大數據平台的建設，必然是囊括了大數據處理與BI應用分析建設的。
2、 大數據分析平台的特點
數據攝取、數據管理、ETL和數據倉庫：提供有效的數據入庫與管理數據用於管理作為一種寶貴的資源。
Hadoop系統功能：提供海量存儲的任何類型的數據，大量處理功率和處理能力幾乎是無限並行工作或任務
流計算在拉動特徵：用於流的數據、處理數據並將這些流作為單個流。
內容管理特徵：綜合生命周期管理和文檔內容。
數據治理綜合：安全、治理和合規解決方案來保護數據。
3、 怎樣去搭建大數據分析平台
大數據分析處理平台就是整合當前主流的各種具有不同側重點的大數據處理分析框架和工具，實現對數據的挖掘和分析，一個大數據分析平台涉及到的組件眾多，如何將其有機地結合起來，完成海量數據的挖掘是一項復雜的工作。我們可以利用億信一站式數據分析平台（ABI），可以快速構建大數據分析平台，該平台集合了從數據源接入到ETL和數據倉庫進行數據整合，再到數據分析，全部在一個平台上完成。
億信一站式數據分析平台（ABI）囊括了企業全部所需的大數據分析工具。ABI可以對各類業務進行前瞻性預測分析，並為企業各層次用戶提供統一的決策分析支持，提升數據共享與流轉能力。

2. 用hadoop搭建大數據平台，前端頁面展示可以使用thinkphp嗎，

我們公司數據分析清洗是python 頁面展示是tp3

3. 如何架構大數據系統 hadoop

大數據數量龐大，格式多樣化。大量數據由家庭、製造工廠和辦公場所的各種設備、互聯網事務交易、社交網路的活動、自動化感測器、移動設備以及科研儀器等生成。它的爆炸式增長已超出了傳統IT基礎架構的處理能力，給企業和社會帶來嚴峻的數據管理問題。因此必須開發新的數據架構，圍繞「數據收集、數據管理、數據分析、知識形成、智慧行動」的全過程，開發使用這些數據，釋放出更多數據的隱藏價值。

一、大數據建設思路

1）數據的獲得

四、總結

基於分布式技術構建的大數據平台能夠有效降低數據存儲成本，提升數據分析處理效率，並具備海量數據、高並發場景的支撐能力，可大幅縮短數據查詢響應時間，滿足企業各上層應用的數據需求。

4. 如何基於hadoop搭建大數據開源平台

這個就比較負責了，可以用hadoop+hbase+spark/storm進行平台構建，spark用於數據分析和處理、hbase用於將處理後的數據保存、hadoop用於離線分析和原始數據存儲，具體的還得結合應用場景

5. 大數據hadoop系統搭建的難題有哪些

不是，只是因為hadoop是開源的，而且Apache開發的，各方面都比較穩定，也方便開發個性化

6. 大數據平台是什麼什麼時候需要大數據平台如何建立大數據平台

首先我們要了解java語言和Linux操作系統，這兩個是學習大數據的基礎，學習的順序不分前後。

Java ：只要了解一些基礎即可，做大數據不需要很深的Java 技術，學java SE 就相當於有學習大數據基礎。

Linux：因為大數據相關軟體都是在Linux上運行的，所以Linux要學習的扎實一些，學好Linux對你快速掌握大數據相關技術會有很大的幫助，能讓你更好的理解hadoop、hive、hbase、spark等大數據軟體的運行環境和網路環境配置，能少踩很多坑，學會shell就能看懂腳本這樣能更容易理解和配置大數據集群。還能讓你對以後新出的大數據技術學習起來更快。

Hadoop：這是現在流行的大數據處理平台幾乎已經成為大數據的代名詞，所以這個是必學的。Hadoop裡麵包括幾個組件HDFS、MapRece和YARN，HDFS是存儲數據的地方就像我們電腦的硬碟一樣文件都存儲在這個上面，MapRece是對數據進行處理計算的，它有個特點就是不管多大的數據只要給它時間它就能把數據跑完，但是時間可能不是很快所以它叫數據的批處理。

Zookeeper：這是個萬金油，安裝Hadoop的HA的時候就會用到它，以後的Hbase也會用到它。它一般用來存放一些相互協作的信息，這些信息比較小一般不會超過1M，都是使用它的軟體對它有依賴，對於我們個人來講只需要把它安裝正確，讓它正常的run起來就可以了。

Mysql：我們學習完大數據的處理了，接下來學習學習小數據的處理工具mysql資料庫，因為一會裝hive的時候要用到，mysql需要掌握到什麼層度那?你能在Linux上把它安裝好，運行起來，會配置簡單的許可權，修改root的密碼，創建資料庫。這里主要的是學習SQL的語法，因為hive的語法和這個非常相似。

Sqoop：這個是用於把Mysql里的數據導入到Hadoop里的。當然你也可以不用這個，直接把Mysql數據表導出成文件再放到HDFS上也是一樣的，當然生產環境中使用要注意Mysql的壓力。

Hive：這個東西對於會SQL語法的來說就是神器，它能讓你處理大數據變的很簡單，不會再費勁的編寫MapRece程序。有的人說Pig那?它和Pig差不多掌握一個就可以了。

Oozie：既然學會Hive了，我相信你一定需要這個東西，它可以幫你管理你的Hive或者MapRece、Spark腳本，還能檢查你的程序是否執行正確，出錯了給你發報警並能幫你重試程序，最重要的是還能幫你配置任務的依賴關系。我相信你一定會喜歡上它的，不然你看著那一大堆腳本，和密密麻麻的crond是不是有種想屎的感覺。

Hbase：這是Hadoop生態體系中的NOSQL資料庫，他的數據是按照key和value的形式存儲的並且key是唯一的，所以它能用來做數據的排重，它與MYSQL相比能存儲的數據量大很多。所以他常被用於大數據處理完成之後的存儲目的地。

Kafka：這是個比較好用的隊列工具，隊列是干嗎的?排隊買票你知道不?數據多了同樣也需要排隊處理，這樣與你協作的其它同學不會叫起來，你干嗎給我這么多的數據(比如好幾百G的文件)我怎麼處理得過來，你別怪他因為他不是搞大數據的，你可以跟他講我把數據放在隊列里你使用的時候一個個拿，這樣他就不在抱怨了馬上灰流流的去優化他的程序去了，因為處理不過來就是他的事情。而不是你給的問題。當然我們也可以利用這個工具來做線上實時數據的入庫或入HDFS，這時你可以與一個叫Flume的工具配合使用，它是專門用來提供對數據進行簡單處理，並寫到各種數據接受方(比如Kafka)的。

Spark：它是用來彌補基於MapRece處理數據速度上的缺點，它的特點是把數據裝載到內存中計算而不是去讀慢的要死進化還特別慢的硬碟。特別適合做迭代運算，所以演算法流們特別稀飯它。它是用scala編寫的。Java語言或者Scala都可以操作它，因為它們都是用JVM的。

7. 簡述hadoop和spark大數據平台的基本構架和工作原理

簡述這你來查查這大數比據平台的一些消息，關於數據的。

8. 在大數據平台hadoop可以做哪些應用

Hadoop是適合於大數據的分布式存儲和處理平台，是一種開源的框架
1、搜索引擎（Hadoop的初衷，專為了針對屬大規模的網頁快速建立索引）。
2、大數據存儲，利用Hadoop的分布式存儲能力，例如數據備份、數據倉庫等。
3、大數據處理，利用Hadoop的分布式處理能力，例如數據挖掘、數據分析等。
4、Hadoop是一種分布式的開源框架，對於分布式計算有很大程度地參考價值。
應用：例如
日誌處理
用戶細分特徵建模
個性化設計

9. 如何搭建基於Hadoop的大數據平台

Hadoop: 一個開源的分布式存儲、分布式計算平台.（基於Apache）

Hadoop的組成：
HDFS:分布式文件系統，存儲海量的數據。
MapRece:並行處理框架，實現任務分解和調度。
Hadoop的用處：
搭建大型數據倉庫，PB級數據的存儲、處理、分析、統計等業務。
比如搜索引擎、網頁的數據處理，各種商業智能、風險評估、預警，還有一些日誌的分析、數據挖掘的任務。
Hadoop優勢：高擴展、低成本、成熟的生態圈(Hadoop Ecosystem Map)

Hadoop開源工具：
Hive：將SQL語句轉換成一個hadoop任務去執行，降低了使用Hadoop的門檻。
HBase:存儲結構化數據的分布式資料庫，habase提供數據的隨機讀寫和實時訪問，實現 對表數據的讀寫功能。
zookeeper:就像動物管理員一樣，監控hadoop集群裡面每個節點的狀態，管理整個集群 的配置，維護節點針之間數據的一次性等等。
hadoop的版本盡量選穩定版本，即較老版本。
===============================================
Hadoop的安裝與配置：
1）在Linux中安裝JDK，並設置環境變數
安裝jdk: >> sudo apt-get install openjdk-7-jdk
設置環境變數：
>> vim /etc/profile

>> :wq
2)下載Hadoop,並設置Hadoop環境變數
下載hadoop解壓縮:
>> cd /opt/hadoop-1.2.1/
>> ls
>> vim /etc/profile

>>:wq

3）修改4個配置文件
（a）修改hadoop-env.sh,設置JAVA_HOME
（b）修改core-site.xml,設置hadoop.tmp.dir, dfs.name.dir, fs.default.name
（c）修改mapred-site.xml, 設置mapred.job.tracker
（d）修改hdfs-site.xml,設置dfs.data.dir
>> cd conf
>> ls

>> vim mapred-site.xml

>> :wq
>> vim core-site.xml
第一部分

第二部分

>> :wq
>> vim hdfs-site.xml

>> :wq
>> vim hadoop-env.sh

>> :wq
# hadoop格式化
>> hadoop namenode -format
# hadoop啟動
>> start-all.sh
# 通過jps命令查看當前運行進程
>> jps
看見以下進程即說明hadoop安裝成功

10. 如何快速搭建企業級大數據平台

提到大數據，無可避免的就會提到Hadoop。盡管大數據並不等同於Hadoop，但Hadoop確實是最熱門專的大數屬據技術。下面是最常用的混搭架構，來看一下大數據平台可以怎麼搭建，支撐企業應用：

通過Kafka作為統一採集平台的消息管理層，靈活的對接、適配各種數據源採集（如集成flume），提供靈活、可配置的數據採集能力。
利用Spark和Hadoop技術，構建大數據平台最為核心的基礎數據的存儲、處理能力中心，提供強大的數據處理能力，滿足數據的交互需求。同時通過Sparkstreaming，可以有效滿足企業實時數據的要求，構建企業發展的實時指標體系。
同時為了更好的滿足的數據獲取需求，通過RDBMS，提供企業高度匯總的統計數據，滿足企業常規的統計報表需求，降低使用門檻。對大數據明細查詢需求，則通過構建HBase集群，提供大數據快速查詢能力，滿足對大數據的查詢獲取需求。