大數據常用軟體安裝指南

来源:https://www.cnblogs.com/heibaiying/archive/2019/09/10/11498020.html
-Advertisement-
Play Games

一、基礎軟體安裝 1. "Linux 環境下 JDK 安裝" 2. "Linux 環境下 Python 安裝" 3. "虛擬機靜態 IP 及多 IP 配置" 二、Hadoop 1. "Hadoop 單機環境搭建" 2. "Hadoop 集群環境搭建" 3. "基於 Zookeeper 搭建 Hado ...


一、基礎軟體安裝

  1. Linux 環境下 JDK 安裝
  2. Linux 環境下 Python 安裝
  3. 虛擬機靜態 IP 及多 IP 配置

二、Hadoop

  1. Hadoop 單機環境搭建
  2. Hadoop 集群環境搭建
  3. 基於 Zookeeper 搭建 Hadoop 高可用集群

三、Spark

  1. Spark 開發環境搭建
  2. 基於 Zookeeper 搭建 Spark 高可用集群

四、Storm

  1. Storm 單機環境搭建
  2. Storm 集群環境搭建

五、HBase

  1. HBase 單機環境搭建
  2. HBase 集群環境搭建

六、Flume

  1. Linux 環境下 Flume 的安裝部署

七、Azkaban

  1. Azkaban3.x 編譯及部署

八、Hive

  1. Linux 環境下 Hive 的安裝部署

九、Zookeeper

  1. Zookeeper 單機環境和集群環境搭建

十、Kafka

  1. 基於 Zookeeper 搭建 Kafka 高可用集群

版本說明

由於 Apache Hadoop 原有安裝包之間相容性比較差,所以如無特殊需求,本倉庫一律選擇 CDH (Cloudera's Distribution, including Apache Hadoop) 版本的安裝包。它基於穩定版本的 Apache Hadoop 構建,並做了相容性測試,是目前生產環境中使用最為廣泛的版本。

最新的 CDH 5 的下載地址為:http://archive.cloudera.com/cdh5/cdh/5/ 。這個頁面很大且載入速度比較慢,需要耐心等待頁面載入完成。上半部分是文檔鏈接,後半部分才是安裝包。同一個 CDH 版本的不同框架間都做了集成測試,可以保證沒有任何 JAR 包衝突。安裝包包名通常如下所示,這裡 CDH 版本都是 5.15.2 ,前面是各個軟體自己的版本 ,未避免出現不必要的 JAR 包衝突,請務必保持 CDH 的版本一致

hadoop-2.6.0-cdh5.15.2.tar.gz 
hbase-1.2.0-cdh5.15.2
hive-1.1.0-cdh5.15.2.tar.gz

更多大數據系列文章可以參見 GitHub 開源項目大數據入門指南


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 這種情況加個SSL證書就行了 就是HTTPS協議 ...
  • ...
  • 本篇寫一些關於 網路相關的基礎命令、配置等。 hostname 1.查看主機名 2.臨時修改主機名 3.永久修改主機名 ifconfig 1.查看已啟用的網路介面信息 :第一塊乙太網卡的名稱。 中的 是`EtherNet s`表示熱插拔插槽上的設備 ,數字 表示插槽編號。 :迴環網路介面, 是`lo ...
  • 本文針對window操作系統與mysql8.0的版本。 1.mysql導出sql文件 這裡直接使用mysql提供的mysqlpump工具,以下是mysqlpump說明 mysqlpump客戶實用程式執行邏輯備份,產生一組能夠被執行以再現原始資料庫對象定義和表數據的SQL語句。它轉儲一個或多個MySQ ...
  • [20190910]索引分支塊中TERM使用什麼字元表示.txt--//做索引塊轉儲,一些root,分支節點出現TERM,從來沒有關註使用字元表示,簡單探究看看。1.環境:SCOTT@test01p> @ ver1PORT_STRING VERSION BANNER CON_ID IBMPC/WIN ...
  • 轉自: http://www.maomao365.com/?p=9712 摘要: 下文講述sqlserver中sql_variant數據類型定義、賦值、應用的相關說明,如下所示: 實驗環境:sql server 2008 R2 數據類型sql_variant簡介sql_variant是自sqlser ...
  • PyMongo是驅動程式,使python程式能夠使用Mongodb資料庫,使用python編寫而成 ...
  • #安裝Mysqlwget http://dev.mysql.com/get/mysql57-community-release-el7-8.noarch.rpmyum localinstall mysql57-community-release-el7-8.noarch.rpmyum repolis ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...