Hadoop-MapReduce操作

来源:http://www.cnblogs.com/guoqingyan/archive/2016/07/15/5673945.html
-Advertisement-
Play Games

1、準備文件並設置編碼格式為UTF-8並上傳Linux 2、新建一個Java Project 3、導入jar 4、編寫Map()和Reduce() 5、將代碼輸出成jar 6、在linux中啟動hdfs 7、修改兩個配置文件 8、在linux中啟動yarn 9、運行mapReduce 10、查看運行 ...


1、準備文件並設置編碼格式為UTF-8並上傳Linux

2、新建一個Java Project

3、導入jar

4、編寫Map()和Reduce()

5、將代碼輸出成jar

6、在linux中啟動hdfs

7、修改兩個配置文件

8、在linux中啟動yarn

9、運行mapReduce

10、查看運行結果

1、 準備文件並設置編碼格式為UTF-8並上傳Linux

1)設置編碼:首先打開文件點擊左上角 文件(F) 點擊另存為並將編碼(E)設置為UTF-8 然後保存(S)替換的原來的文件

2)用工具將文件上傳就Linux

3)將文件上傳至HDFS

2、 新建一個Java Project

JDK必須是1.7版本以後的否則不支持

3、 導入jar

導入好多jar包並Add to Build Path

4、 編寫Map()和Reduce()

5、將代碼輸出成jar

1) 將代碼輸出成jar

 

2) 將生成的jar上傳至Linux

6、在linux中啟動hdfs

1) 啟動hdfs

1) 將text文件上傳到HDFS

7、修改兩個配置文件

在<configuration>配置項中增加以下內容:

<configuration>

        <property>

                <name>mapreduce.framework.name</name>

                <value>yarn</value>

        </property>

</configuration>

 

在<configuration>配置項中增加以下內容:

(參數解釋:NodeManager上運行的附屬服務。需配置成mapreduce_shuffle,才可運MapReduce程式)

<configuration>

        <property>

                <name>yarn.nodemanager.aux-services</name>

                <value>mapreduce_shuffle</value>

        </property>

</configuration>

8、在linux中啟動yarn

9、運行mapReduce

10、查看運行結果

 


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • squareup 推出 retrofit2 已經有一段時間了,現在的版本比較穩定,沒有什麼大坑了。網路上的教程要麼太簡單,只是個Demo;要麼有些落時,要麼復用性比較差,所以自己寫個教程([email protected]),供大家參考。 1. 首先在build.gradle引入依賴 註意,這裡 ...
  • App Store: 編程詞典 - Swift version 1. UI優化 2. 提升穩定性 3. 換用內容免費,功能收費形式(老用戶不受影響) App Store: 編程詞典 - Swift version ...
  • App Store: 天的故事 1. 界面優化 2. 修複bug App Store: 天的故事 ...
  • 02
    02 ...
  • 相信大家都熟悉自動識別提示吧,在我們的生活中隨處可見,今天就讓我為大家簡單介紹一下它是如何設計的。 所謂自動識別輸入即是根據用戶輸入的已有信息,為用戶提示可能的值,方便用戶完成輸入。在Android設備上這種功能分為:AutoCompleteTextView和MultiAutoCompleteTex ...
  • 這兩天使用Reveal工具查看"手機淘寶"App的UI層次時,發現其圖片輪播使用了三個UIButton的復用來實現的圖片迴圈無縫滾動。於是乎就有了今天這篇博客,看到“手機淘寶”這個幻燈片的UI層級時,就想要動手使用三個Button來實現一下,當然本篇博客使用是Swift語言,思路就是使用三個Butt ...
  • -(void)touchesBegan:(NSSet *)touches withEvent:(UIEvent *)event { /* 1,不使用動畫 UIViewAnimationTransitionNone 2,從左向右旋轉翻頁 UIViewAnimationTransitionFlipFro ...
  • 當 IDENTITY_INSERT 設置為 OFF 時,不能向表 '#TT' 中的標識列插入顯式值。我是在SqlServer寫存儲過程中遇到的這個錯誤,當時就心想:臨時表怎麼會有主鍵呢,我也沒有設置主鍵。然後我就和同事一塊調試,終於發現了。原因就是我把真實的數據表中id(其實就是主鍵)取出來放到臨時 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...