Sqoop hive 和mysql 交互 完整案例

来源:http://www.cnblogs.com/amyliushu/archive/2017/05/19/6878835.html
-Advertisement-
Play Games

本文完成:在hive里建管理表;註入部分數據;利用sqoop導入mysql中 期間:解決中文亂碼問題 飛行報告故障表 建表命令 查看表 人工灌入少量數據 Windows系統向Linux系統數據傳輸 解決中文亂碼問題 1)顯示終端xshell 屬性里修改為utf-8 編碼格式 2)源文本文件編輯為ut... ...


本文完成:在hive里建管理表;註入部分數據;利用sqoop導入mysql中

期間:解決中文亂碼問題

 

飛行報告故障表

  • 建表命令

  • 查看表

  • 人工灌入少量數據

  • Windows系統向Linux系統數據傳輸

解決中文亂碼問題

1)顯示終端xshell 屬性里修改為utf-8 編碼格式

2)源文本文件編輯為utf-8格式

3)修改fileformat (可選)

  • 載入數據

  • 顯示內容

 

  • 根據分區做查詢

將結果寫入本地目錄

關聯mysql

  • mysql中建立相同的表結構

  • 利用sqoop導入(註意當前用戶環境變數)
  • 設置mysql編碼格式

  • 導入數據

sqoop export --connect jdbc:mysql://localhost:3306/trans_db --username root --password root --table ex_trans --export-dir /user/hive/warehouse/ga_mis.db/ex_tst_like/tst_failureRp.txt --input-fields-terminated-by '\t'

  • 查看mysql中表的導入內容

 


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 什麼是Handler? Handler可以發送和處理消息對象或Runnable對象,這些消息對象和Runnable對象與一個線程相關聯。每個Handler的實例都關聯了一個線程和線程的消息隊列。當創建了一個Handler對象時,一個線程或消息隊列同時也被創建,該Handler對象將發送和處理這些消息 ...
  • 從API level 24開始,fromHtml(String)被廢棄,使用fromHtml(String source, int flags) 代替 flags: FROM_HTML_MODE_COMPACT:html塊元素之間使用一個換行符分隔 FROM_HTML_MODE_LEGACY:htm ...
  • 今天與人聊到有關 charger battery safety 的 warning message, 認為說 warning message 真的有起到 保護 user 的作用? 譬如: battery 的 過充 warning message, 手機沒有電時,充電,人離開, 當手機過充時,顯示 w ...
  • 目錄: do-catch 斷言 Swift中方法可以使用throws來拋出程式執行過程中的異常,外部可以使用 do...catch 來捕獲使用try限定的方法拋出的異常。 使用assert([條件表達式])全局方法在程式中判斷表達式返回值是否為true來決定是否終止程式。 ...
  • 使用 PMIC_RGS_VCDT_HV_DET 判斷 charger 是否有 ovp。 LV_VTH : 4.15V ...
  •   UITableView是我們最常用的控制項了,今天我就來介紹一些關於UITableView的黑科技和一些註意的地方。 1.修改左滑刪除按鈕的高度   左滑刪除這是iOS最先發明的,之後安卓開始模仿。有時候我們需要對他進行自定義,比如添加圖片啊,修改字體和大小 ...
  • 前言: 今日新聞:谷歌宣佈,將Kotlin語言作為安卓開發的一級編程語言。 Kotlin由JetBrains公司開發,與Java 100%互通,並具備諸多Java尚不支持的新特性。 谷歌稱還將與JetBrains公司合作,為Kotlin設立一個非盈利基金會。 一、簡介: Kotlin 是一個基於 J ...
  • 1. 下載openssl,在C盤創建openssl文件夾,解壓下載的zip到openssl文件夾。 2. 找到debug.keystore。 windows下在C:\Users\用戶名\.android,mac下在~/.android/(mac下可能看不見,cmd里cd進去ls可以看見)。 3. c ...
一周排行
    -Advertisement-
    Play Games
  • 示例項目結構 在 Visual Studio 中創建一個 WinForms 應用程式後,項目結構如下所示: MyWinFormsApp/ │ ├───Properties/ │ └───Settings.settings │ ├───bin/ │ ├───Debug/ │ └───Release/ ...
  • [STAThread] 特性用於需要與 COM 組件交互的應用程式,尤其是依賴單線程模型(如 Windows Forms 應用程式)的組件。在 STA 模式下,線程擁有自己的消息迴圈,這對於處理用戶界面和某些 COM 組件是必要的。 [STAThread] static void Main(stri ...
  • 在WinForm中使用全局異常捕獲處理 在WinForm應用程式中,全局異常捕獲是確保程式穩定性的關鍵。通過在Program類的Main方法中設置全局異常處理,可以有效地捕獲並處理未預見的異常,從而避免程式崩潰。 註冊全局異常事件 [STAThread] static void Main() { / ...
  • 前言 給大家推薦一款開源的 Winform 控制項庫,可以幫助我們開發更加美觀、漂亮的 WinForm 界面。 項目介紹 SunnyUI.NET 是一個基於 .NET Framework 4.0+、.NET 6、.NET 7 和 .NET 8 的 WinForm 開源控制項庫,同時也提供了工具類庫、擴展 ...
  • 說明 該文章是屬於OverallAuth2.0系列文章,每周更新一篇該系列文章(從0到1完成系統開發)。 該系統文章,我會儘量說的非常詳細,做到不管新手、老手都能看懂。 說明:OverallAuth2.0 是一個簡單、易懂、功能強大的許可權+可視化流程管理系統。 有興趣的朋友,請關註我吧(*^▽^*) ...
  • 一、下載安裝 1.下載git 必須先下載並安裝git,再TortoiseGit下載安裝 git安裝參考教程:https://blog.csdn.net/mukes/article/details/115693833 2.TortoiseGit下載與安裝 TortoiseGit,Git客戶端,32/6 ...
  • 前言 在項目開發過程中,理解數據結構和演算法如同掌握蓋房子的秘訣。演算法不僅能幫助我們編寫高效、優質的代碼,還能解決項目中遇到的各種難題。 給大家推薦一個支持C#的開源免費、新手友好的數據結構與演算法入門教程:Hello演算法。 項目介紹 《Hello Algo》是一本開源免費、新手友好的數據結構與演算法入門 ...
  • 1.生成單個Proto.bat內容 @rem Copyright 2016, Google Inc. @rem All rights reserved. @rem @rem Redistribution and use in source and binary forms, with or with ...
  • 一:背景 1. 講故事 前段時間有位朋友找到我,說他的窗體程式在客戶這邊出現了卡死,讓我幫忙看下怎麼回事?dump也生成了,既然有dump了那就上 windbg 分析吧。 二:WinDbg 分析 1. 為什麼會卡死 窗體程式的卡死,入口門檻很低,後續往下分析就不一定了,不管怎麼說先用 !clrsta ...
  • 前言 人工智慧時代,人臉識別技術已成為安全驗證、身份識別和用戶交互的關鍵工具。 給大家推薦一款.NET 開源提供了強大的人臉識別 API,工具不僅易於集成,還具備高效處理能力。 本文將介紹一款如何利用這些API,為我們的項目添加智能識別的亮點。 項目介紹 GitHub 上擁有 1.2k 星標的 C# ...