hive介紹、安裝配置、表操作基礎知識適合小白學習

来源:https://www.cnblogs.com/wang9911-00/archive/2019/03/27/10610490.html
-Advertisement-
Play Games

1.hive概述 Apache Hive數據倉庫軟體有助於使用SQL讀取,編寫和管理駐留在分散式存儲中的大型數據集。可以將結構投影到已存儲的數據中。提供了命令行工具和JDBC驅動以將用戶連接到Hive。 2.hive優缺點 優點: (1)操作介面採用了sql,簡化開發,減少學習成本。 (2)避免手寫 ...


1.hive概述

  Apache Hive數據倉庫軟體有助於使用SQL讀取,編寫和管理駐留
在分散式存儲中的大型數據集。可以將結構投影到已存儲的數據中。
提供了命令行工具和JDBC驅動以將用戶連接到Hive。

2.hive優缺點

  優點:
  (1)操作介面採用了sql,簡化開發,減少學習成本。
  (2)避免手寫mapreduce程式
  (3)hive執行延遲較高,使用場景大多用在實時性要求不強的情景
  (4)優點在於處理大數據
  (5)支持自定義函數
  缺點:
  (1)hive的sql表達能力有限(HSQL)
  (2)hive效率低 hive調優比較難

3.hive架構

  提供了一系列的介面:hive shell、jdbc/odbc、webui

4.hive安裝
  (1)下載安裝包 官網地址: hive.apache.org
  (2)上傳安裝包到linux操作系統
    alt+p(此處使用的secureCRT)
  (3)解壓
    tar -zxvf .tar -C /opt/moudle/
  (4)修改配置文件
    conf下的 hive-env.sh.temple重命名為hive-env.sh
    修改內容:
    HADOOP_HOME=/opt/moudle/hadoop-2.8.4(修改成自己的hadoop安裝目錄)
    export HIVE_CONF_DIR=/opt/moudle/hive/conf(修改成自己的hive的conf目錄)
  (5)啟動hdfs和yarn集群
    start-dfs.sh
    start-yarn.sh
    註意:hive是一種操作數據的軟體,它本身不具備存儲功能,它的存儲依賴的是hdfs,因此啟動hive必須啟動hadoop。
  (6)在hdfs上創建文件夾
    hdfs dfs -mkdir /tmp
    hdfs dfs -mkdir -p /user/hive/warehouse/
  (7)啟動hive(切換到hive的安裝目錄下再輸入以下命令)
    bin/hive

5.hive測試
  1)查看資料庫
  show databases;
  2)使用資料庫
  use default;
  3)查看表
  show tables;
  4)創建表
  create table student(id int,name string);
  5)插入數據
  insert into  student values(1,"Lilei");
  6)查詢
  select * from student;
  7)刪除表
  drop table student;
  8)退出終端
  quit;

6.DDL數據定義

  1)創建資料庫
    1.1)查看資料庫
      show databases;
    1.2)創建資料庫
      create database  db_hive;
    1.3)創建資料庫標準寫法
      create database if not exists db_hive;
    1.4)創建資料庫指定所在hdfs路徑
      create database hive_db1 location '/hive_db';  

  2)修改資料庫

    2.1)查看資料庫結構
      desc database hive_db;
    2.2)添加描述信息
      alter database hive_db set dbproperties('dataname'='animal');
    2.3)查看拓展屬性
      desc database extended hive_db;

  3)查詢資料庫
    3.1)顯示資料庫
      show databases;
    3.2)篩選查詢的資料庫
      show database like 'db*';
  4)刪除資料庫
    4.1)刪除數據路
      drop database hive_db;
    4.2)刪除數據的標準寫法
      drop database if exists hive_db;

  5)創建表

    5.1)創建表

      create table student(id int,name string) row format delimited fields terminated by ’\t‘;
  6)管理表

    不擅長做數據共用,刪除hive中管理表,數據刪除。

    6.1)載入數據
      load data local inpath '/root/itstar.txt' into table student;
    6.2)查詢並保存到一張新的表
      create table if not exists student1 as select * from student where name = 'Lilei';
    6.3)查詢表結構
      desc formatted emp;

      查詢結果:

      Table Type:             MANAGED_TABLE

  7)外部表

    hive不認為這張表擁有這份數據,刪除該表,數據不刪除。擅長做數據共用。

    7.1)創建外部表
      >create external table if not exists emptable(empno int,ename string)
      > row format
      > delimited fields
      > terminated by '\t';

    7.2)導入數據
      load data local inpath '/root/emp.txt' into table emptable;
    7.3)查看表的結構
      desc formatted emptable;

     查詢結果:

      Table Type: EXTERNAL_TABLE
    7.4)刪除表
      drop table emptable;

    提示:再次創建相同的表 欄位相同 將自動關聯數據!

    如果對你有幫助,歡迎轉載!

    


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 測試 TCP 埠: telnel IP PORT nc -vz IP PORT 測試 UDP 埠: nc -vuz IP PORT 其中 -u 表示使用 udp 協議來進行測試。 -u, --udp Use UDP instead of default TCP 具體選項的功能,可以觀察man p ...
  • 博客為日常工作學習積累總結: 環境準備: 系統安裝完成後: 1.配置靜態IP 網卡文件:cat /etc/sysconfig/network-scripts/ifcfg-eth0 配置靜態IP代碼如下 重啟網卡: service network restart systemctl restart n ...
  • 硬體環境 ubuntu 16.04LTS + windows10 雙系統 NVIDIA TiTan XP 顯卡(12G) 軟體環境 搜狗輸入法 顯卡驅動:LINUX X64 (AMD64/EM64T) DISPLAY DRIVER (418.56) https://www.nvidia.cn/Dow ...
  • socket socket也稱套接字,網路編程的基礎。一般情況下我不喜歡直接去說socket的函數都是怎麼用的,那個很多人都寫出來了,而且肯定比我好的有的是。 但是今天想寫的是我的理解中,產生socket的原因,我覺得只有瞭解socket的本質、機理,才能更靈活的使用他的API。那樣就會知道為什麼要 ...
  • Linux指令 useradd + 添加用戶 + d 添加用戶路徑 + e 制定密碼有效時間 + G 指定用戶所屬組 passwd + 修改用戶密碼 su + 切換用戶 exit + 退出連接(ssh連接,screen) touch + 新建一個文件 mkdir + 新建一個文件夾 ls + 顯示當 ...
  • mysql 回顧 資料庫的設計必須滿足三範式 1NF: 強調列的原子性,列不可拆分 eg: 一張表(聯繫人) 有(姓名,性別,電話)三列,但是現實中電話又可分為家庭電話和公司電話,這種表結構設計就不符合第一範式了, 正確的應該是繼續拆分(姓名,性別,家庭電話,公司電話) 2NF: 首先滿足1NF,另 ...
  • Linux Mysql資料庫安全配置 目錄: 1.修改mysql管理員賬號root的密碼(2種方法) 2.修改mysql管理員賬號root 3.mysql管理員root賬號密碼遺忘解決辦法(2種方法) 4.創建資料庫用戶(3種方法) 5.mysql資料庫許可權管理 本地許可權 網路許可權 撤銷許可權 刪除用 ...
  • Redis Cluster採用虛擬槽分區,所有的key根據哈希函數映射到0~16383槽內,計算公式: slot = CRC16(key) & 16383 每個節點負責維護一部分槽以及槽所映射的鍵值對。 Redis虛擬槽分區的特點,解耦數據與節點之間的關係,簡化了節點擴容和收縮難度。但其存在如下限制 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...