hive介紹、安裝配置、表操作基礎知識適合小白學習

来源:https://www.cnblogs.com/wang9911-00/archive/2019/03/27/10610490.html
-Advertisement-
Play Games

1.hive概述 Apache Hive數據倉庫軟體有助於使用SQL讀取,編寫和管理駐留在分散式存儲中的大型數據集。可以將結構投影到已存儲的數據中。提供了命令行工具和JDBC驅動以將用戶連接到Hive。 2.hive優缺點 優點: (1)操作介面採用了sql,簡化開發,減少學習成本。 (2)避免手寫 ...


1.hive概述

  Apache Hive數據倉庫軟體有助於使用SQL讀取,編寫和管理駐留
在分散式存儲中的大型數據集。可以將結構投影到已存儲的數據中。
提供了命令行工具和JDBC驅動以將用戶連接到Hive。

2.hive優缺點

  優點:
  (1)操作介面採用了sql,簡化開發,減少學習成本。
  (2)避免手寫mapreduce程式
  (3)hive執行延遲較高,使用場景大多用在實時性要求不強的情景
  (4)優點在於處理大數據
  (5)支持自定義函數
  缺點:
  (1)hive的sql表達能力有限(HSQL)
  (2)hive效率低 hive調優比較難

3.hive架構

  提供了一系列的介面:hive shell、jdbc/odbc、webui

4.hive安裝
  (1)下載安裝包 官網地址: hive.apache.org
  (2)上傳安裝包到linux操作系統
    alt+p(此處使用的secureCRT)
  (3)解壓
    tar -zxvf .tar -C /opt/moudle/
  (4)修改配置文件
    conf下的 hive-env.sh.temple重命名為hive-env.sh
    修改內容:
    HADOOP_HOME=/opt/moudle/hadoop-2.8.4(修改成自己的hadoop安裝目錄)
    export HIVE_CONF_DIR=/opt/moudle/hive/conf(修改成自己的hive的conf目錄)
  (5)啟動hdfs和yarn集群
    start-dfs.sh
    start-yarn.sh
    註意:hive是一種操作數據的軟體,它本身不具備存儲功能,它的存儲依賴的是hdfs,因此啟動hive必須啟動hadoop。
  (6)在hdfs上創建文件夾
    hdfs dfs -mkdir /tmp
    hdfs dfs -mkdir -p /user/hive/warehouse/
  (7)啟動hive(切換到hive的安裝目錄下再輸入以下命令)
    bin/hive

5.hive測試
  1)查看資料庫
  show databases;
  2)使用資料庫
  use default;
  3)查看表
  show tables;
  4)創建表
  create table student(id int,name string);
  5)插入數據
  insert into  student values(1,"Lilei");
  6)查詢
  select * from student;
  7)刪除表
  drop table student;
  8)退出終端
  quit;

6.DDL數據定義

  1)創建資料庫
    1.1)查看資料庫
      show databases;
    1.2)創建資料庫
      create database  db_hive;
    1.3)創建資料庫標準寫法
      create database if not exists db_hive;
    1.4)創建資料庫指定所在hdfs路徑
      create database hive_db1 location '/hive_db';  

  2)修改資料庫

    2.1)查看資料庫結構
      desc database hive_db;
    2.2)添加描述信息
      alter database hive_db set dbproperties('dataname'='animal');
    2.3)查看拓展屬性
      desc database extended hive_db;

  3)查詢資料庫
    3.1)顯示資料庫
      show databases;
    3.2)篩選查詢的資料庫
      show database like 'db*';
  4)刪除資料庫
    4.1)刪除數據路
      drop database hive_db;
    4.2)刪除數據的標準寫法
      drop database if exists hive_db;

  5)創建表

    5.1)創建表

      create table student(id int,name string) row format delimited fields terminated by ’\t‘;
  6)管理表

    不擅長做數據共用,刪除hive中管理表,數據刪除。

    6.1)載入數據
      load data local inpath '/root/itstar.txt' into table student;
    6.2)查詢並保存到一張新的表
      create table if not exists student1 as select * from student where name = 'Lilei';
    6.3)查詢表結構
      desc formatted emp;

      查詢結果:

      Table Type:             MANAGED_TABLE

  7)外部表

    hive不認為這張表擁有這份數據,刪除該表,數據不刪除。擅長做數據共用。

    7.1)創建外部表
      >create external table if not exists emptable(empno int,ename string)
      > row format
      > delimited fields
      > terminated by '\t';

    7.2)導入數據
      load data local inpath '/root/emp.txt' into table emptable;
    7.3)查看表的結構
      desc formatted emptable;

     查詢結果:

      Table Type: EXTERNAL_TABLE
    7.4)刪除表
      drop table emptable;

    提示:再次創建相同的表 欄位相同 將自動關聯數據!

    如果對你有幫助,歡迎轉載!

    


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 測試 TCP 埠: telnel IP PORT nc -vz IP PORT 測試 UDP 埠: nc -vuz IP PORT 其中 -u 表示使用 udp 協議來進行測試。 -u, --udp Use UDP instead of default TCP 具體選項的功能,可以觀察man p ...
  • 博客為日常工作學習積累總結: 環境準備: 系統安裝完成後: 1.配置靜態IP 網卡文件:cat /etc/sysconfig/network-scripts/ifcfg-eth0 配置靜態IP代碼如下 重啟網卡: service network restart systemctl restart n ...
  • 硬體環境 ubuntu 16.04LTS + windows10 雙系統 NVIDIA TiTan XP 顯卡(12G) 軟體環境 搜狗輸入法 顯卡驅動:LINUX X64 (AMD64/EM64T) DISPLAY DRIVER (418.56) https://www.nvidia.cn/Dow ...
  • socket socket也稱套接字,網路編程的基礎。一般情況下我不喜歡直接去說socket的函數都是怎麼用的,那個很多人都寫出來了,而且肯定比我好的有的是。 但是今天想寫的是我的理解中,產生socket的原因,我覺得只有瞭解socket的本質、機理,才能更靈活的使用他的API。那樣就會知道為什麼要 ...
  • Linux指令 useradd + 添加用戶 + d 添加用戶路徑 + e 制定密碼有效時間 + G 指定用戶所屬組 passwd + 修改用戶密碼 su + 切換用戶 exit + 退出連接(ssh連接,screen) touch + 新建一個文件 mkdir + 新建一個文件夾 ls + 顯示當 ...
  • mysql 回顧 資料庫的設計必須滿足三範式 1NF: 強調列的原子性,列不可拆分 eg: 一張表(聯繫人) 有(姓名,性別,電話)三列,但是現實中電話又可分為家庭電話和公司電話,這種表結構設計就不符合第一範式了, 正確的應該是繼續拆分(姓名,性別,家庭電話,公司電話) 2NF: 首先滿足1NF,另 ...
  • Linux Mysql資料庫安全配置 目錄: 1.修改mysql管理員賬號root的密碼(2種方法) 2.修改mysql管理員賬號root 3.mysql管理員root賬號密碼遺忘解決辦法(2種方法) 4.創建資料庫用戶(3種方法) 5.mysql資料庫許可權管理 本地許可權 網路許可權 撤銷許可權 刪除用 ...
  • Redis Cluster採用虛擬槽分區,所有的key根據哈希函數映射到0~16383槽內,計算公式: slot = CRC16(key) & 16383 每個節點負責維護一部分槽以及槽所映射的鍵值對。 Redis虛擬槽分區的特點,解耦數據與節點之間的關係,簡化了節點擴容和收縮難度。但其存在如下限制 ...
一周排行
    -Advertisement-
    Play Games
  • 前言 本文介紹一款使用 C# 與 WPF 開發的音頻播放器,其界面簡潔大方,操作體驗流暢。該播放器支持多種音頻格式(如 MP4、WMA、OGG、FLAC 等),並具備標記、實時歌詞顯示等功能。 另外,還支持換膚及多語言(中英文)切換。核心音頻處理採用 FFmpeg 組件,獲得了廣泛認可,目前 Git ...
  • OAuth2.0授權驗證-gitee授權碼模式 本文主要介紹如何筆者自己是如何使用gitee提供的OAuth2.0協議完成授權驗證並登錄到自己的系統,完整模式如圖 1、創建應用 打開gitee個人中心->第三方應用->創建應用 創建應用後在我的應用界面,查看已創建應用的Client ID和Clien ...
  • 解決了這個問題:《winForm下,fastReport.net 從.net framework 升級到.net5遇到的錯誤“Operation is not supported on this platform.”》 本文內容轉載自:https://www.fcnsoft.com/Home/Sho ...
  • 國內文章 WPF 從裸 Win 32 的 WM_Pointer 消息獲取觸摸點繪製筆跡 https://www.cnblogs.com/lindexi/p/18390983 本文將告訴大家如何在 WPF 裡面,接收裸 Win 32 的 WM_Pointer 消息,從消息裡面獲取觸摸點信息,使用觸摸點 ...
  • 前言 給大家推薦一個專為新零售快消行業打造了一套高效的進銷存管理系統。 系統不僅具備強大的庫存管理功能,還集成了高性能的輕量級 POS 解決方案,確保頁面載入速度極快,提供良好的用戶體驗。 項目介紹 Dorisoy.POS 是一款基於 .NET 7 和 Angular 4 開發的新零售快消進銷存管理 ...
  • ABP CLI常用的代碼分享 一、確保環境配置正確 安裝.NET CLI: ABP CLI是基於.NET Core或.NET 5/6/7等更高版本構建的,因此首先需要在你的開發環境中安裝.NET CLI。這可以通過訪問Microsoft官網下載並安裝相應版本的.NET SDK來實現。 安裝ABP ...
  • 問題 問題是這樣的:第三方的webapi,需要先調用登陸介面獲取Cookie,訪問其它介面時攜帶Cookie信息。 但使用HttpClient類調用登陸介面,返回的Headers中沒有找到Cookie信息。 分析 首先,使用Postman測試該登陸介面,正常返回Cookie信息,說明是HttpCli ...
  • 國內文章 關於.NET在中國為什麼工資低的分析 https://www.cnblogs.com/thinkingmore/p/18406244 .NET在中國開發者的薪資偏低,主要因市場需求、技術棧選擇和企業文化等因素所致。歷史上,.NET曾因微軟的閉源策略發展受限,儘管後來推出了跨平臺的.NET ...
  • 在WPF開發應用中,動畫不僅可以引起用戶的註意與興趣,而且還使軟體更加便於使用。前面幾篇文章講解了畫筆(Brush),形狀(Shape),幾何圖形(Geometry),變換(Transform)等相關內容,今天繼續講解動畫相關內容和知識點,僅供學習分享使用,如有不足之處,還請指正。 ...
  • 什麼是委托? 委托可以說是把一個方法代入另一個方法執行,相當於指向函數的指針;事件就相當於保存委托的數組; 1.實例化委托的方式: 方式1:通過new創建實例: public delegate void ShowDelegate(); 或者 public delegate string ShowDe ...