hadoop大數據平臺安全基礎知識入門

来源:https://www.cnblogs.com/hdpdriver/archive/2019/08/05/11306177.html
-Advertisement-
Play Games

概述 以 Hortonworks Data Platform (HDP) 平臺為例 ,hadoop大數據平臺的安全機制包括以下兩個方面: 身份認證 即核實一個使用者的真實身份,一個使用者來使用大數據引擎平臺,這個使用者需要表明自己是誰,即提供自己的身份證明,大數據平臺需要檢驗這個證明,確定這個證明是 ...


概述

以 Hortonworks Data Platform (HDP) 平臺為例 ,hadoop大數據平臺的安全機制包括以下兩個方面:

  • 身份認證 即核實一個使用者的真實身份,一個使用者來使用大數據引擎平臺,這個使用者需要表明自己是誰,即提供自己的身份證明,大數據平臺需要檢驗這個證明,確定這個證明是有效的,且不是偽造的。否則,就拒絕這個使用者進入大數據引擎。
  • 授權管理 這個使用者的真實身份核實之後,需要對這個使用者的使用許可權進行界定,即這個使用者在大數據平臺中能夠使用什麼組件,能夠獲取哪些資源,能夠對資源進行哪些操作進行管理.

身份認證

大數據平臺一般使用基於 Kerberos 的身份認證機制

  • 概述
    簡單來說,大數據平臺中有一個專門的認證伺服器KDC,可以把它看作是戶籍派出所,可事先給所有的平臺使用者(人用戶以及機器和程式用戶)發放戶籍證明,即keytab(密鑰)。之後每個用戶要使用大數據平臺,就要拿著這個證明先去KDC認證,認證無誤之後,才能夠使用大數據平臺引擎。

  • 操作示例

首先要對整個平臺進行 kerberos 化,hdp ambari 提供了傻瓜式操作,另附文章介紹.

如上圖,kerberos化後,我們對 ambari 管理界面進行了二次開發.在這裡創建本地用戶的時候,已經同步向KDC伺服器註冊了該用戶的相關信息,同時生成了該用戶的keytab,點擊用戶,進入詳情頁可下載密鑰。之後該用戶來使用大數據平臺(無論是命令行還是API調用還是其他什麼方式),必須先攜帶keytab去KDC進行認證。這裡以命令行的方式舉例,例如某個用戶需要使用hadoop去讀取hdfs上面的文件。他需要先亮明自己的身份,即執行命令:

kinit -k -t keytab路徑 用戶名 這樣之後再去執行hdfs等命令的時候才能夠認證通過,而不會報錯:

Exception encountered while connecting to the server : javax.security.sasl.SaslException: GSS initiate failed [Caused by GSSException: No valid credentials provided (Mechanism level: Failed to find any Kerberos tgt)]

授權管理

大數據平臺使用基於apache ranger的授權管理。授權管理是應該是建立在身份認證之上的,試想以下,如果連身份都無法確認的話,那你的任何授權都是不可靠的(你確定你授權的這個用戶就是這個用戶嗎),你的授權管理其實是空中閣樓.

  • 概述
    ranger提供了基於資源的授權管理機制,所謂資源就是大數據平臺中的各組件(例如hdfs,hive,hbase等),以及組件內的具體資源(例如hdfs的某個路徑,hive,hbase中的某個表)。某個組件資源對應於ranger中的service(服務),在單個service中創建策略就可以對這個組件的具體資源進行用戶的許可權管理了.

  • 操作指南
    我們對 ambari 界面進行了二次開發,將 ranger 原生界面移植過來

如圖,以此為例, ranger 自動探測並生成平臺中各個組件服務,點擊進入服務詳情

增加或者編輯策略即可對具體資源進行授權管理了。如上圖,我們授予了testranger用戶對hbase所有表的所有列的所有操作許可權。如果編輯這個策略,刪除testranger這個用戶,那麼這個用戶在hbase做查詢等操作的時候就會出錯:

ERROR: org.apache.hadoop.hbase.security.AccessDeniedException: Insufficient permissions for user ‘[email protected]',action: scannerOpen, tableName:test, family:f1 

另外也可以新建新的策略來管理,策略提供了細粒度的許可權管理方式,詳細可參考 ranger 官網.


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 1、Shell命令行解釋器 1.1 Shell命令解釋器 Shell是一個特殊的應用程式,介於操作系統內核和用戶之間,負責接收用戶輸入的操作指令(命令)併進行解釋,將需要執行的操作傳遞給內核執行。 因此Shell程式在系統中充當了一個“命令解釋器”的角色。類似於windows系統的cmd.exe命令 ...
  • NETCAT netcat是Linux常用的網路工具之一,它能通過TCP和UDP在網路中讀寫數據,通過與其他工具結合和重定向,可以在腳本中以多種方式使用它。 netcat所做的就是在兩臺電腦之間建立鏈接並返回兩個數據流,我們可以建立一個伺服器,傳輸文件,與朋友聊天,傳輸流媒體或者用它作為其它協議的獨 ...
  • step1: 安裝虛擬環境: export WORKON_HOME=$HOME/.virtualenvs #指定virtualenvwrapper環境的目錄 export VIRTUALENVWRAPPER_PYTHON=/usr/bin/python3.6 #指定virtualenvwrapper ...
  • postfix 虛擬用戶 postfix + dovecot + openldap 製作虛擬郵件用戶 這裡使用的虛擬郵件用戶的方法是我自己研究的,可能會有不對或則不好的地方,望指出。由於之前已經寫過MariaDB作為資料庫的虛擬用戶,所以這裡會有很多地方會簡化配置和講解,如果沒有看懂可以看看這篇文章 ...
  • 一、查看登錄用戶信息 w [用戶名] 二、Who who 三、查詢當前登錄和過去登陸的用戶信息 last 四、查看所有用戶最後一次登錄時間 lastlog ...
  • Linux強制關掉其他ssh登錄的用戶 首先 用who命令查看登錄的iproot pts/0 162.16.16.155 14:30 0.00s 0.07s 0.05s wroot pts/1 162.16.16.155 14:30 12.00s 0.01s 0.01s -bash 然後who am ...
  • Ctrl+N 當前位置新視窗打開Ctrl+Enter 點擊的文件夾新視窗打開 ...
  • 前言 大概幾個月之前項目中用到事務,需要保證數據的強一致性,期間也用到了mysql的鎖,但當時對mysql的鎖機制只是管中窺豹,所以本文打算總結一下mysql的鎖機制。 本文主要論述關於mysql鎖機制,mysql版本為5.7,引擎為innodb,由於實際中關於innodb鎖相關的知識及加鎖方式很多 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...