構建高可靠hadoop集群之5-服務級別授權

来源:http://www.cnblogs.com/lzfhope/archive/2017/06/21/7058906.html
-Advertisement-
Play Games

本人翻譯自: http://hadoop.apache.org/docs/r2.8.0/hadoop-project-dist/hadoop-common/ServiceLevelAuth.html 譯註:相對於kerberos等等而言,這個顯得簡單得多,但作用也不小。在無法知道用戶密碼或者無法接近 ...


本人翻譯自: http://hadoop.apache.org/docs/r2.8.0/hadoop-project-dist/hadoop-common/ServiceLevelAuth.html

譯註:相對於kerberos等等而言,這個顯得簡單得多,但作用也不小。在無法知道用戶密碼或者無法接近主機的前提下,一個程式或者人是無法訪問特定服務的。

但在實際應用中,可能主要控制對客戶端的訪問。

 

1.目的

描述如何配置和管理服務級別授權

2.要求

要求hadoop已經正確安裝,並可用。

3.概覽

服務級別授權是最初的授權機制,用於確保客戶端是使用預配許可權連接到特定的hadoop服務。例如,一個MR集群可以有自己的機制,允許特定用戶/組可以連接,並提交作業。

$HADOOP_CONF_DIR/hadoop-policy.xml配置文件用於定義acl,以訪問各種hadoop服務。

服務級別授權比其它的操作更早執行,這些操作包括文件許可權檢查,job隊列存取控制等等。

4.配置

本章節描述如何配置hadoop-policy.xml來實現服務級別授權。

4.1啟用服務級別授權

預設這個功能是關閉的。設置 hadoop.security.authorization =true  (文件$HADOOP_CONF_DIR/core-site.xml)。

4.2 hadoop服務和配置屬性

表1

PropertyService/可以訪問的服務中文說明
security.client.protocol.acl ACL for ClientProtocol, which is used by user code via the DistributedFileSystem. 用於使用分散式文件系統的用戶代碼
security.client.datanode.protocol.acl ACL for ClientDatanodeProtocol, the client-to-datanode protocol for block recovery. 客戶端到數據節點的塊恢復協議
security.datanode.protocol.acl ACL for DatanodeProtocol, which is used by datanodes to communicate with the namenode. 數據節點和名稱節點通訊的數據節點協議
security.inter.datanode.protocol.acl ACL for InterDatanodeProtocol, the inter-datanode protocol for updating generation timestamp. 數據節點之間的,用於更新時間戳
security.namenode.protocol.acl ACL for NamenodeProtocol, the protocol used by the secondary namenode to communicate with the namenode. 第二節點和主節點的協議
security.job.client.protocol.acl ACL for JobSubmissionProtocol, used by job clients to communciate with the resourcemanager for job submission, querying job status etc. 作業客戶端和資源管理器之間
security.job.task.protocol.acl ACL for TaskUmbilicalProtocol, used by the map and reduce tasks to communicate with the parent nodemanager. mr任務和節點管理器之間
security.refresh.policy.protocol.acl ACL for RefreshAuthorizationPolicyProtocol, used by the dfsadmin and rmadmin commands to refresh the security policy in-effect. dfsadmin/rmadmin刷新安全策略
security.ha.service.protocol.acl ACL for HAService protocol used by HAAdmin to manage the active and stand-by states of namenode. HAADMIN用於管理名稱節點狀態

譯註:以上就是用戶可以訪問的hadoop服務列表,為這些服務列表設定acl就可以通過acl控制了。

4.3acl

$HADOOP_CONF_DIR/hadoop-policy.xml defines an access control list for each Hadoop service. Every access control list has a simple format:

The list of users and groups are both comma separated list of names. The two lists are separated by a space.

$HADOOP_CONF_DIR/hadoop-policy.xml定義了每個hadoop服務的acl(存取控制列表,譯註:這個不同於文件的acl)。

acl格式簡單:用戶,組之間使用逗號分隔,不同列表使用空格分開。

例如: user1,user2 group1,group2.

如果只是組,那麼在行前面插入一個空格。

*表示所有用戶都允許訪問服務。

如果沒有為某個服務定義acl,那麼會使用 security.service.authorization.default.acl的acl(如果這個也沒有設定,那麼系統使用*,表示沒有限制)

阻擋列表-黑名單

有的時候,需要阻止一些acl(相當於使用了黑名單)。阻擋列表格式同acl.設置方式,同樣是在$HADOOP_CONF_DIR/hadoop-policy.xml。只要把表1中property後加上.blocked就可以了。

例如security.client.protocol.acl的黑名單就是 security.client.protocol.acl.block

對於特定的服務,有可能同時設定acl和黑名單。如果用戶在acl,但不在黑名單,那麼是可以訪問服務的。換言之,黑名單優先。

如果服務沒有定義黑名單,那麼會使用security.service.authorization.default.acl.blocked的值,如果它的值沒有定義,那麼就是沒有(不阻擋).

4.4刷新服務級別授權配置

刷新名稱節點和資源管理器的服務級別授權配置,不需要重啟hadoop主服務。集群管理員可以主節點上的$HADOOP_CONF_DIR/hadoop-policy.xml,然後同時名稱節點和資源管理器重載對應的配置。它們的名稱分別如下:

名稱節點

$ bin/hdfs dfsadmin -refreshServiceAcl

資源管理器

$ bin/yarn rmadmin -refreshServiceAcl

 

當然,用戶可以使用$HADOOP_CONF_DIR/hadoop-policy.xml中的security.refresh.policy.protocol.acl限制只有特定的用戶/組可以執行這個刷新操作。

主機訪問名單

除了控制用戶的訪問,也可以控制特定的主機對hadoop服務的訪問。

屬性名稱的定義方式同黑名單,就是在acl屬性後面添加.hosts.例如security.client.protocol.acl對應的就是security.client.protocol.acl.hosts

如果沒有為服務定義主機列表,那麼預設使用security.service.authorization.default.hosts,如果該屬性沒有設定,就是*(所有主機可以訪問)。

主機訪問黑名單

定義,不可訪問的主機,定義方式同acl黑名單,就是在主機名單後面加.blocked

例如security.service.authorization.default.hosts對應的就是security.service.authorization.default.hosts.blocked

如果沒有定義,那麼就使用security.service.authorization.default.hosts.blocked,如果這個沒有隻,就不阻擋任意主機.

 

4.5例子

允許用戶alice,bob mapreduce(組)可以可以提交作業給mr集群。

<property>
     <name>security.job.client.protocol.acl</name>
     <value>alice,bob mapreduce</value>
</property> 

 

只有屬於datanodes組的用戶運行得datanode可以和名稱節點通訊。

<property>
     <name>security.datanode.protocol.acl</name>
     <value>datanodes</value>
</property>

允許任意用戶以DFS客戶端的方式和HDFS集群通訊。
<property>
     <name>security.client.protocol.acl</name>
     <value>*</value>
</property>


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • html css js 效果圖 實現原理 首先是用mousedown()滑鼠按下事件保存一個狀態值,mouseup()滑鼠抬起事件取消該狀態,再同時配合mousemove()滑鼠移動事件,實現按住拖動的效果。 在滑鼠移動的同時去改變精度條的長度和按鈕的相對左部的距離。 然後就是距離的計算,主要利用的 ...
  • module.exports,exports,export和export default,import與require區別與聯繫 ...
  • 列印 PMIC register value 方式有二種, 一種是使用 adb shell cat pmic register 一種是直接在 code 裡 call dump pmic register function, 一直在 log 中印出 pmic register. ...
  • import java.io.ByteArrayOutputStream; import java.io.File; import java.io.FileNotFoundException; import java.io.FileOutputStream; import java.io.IOExc... ...
  • 先給大家上個gif 要不然下麵很枯燥 忘記原來在哪裡看到了..... 這個效果我找了NNNNNN長時間,,,我認為憑我現在的能力 寫出來需要好久 所以 退而求其次找大神寫好的... 你們不要小看了這個 我整整找了三四天才找到這個一個符合的(就一個 我的蒼天) 廢話不多說直接上代碼 step 1 添加 ...
  • device tree source Example1 Example2 Example3 ...
  • 1、yum install redis --查看是否有redis yum 源 2、yum install epel-release --下載fedora的epel倉庫 3、 yum install redis -- 安裝redis資料庫 4、service redis start Redirecti ...
  • 最近突然發現我們部署在資料庫上面的告警(Alert),當錯誤日誌裡面出現錯誤時,並不是每個錯誤日誌都會發送郵件出來。如下所示,設置了告警“SQL Server Severity Event 14” USE [msdb] GO IF NOT EXISTS(SELECT 1 FROM msdb.dbo.... ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...