ZooKeeper + Mesos/Kafka Clusters 配置和啟動方法步驟

来源:http://www.cnblogs.com/michaelying/archive/2017/06/17/7030852.html
-Advertisement-
Play Games

zookeeper 1) cp /vagrant/zookeeper-3.5.2-alpha.tar.gz ~2) cd zookeeper-3.5.2-alpha3) mkdir data4) mkdir datalog5) cd data6) touch myid7) echo 1 > myid ...


zookeeper

1) cp /vagrant/zookeeper-3.5.2-alpha.tar.gz ~
2) cd zookeeper-3.5.2-alpha
3) mkdir data
4) mkdir datalog
5) cd data
6) touch myid
7) echo 1 > myid
8) more myid
9) cd ..
10) cd conf
11) cp zoo_sample.cfg zoo.cfg
12) vi zoo.cfg
13) update as below

dataDir=/home/vagrant/zookeeper-3.4.8/data
dataLogDir=/home/vagrant/zookeeper-3.4.8/datalog
# the port at which the clients will connect
clientPort=2181

server.1=192.168.1.10:2888:3888
server.2=192.168.1.11:2888:3888
server.3=192.168.1.12:2888:3888

14) sudo vi /etc/hosts
192.168.1.10 Mesos01
192.168.1.11 Slave01
192.168.1.12 Slave02

15) bash bin/zkServer.sh start/status/stop

Mesos for zookeeper

# 切換到源碼目錄
$ cd build

# 啟動 mesos 主控端(請確保 目錄存在,且許可權合適)
$ sudo ./bin/mesos-master.sh --zk=zk://192.168.1.10:2181,192.168.1.11:2182,192.168.1.12:2183/mesos --quorum=1 --work_dir=/var/lib/mesos --hostname=Mesos01
$ sudo ./bin/mesos-master.sh --zk=zk://192.168.1.10:2181,192.168.1.11:2182,192.168.1.12:2183/mesos --quorum=1 --work_dir=/var/lib/mesos --hostname=Slave01
$ sudo ./bin/mesos-master.sh --zk=zk://192.168.1.10:2181,192.168.1.11:2182,192.168.1.12:2183/mesos --quorum=1 --work_dir=/var/lib/mesos --hostname=Slave02

# 啟動 被控
$ sudo ./bin/mesos-slave.sh --master=zk://192.168.1.10:2181,192.168.1.11:2182,192.168.1.12:2183/mesos --work_dir=/var/lib/mesos

# 訪問 mesos頁面
$ http://192.168.1.10:5050

# 運行 C++ 框架 (運行任務成功後會退出)
$ ./src/test-framework --master=zk://192.168.1.10:2181,192.168.1.11:2182,192.168.1.12:2183/mesos

# 運行Java 框架 (運行任務成功後會退出) 
$ ./src/examples/java/test-framework zk://192.168.1.10:2181,192.168.1.11:2182,192.168.1.12:2183/mesos

# 運行 Python 框架 (運行任務成功後會退出)
$ ./src/examples/python/test-framework zk://192.168.1.10:2181,192.168.1.11:2182,192.168.1.12:2183/mesos

 

Kafka for zookeeper

1) vi $KAFKA_HOME/config/server.properties

broker.id=0/1/2 
port=9092
host.name=Mesos01/Slave01/Slave02
advertised.host.name=Mesos01/Slave01/Slave02
... 
num.partitions=2 
... 
zookeeper.connect=192.168.1.10:2181,192.168.1.11:2182,192.168.1.12:2183


2) 啟動kafka服務, 在zk1,zk2,zk3上分別運行:
bin/kafka-server-start.sh config/server.properties

3) 新建一個TOPIC(replication-factor=num of brokers)
bin/kafka-topics.sh --create --topic test --replication-factor 3 --partitions 2 --zookeeper 192.168.1.10:2181
列出已有的topics:
$ bin/kafka-topics.sh --list --zookeeper 192.168.1.10:2181

4)假設我們在zk2上,開一個終端,發送消息至kafka(zk2模擬producer)
$ bin/kafka-console-producer.sh --broker-list 192.168.1.10:9092 --sync --topic test
在發送消息的終端輸入:Hello Kafka

5)假設我們在zk3上,開一個終端,顯示消息的消費(zk3模擬consumer)
$ bin/kafka-console-consumer.sh --zookeeper 192.168.1.10:2181 --topic test --from-beginning
在消費消息的終端顯示:Hello Kafka

 


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 之所以將抽象類和介面放在一起做筆記,是因為他們之間很難區分又各自獨立。在學習完Java程式設計的三大特點(封裝、繼承、多態)之後,我最大的收穫是,慢慢理解了Java語言這種面向對象程式設計的優越性,它既能保持自身獨立性又在不斷進化、發展的。如果說封裝和繼承是實現Java多態性的基礎,那我個人覺得抽象 ...
  • <?php // 暫不支持斷點續傳 // $url = 'http://www.mytest.com/debian.iso'; 不知道為何獲取本地文件大小為0 $url = 'http://192.168.8.93/download/vm-672/18/0.vmdk'; $file = basena... ...
  • 題目描述 野貓與胖子,合起來簡稱肥貓,是一個班的同學,他們也都是數學高手,所以經常在一起討論數學問題也就不足為奇了。一次,野貓遇到了一道有趣的幾何游戲題目,便拿給胖子看。游戲要求在一個有n個頂點凸多邊形上進行,這個凸多邊形的n-3條對角線將多邊形分成n-2個三角形,這n-3條對角線在多邊形的頂點相交 ...
  • 1. 把‘2016-06-16’格式轉換成‘20160616’ 2. 按日期 YYYY-MM-DD 格式 “2016-06-16 00:00:00” 查詢今日內容。需拼接今日起始時間。 3. php中查詢sql 把時間轉換成unix時間戳進行比較; ...
  • The Python Tutorial » 6. Modules 翻譯 ...
  • 首先,上圖展示的是項目的部署方式。用戶通過手機訪問上面的nignx,即應用nignx將請求分發到三台web伺服器中,伺服器將從redis緩存里獲取熱點數據,如過期或者非熱點數據則從資料庫中獲取並同步到redis.此過期時間設定為12小時。另外資料庫和redis未保存正文內容。當用戶讀取正文內容時,服 ...
  • 1.ArrayBlockingQueue:基於數組實現的一個阻塞隊列,在創建ArrayBlockingQueue對象時必須制定容量大小。 並且可以指定公平性與非公平性,預設情況下為非公平的,即不保證等待時間最長的隊列最優先能夠訪問隊列。 2.ArrayBlockingQueue內部通過Object[ ...
  • 版權聲明:本文為博主原創文章,轉載時請註明原文鏈接。 1.創建表 創建了一個兩個欄位的表,num和name,都設置為非空,num設為主鍵,在創建表的時候經常一個“缺失左括弧”的錯誤信息,估計是VARCHAR2類型後面沒有加數據長度,加上就好了。這是用sql語句創建表,感覺要比右鍵新建要麻煩,可能有的 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...