Kafka 部署指南-好久沒有更新博客了

来源:https://www.cnblogs.com/shangmo/archive/2018/08/10/9455012.html
-Advertisement-
Play Games

最近到了一家新公司,很多全新技術棧要理解。每天都在看各類 English Offcial Document,我的宗旨是我既然看懂了,就寫下來分享,這是第一篇。 基本需求: 1、已有 zookeeper 集群 2、kafka 搭建請務必準備三台伺服器 步驟: 1、下載所需要版本的 kafka http ...


最近到了一家新公司,很多全新技術棧要理解。每天都在看各類 English Offcial Document,我的宗旨是我既然看懂了,就寫下來分享,這是第一篇。

基本需求:

1、已有 zookeeper 集群 2、kafka 搭建請務必準備三台伺服器

步驟:

1、下載所需要版本的 kafka  https://www.apache.org/dyn/closer.cgi?path=/kafka/1.1.1/kafka_2.11-1.1.1.tgz http://ftp.kddilabs.jp/infosystems/apache/kafka/ 2、上傳伺服器解壓 tar xzvf kafka_2.11-1.1.0.tgz 3、修改配置文件

broker.id=1    # 必改項

num.network.threads=3    # 網路請求線程數

num.io.threads=8    # IO線程數

num.partitions=3    # 每個 topic 的分區數

log.dirs=/home/kafka/kafka-log    # kafka topic數據存放地址

log.retention.hours=72    # 數據保存小時數,預設是168

zookeeper.connect=192.168.1.1:2181,192.168.1.2:2181,192.168.1.3:2181

zookeeper.connection.timeout.ms=6000    # zookeeper 連接超時時間

 

4、啟動 kafka

kafka/bin/kafka-server-start.sh kafka/config/server.properties

 

部署完成後的工作:

# 創建主題

kafka/bin/kafka-topics.sh --create --zookeeper 192.168.1.162:2181 --replication-factor 1 --partitions 1 --topic opstest

# 生產者生產數據

kafka/bin/kafka-console-producer.sh --broker-list 192.168.1.163:9092 --topic opstest

# 消費者消費數據

kafka/bin/kafka-console-consumer.sh --zookeeper 192.168.1.173:2181 --topic opstest --from-beginning

 


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 1.基本概念 開窗函數分為兩個部分分別是 1.聚合,排名,偏移,分佈函數 。 2.開窗分區,排序,框架。 下麵舉個例子 sum(val) 就是集合函數 over() 就是開窗 PARTITION BY empid 就是開窗分區(分組) ORDER BY ordermonth 開窗排序 ROWS BE ...
  • 下載地址 : https://cdn.mysql.com//Downloads/MySQL-8.0/mysql-8.0.11-winx64.zip 解壓zip 解壓完之後的目錄 在裡面新建一個my.ini文件 文件內容如下 1、打開 win+r cmd 2、d: 回車 進入mysql所在的盤符 cd ...
  • /*SELECT COUNT(*) FROM DICT_ZGY_201808;--135430SELECT * FROM DICT_ZGY_201808_5;SELECT T.USERNAME,T.CREATED FROM DBA_USERS T WHERE T.ACCOUNT_STATUS='OP ...
  • 一. innodb_flush_log_at_trx_commit 這個參數名稱有個log,一看就是與日誌有關。是指:用來控制緩衝區(log buffer)中的數據寫入到日誌文件(log file),以及日誌文件數據刷新到磁碟(flush)的操作時機。對這個參數的設置值,可以對資料庫在性能與數據安全 ...
  • 本節剖析Oracle多表查詢中的相關內容。 本文所用到的表為oracle中scott用戶下的emp表,dept表,數據如下: 一、笛卡爾集: 概念:假設A,B是2個集合,A X B所形成的集合叫笛卡爾集。 實例1:A={a,b} B={c,d,e},那麼A X B={(a,c),(a,d),(a,e ...
  • declare @total int; declare @count int; set @count=0; SELECT @total=COUNT(1) FROM TB_JJ; create table #T ( rid int PRIMARY KEY, sys_guid NVARCHAR(40) ...
  • 傳統設計T(id,a,b,c,d,e,f,g,e,f.....),其中有一部分欄位是不經常變化的,有一部分是經常變化的. 拆表思路: T(id,a,b,c,d): 一些不怎麼變化又經常查詢的欄位 T1(id,e,f,g):一些不常用欄位 T2(id,name,value): id name valu ...
  • 1. mongodb資料庫的命令 查看當前的資料庫:db 查看所有的資料庫:show dbs /show databases 切換資料庫:use db_name 刪除當前的資料庫:db.dropDatabase() 2. mongodb集合的命令 不手動創建集合: 向不存在的集合中第⼀次加⼊數據時, ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...