Node.js 應用全鏈路追蹤技術——全鏈路信息存儲

来源:https://www.cnblogs.com/vivotech/archive/2023/02/06/17080050.html
-Advertisement-
Play Games

本文主要介紹在Node.js應用中, 如何用全鏈路信息存儲技術把全鏈路追蹤數據存儲起來,併進行相應的展示,最終實現基於業界通用 OpenTracing 標準的 Zipkin 的 Node.js 方案。 ...


作者:vivo 互聯網前端團隊- Yang Kun

本文是上篇文章《Node.js 應用全鏈路追蹤技術——全鏈路信息獲取》的後續。閱讀完,再來看本文,效果會更佳哦。

本文主要介紹在Node.js應用中, 如何用全鏈路信息存儲技術把全鏈路追蹤數據存儲起來,併進行相應的展示,最終實現基於業界通用 OpenTracing 標準的 Zipkin 的 Node.js 方案。

一、背景

目前業界主流的做法是使用分散式鏈路跟蹤系統,其理論基礎是來自 Google 的一篇論文 《大規模分散式系統的跟蹤系統》。

 

論文如下圖所示:

圖片

(圖片來源:網路)

 在此理論基礎上,誕生了很多優秀的實現,如 zipkin、jaeger 。同時為了保證 API 相容,他們都遵循 OpenTracing 標準。那 OpenTracing 標準是什麼呢?

OpenTracing 翻譯為開發分散式追蹤,是一個輕量級的標準化層,它位於應用程式/類庫和鏈路跟蹤系統之間的一層。 這一層可以用下圖表示:

圖片

 從上圖可以知道, OpenTracing 具有以下優勢:

  • 統一了 API ,使開發人員能夠方便的添加追蹤系統的實現。

  • OpenTracing 已進入 CNCF ,正在為全球的分散式鏈路跟蹤系統,提供統一的模型和數據標準。

大白話解釋下:它就像手機的介面標準,當今手機基本都是 typeC 介面,這樣方便各種手機能力的共用。因此,做全鏈路信息存儲,需要按照業界公認的 OpenTracing 標準去實現。

本篇文章將通過已有的優秀實現 —— zipkin ,來給大家闡述 Node.js 應用如何對接分散式鏈路跟蹤系統。

二、zipkin

2.1 zipkin 是什麼?

zipkin 是 Twitter 基於 Google 的分散式追蹤系統論文的開發實現,其遵循 OpenTracing 標準。

zipkin 用於跟蹤分散式服務之間的應用數據鏈路。

2.2 zipkin 架構

官方文檔上的架構如下圖所示:

圖片

為了更好的理解,我這邊對架構圖進行了簡化,簡化架構圖如下所示:

圖片

從上圖可以看到,分為三個部分

第一部分:全鏈路信息獲取,我們不使用 zipkin 自帶的全鏈路信息獲取,我們使用 zone-context 去獲取全鏈路信息

第二部分:傳輸層, 使用 zipkin 提供的傳輸 api ,將全鏈路信息傳遞給 zipkin

第三部分: zipkin 核心功能,各個模塊介紹如下:

  • collector 就是信息收集器,作為一個守護進程,它會時刻等待客戶端傳遞過來的追蹤數據,對這些數據進行驗證、存儲以及創建查詢需要的索引。

  • storage 是存儲組件。zipkin 預設直接將數據存在記憶體中,此外支持使用 ElasticSearch 和 MySQL 。

  • search 是一個查詢進程,它提供了簡單的 JSON API 來供外部調用查詢。

  • web UI 是 zipkin 的服務端展示平臺,主要調用 search 提供的介面,用圖表將鏈路信息清晰地展示給開發人員。

至此, zipkin 的整體架構就介紹完了,下麵我們來進行 zipkin 的環境搭建。

2.3 zipkin 環境搭建

採用 docker 搭建, 這裡我們使用 docker 中的 docker-compose 來快速搭建 zipkin 環境。

docker-compose.yml 文件內容如下:

version: '3.8'
services:
  elasticsearch:
    image: docker.elastic.co/elasticsearch/elasticsearch:7.5.0
    container_name: elasticsearch
    restart: always
    ports:
      - 9200:9200
    healthcheck:
      test: ["CMD-SHELL", "curl --silent --fail localhost:9200/_cluster/health || exit 1"]
      interval: 30s
      timeout: 10s
      retries: 3
      start_period: 40s
    environment:
      - discovery.type=single-node
      - bootstrap.memory_lock=true
      - "ES_JAVA_OPTS=-Xms512m -Xmx512m"
      - TZ=Asia/Shanghai
    ulimits:
      memlock:
        soft: -1
        hard: -1
  zipkin:
    image: openzipkin/zipkin:2.21
    container_name: zipkin
    depends_on:
      - elasticsearch
    links:
      - elasticsearch
    restart: always
    ports:
      - 9411:9411
    environment:
      - TZ=Asia/Shanghai
      - STORAGE_TYPE=elasticsearch
      - ES_HOSTS=elasticsearch:9200

 在上面文件所在的目錄下執行 docker-compose up -d 即可完成本地搭建。

搭建完成後,在瀏覽器中打開地址 http://localhost:9411 ,會看到如下圖所示頁面:

圖片

接著打開地址 http://localhost:9200 ,會看到如下圖所示頁面:

圖片

至此, zipkin 的本地環境就搭建好啦。 下麵我就將介紹 Node.js 應用如何對接 zipkin。

三、Node.js 接入 zipkin

3.1 搞定全鏈路信息獲取

這個我在 《Node.js 應用全鏈路追蹤技術——全鏈路信息獲取》 文章中,已經詳細闡述了,如何去獲取全鏈路信息。

3.2 搞定傳輸層

因為 zipkin 是基於 OpenTracing 標準實現的。因此我們只要搞定了 zipkin 的傳輸層,也就搞定了其他主流分散式追蹤系統。

這裡我們用到了 zipkin 官方提供的兩個 npm 包,分別是:

  • zipkin

  • zipkin-transport-http

zipkin 包是官方對支持 Node.js 的核心包。 zipkin-transport-http 包的作用是將數據通過 HTTP 非同步發送到 zipkin 。

下麵我們將詳細介紹在傳輸層,如何將將數據發送到 zipkin 。

3.3 傳輸層基礎封裝

核心代碼實現和相關註釋如下:

const {
  BatchRecorder,
  Tracer,
  // ExplicitContext,
  jsonEncoder: { JSON_V1, JSON_V2 },
} = require('zipkin')
const { HttpLogger } = require('zipkin-transport-http')
 
// const ctxImpl = new ExplicitContext();
 
// 配置對象
const options = {
  serviceName: 'zipkin-node-service',
  targetServer: '127.0.0.1:9411',
  targetApi: '/api/v2/spans',
  jsonEncoder: 'v2'
}
 
// http 方式傳輸
async function recorder ({ targetServer, targetApi, jsonEncoder }) => new BatchRecorder({
  logger: new HttpLogger({
    endpoint: `${targetServer}${targetApi}`,
    jsonEncoder: (jsonEncoder === 'v2' || jsonEncoder === 'V2') ? JSON_V2 : JSON_V1,
  })
})
 
// 基礎記錄
const baseRecorder = await recorder({
  targetServer: options.targetServer
  targetApi: options.targetApi
  jsonEncoder: options.jsonEncoder
})

至此,傳輸層的基礎封裝就完成了,我們抽離了 baseRecorder 出來,下麵將會把全鏈路信息接入到傳輸層中。

3.4 接入全鏈路信息

這裡說下官方提供的接入 SDK ,代碼如下:

const { Tracer } = require('zipkin')
const ctxImpl = new ExplicitContext()
const tracer = new Tracer({ ctxImpl, recorder: baseRecorder })
// 還要處理請求頭、手動層層傳遞等事情

上面的方式缺點比較明顯,需要額外去傳遞一些東西,這裡我們使用上篇文章提到的 Zone-Context , 代碼如下:

const zoneContextImpl = new ZoneContext()
const tracer = new Tracer({ zoneContextImpl, recorder: baseRecorder })
// 僅此而已,不再做額外處理

對比兩者,明顯發現, Zone-Context 的實現方式更加的隱式,對代碼入侵更小。這也是單獨花一篇文章介紹 Zone-Context 技術原理的價值體現。

自此,我們完成了傳輸層的適配, Node.js 應用接入 zipkin 的核心步驟基本完成。

3.5 搞定 zipkin 收集、存儲、展示

這部分中的收集、展示功能, zipkin 官方自帶完整實現,無需進行二次開發。存儲這塊,提供了 MySQL 、 Elasticsearch 等接入方式。可以根據實際情況去做相應的接入。本文采用 docker-compose 集成了 ElasticSearch 。

四、總結

自此,我們已經完成基於業界通用 OpenTracing 標準實現的 zipkin 的 Node.js 方案。希望大家看完這兩篇文章,對 Node.js 全鏈路追蹤,有一個整體而清晰的認識。

 

參考資料:

  1. zipkin 官網

分享 vivo 互聯網技術乾貨與沙龍活動,推薦最新行業動態與熱門會議。
您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 近年來,AR版塊成為時下大熱,這是一種將現實環境中不存在的虛擬物體融合到真實環境里的技術,用戶藉助顯示設備可以擁有真實的感官體驗。AR的應用場景十分廣泛,涉及娛樂、社交、廣告、購物、教育等領域:AR可以讓游戲更具互動性;商品通過AR展示更真實;使用AR進行教育教學讓抽象事物更形象等,可以說AR技術已 ...
  • 一、瞭解UniApp 插件的開發方式 Xcode Framework 、 Static Library 基於Cocoapods開發 pod lib 已知UniApp的插件開發方式有兩種, 第一種 Xcode Framework的方式,這種方式是官方指定的方式。 這種方式的優點就是簡單直接, 但也有不 ...
  • 使用語法結構創建的對象 function fn(){ var name="RoastDuck"; } 使用構造器創建的對象 function Duck() { this.name = []; this.age = []; } var RoastDuck = new Duck(); 使用 Object ...
  • When it comes to inheritance, JavaScript only has one construct: objects. Each object has a private property which holds a link to another object call ...
  • 這裡給大家分享我在網上總結出來的一些知識,希望對大家有所幫助 什麼是 Lunchbox.js Lunchbox.js 是 Three.js 的 Vue 3 自定義渲染器。 你可以把它想象成 Vue 的 react-three-fiber。 該庫通過組件提供對原始 Three.js 對象和類的訪問,例 ...
  • Web 伺服器是一種用於存儲,處理和傳輸Web內容的軟體。它是一種特殊類型的伺服器,具有處理 HTTP 請求並向瀏覽器返回 Web 頁面和其他內容的能力。Web伺服器支持多種編程語言,如 PHP,JavaScript,Ruby,Python 等,並且支持動態生成 Web 頁面。常見的 Web 伺服器 ...
  • 在做selenium web自動化的時候,有時通過selenium定位不到,或無法操作元素,這個時候就需要通過js來 定位/操作元素,然後通過selenium自帶的execute_script()方法去執行js語句。下麵介紹幾種js的定位方法。 一.ID id的值都是唯一的,所以當存在id欄位時可優 ...
  • Delete ␍eslint(prettier/prettier)錯誤 今天在用HBuilder開發uniapp項目時,想換成vscode進行開發,但是用vscode打開之前的項目,eslint報錯一片紅 解決方案: 方案一:一個一個文件的選擇,具體操作如下,手動把CRLF換成LF。缺點:文件太多, ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...