Go with Protobuf

来源:https://www.cnblogs.com/lianshuiwuyi/archive/2023/10/08/17748868.html
-Advertisement-
Play Games

原文在這裡。 本教程為 Go 程式員提供了使用Protocol buffer的基本介紹。 本教程使用proto3向 Go 程式員介紹如何使用 protobuf。通過創建一個簡單的示例應用程式,它向你展示瞭如何: 在.proto中定義消息格式 使用protocol buffer編譯器 使用Go pro ...


原文在這裡

本教程為 Go 程式員提供了使用Protocol buffer的基本介紹。

本教程使用proto3向 Go 程式員介紹如何使用 protobuf。通過創建一個簡單的示例應用程式,它向你展示瞭如何:

  • .proto中定義消息格式
  • 使用protocol buffer編譯器
  • 使用Go protocol buffer API讀寫消息

這並不是protocol buffer在Go中使用的完整指南。更多細節,詳見Protocol Buffer Language GuideGo API ReferenceGo Generated Code GuideEncoding Reference

為什麼使用Protocol Buffer

我們要使用的例子是一個非常簡單的“通訊錄”應用程式,它可以從文件中讀寫聯繫人的信息。通訊錄中每個人都有一個姓名、ID、郵箱和練習電話。

你如何序列化並取回這樣結構化的數據呢?下麵有幾條建議:

  • 原始記憶體中數據結構可以發送/保存為二進位。這是一種隨時間推移而變得脆弱的方法,因為接收/讀寫的代碼必須編譯成相同的記憶體佈局,endianness等。另外,文件已原始格式積累數據和在網路中到處傳輸副本,因此擴展這種格式十分困難。
  • 你可以編寫已臨時的方法來講數據元素編碼到單個字元串中 --- 例如用“12:3:-23:67”來編碼4個int。這是一種簡單而靈活的方法,儘管它確實需要編寫一次性的編碼和解析代碼,並且解析會增加少量的運行時成本。這對於編碼非常簡單的數據最有效。
  • 序列化為XML。這種方法非常有吸引力,因為XML(某種程度上)是人類可讀的,而且有許多語言的綁定庫。如果你希望與其他應用程式/項目共用數據,這可能是一個不錯的選擇。然而,XML是出了名的空間密集型,對它進行編碼/解碼會給應用程式帶來巨大的性能損失。而且,在XML DOM樹中導航要比在類中導航簡單欄位複雜得多。

Protocol buffers是解決這個問題的靈活、高效、自動化的解決方案。使用Protocol buffers,你編寫一個描述要存儲的數據結構的.proto文件。然後,Protocol buffer編譯器會創建一個類,該類實現了Protocol buffer數據的自動編碼和解析,使用高效的二進位格式。生成的類為構成Protocol buffer的欄位提供了獲取器和設置器,並處理了讀取和寫入Protocol buffer的細節。重要的是,Protocol buffer格式支持隨著時間的推移擴展格式的想法,以使代碼仍然能夠讀取使用舊格式編碼的數據。

從哪能找到示例代碼呢?

我們的示例是一組用Protocol buffer編碼的命令行應用程式,用於管理地址簿數據文件。命令add_person_go用於向數據文件添加新條目。命令list_people_go解析數據文件並將數據列印到控制台。

你可以從這裡下載。

定義Protocol文件

通訊錄程式從定義.proto文件開始。.proto文件中的定義很簡單:為要序列化的每個數據結構添加一個message,然後為消息中的每個欄位指定名稱和類型。在我們的示例中,定義消息的.proto文件是addressbook.proto

.proto文件以一個包聲明開頭,這有助於防止不同項目之間的命名衝突。

syntax = "proto3";
package tutorial;

import "google/protobuf/timestamp.proto";

go_package選項定義了包含此文件中所有生成代碼的包的導入路徑。 Go包名稱將是導入路徑的最後一個路徑組件。例如,我們的示例將使用“tutorialpb”作為包名稱。

option go_package = "github.com/protocolbuffers/protobuf/examples/go/tutorialpb";

接下來,需要定義message。消息只是一個包含一組類型化欄位的聚合。許多標準簡單數據類型都可用作欄位類型,包括boolint32floatdoublestring。你也可以通過使用其他消息類型作為欄位類型來為消息添加更多結構。

message Person {
  string name = 1;
  int32 id = 2;  // Unique ID number for this person.
  string email = 3;

  enum PhoneType {
    PHONE_TYPE_UNSPECIFIED = 0;
    PHONE_TYPE_MOBILE = 1;
    PHONE_TYPE_HOME = 2;
    PHONE_TYPE_WORK = 3;
  }

  message PhoneNumber {
    string number = 1;
    PhoneType type = 2;
  }

  repeated PhoneNumber phones = 4;

  google.protobuf.Timestamp last_updated = 5;
}

// Our address book file is just one of these.
message AddressBook {
  repeated Person people = 1;
}

在上面例子中,Person消息包含PhoneNumber消息,同時Person消息包含在AddressBook消息中。你甚至可以定義消息類型嵌套在其它消息中 --- 就像上面PhoneNumber定義在Person中。你也可以定義enum類型,如果你想讓你的欄位只是用預定義列表中的一個值 --- 這裡你想聲明的電話類型可以是MOBILEHOMEWORK其中之一。

“= 1”,“= 2”標記每個欄位在二進位編碼中的唯一的“tag”。序號1-15編碼的位元組數比較高的數字少一位,因此,作為一種優化,你可以決定對常用或重覆的元素使用這些標記,而對不常用的可選元素使用標記16或更高。重覆欄位中的每個元素都需要重新編碼標記號,因此重覆欄位是此優化的特別好的候選項。

如果未設置欄位值,則會使用預設值:對於數字類型,使用零;對於字元串,使用空字元串;對於布爾值,使用false。對於嵌套的消息,預設值始終是消息的“預設實例”或“原型”,該實例沒有任何欄位設置。調用訪問器以獲取未明確設置的欄位的值始終返回該欄位的預設值。

如果欄位是repeated的,那麼該欄位可以重覆任意次數(包括零次)。重覆值的順序將由protocol buffer處理。可以將重覆欄位視為動態大小的數組。

你可以在Protocol Buffer語言指南中找到撰寫.proto文件的完整指南,包括所有可能的欄位類型。但不要尋找類繼承類似的功能 - 因為protocol buffer不支持這一點。

編譯Protocol Buffers

現在你已經有.proto文件了,接下來你需要生成讀寫AddressBook(包括PersonPhoneNumber)消息的類。現在,你需要運行protocol buffer編譯器protoc

  • 如果你還沒安裝編譯器,可從這裡下載並根據README編譯安裝。
  • 使用如下命令按照Go protocol buffers插件:
    $ go install google.golang.org/protobuf/cmd/protoc-gen-go@latest
    
    protoc-gen-go編譯器插件將安裝在$GOBIN中,預設為$GOPATH/bin。protocol buffer編譯器protoc必須能夠在你的$PATH中找到它。
  • 現在運行編譯器,指明源目錄(應用程式源文件目錄,不指定的話預設使用當前目錄),目標路徑(你要存放生成的代碼的目錄,通常與$SRC_DIR一樣),.proto文件路徑。這樣,你可以:
    $ protoc -I=$SRC_DIR --go_out=$DST_DIR $SRC_DIR/addressbook.proto
    
    因為要生成Go代碼,所以使用--go_out選項。若要生成其它支持的語言,提供類似選項即可。
    生成的github.com/protocolbuffers/protobuf/examples/go/tutorialpb/addressbook.pb.go文件將保存在你指定的目錄下。

Protocol Buffer API

生成的addressbook.pb.go為你提供了下麵這些有用的類型:

  • 包含People欄位的AddressBook結構體
  • 包含NameIdEmailPhones欄位的People
  • 包含NumberType欄位的Person_PhoneNumber
  • 自定義枚舉類型的Person.PhoneType

你可以在Go 生成的代碼指南中詳細瞭解生成的代碼的細節,但在大多數情況下,你可以將這些代碼視為完全普通的 Go 類型。

以下是list_people命令的單元測試示例,演示瞭如何創建一個Person實例:

p := pb.Person{
    Id:    1234,
    Name:  "John Doe",
    Email: "[email protected]",
    Phones: []*pb.Person_PhoneNumber{
        {Number: "555-4321", Type: pb.Person_PHONE_TYPE_HOME},
    },
}

創建Message

使用protocol buffers的目的是將數據序列化,以便在其他地方進行解析。在 Go 中,你可以使用proto庫的Marshal函數來序列化你的protocol buffers數據。protocol buffers消息的結構體指針實現了proto.Message介面。調用proto.Marshal返回編碼後的protocol buffers數據。例如,我們在add_person命令中使用了這個函數:

book := &pb.AddressBook{}
// ...

// Write the new address book back to disk.
out, err := proto.Marshal(book)
if err != nil {
    log.Fatalln("Failed to encode address book:", err)
}
if err := ioutil.WriteFile(fname, out, 0644); err != nil {
    log.Fatalln("Failed to write address book:", err)
}

讀取Message

要解析已編碼的消息,可以使用proto庫的Unmarshal函數。調用此函數將數據解析為protocol buffers,並將結果放book中。因此,要在list_people命令中解析文件,我們使用以下代碼:

// Read the existing address book.
in, err := ioutil.ReadFile(fname)
if err != nil {
    log.Fatalln("Error reading file:", err)
}
book := &pb.AddressBook{}
if err := proto.Unmarshal(in, book); err != nil {
    log.Fatalln("Failed to parse address book:", err)
}

擴展

在發佈protocol buffer生成的代碼後不久,你肯定會想提升你的protocol buffer定義。如果你想新的buffer可以被後向相容,並且舊的buffer可以被前向相容,--- 你確實想這樣做 --- 那你需要遵守下麵的規則。在新版的protocol buffer中:

  • 必須不能改變已有欄位的序號。
  • 可以刪除repeated欄位。
  • 可以新增repeated欄位,但必須使用新的序號(序號在protocol buffer中沒被用過,也沒被刪除)。

還有一些其它的擴展要遵守,但很少會用到它們。

遵循這些規則,舊代碼將可以輕鬆地讀取新的消息,並且會忽略任何新欄位。對於舊代碼來說,已刪除的單欄位將只是它們的預設值,而已刪除的重覆欄位將為空。新代碼也可以透明地讀取舊消息。

但請記住,舊消息中不會包含新欄位,因此你需要合理地處理預設值。使用類型特定的預設值:對於字元串,預設值是空字元串。對於布爾值,預設值是false。對於數值類型,預設值是零。


孟斯特

聲明:本作品採用署名-非商業性使用-相同方式共用 4.0 國際 (CC BY-NC-SA 4.0)進行許可,使用時請註明出處。
Author: mengbin
blog: mengbin
Github: mengbin92
cnblogs: 戀水無意



您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 架構演進 大型網站的技術挑戰主要來自於龐大的用戶,高併發的訪問和海量的數據,任何簡單的業務一旦需要處理數以P計的數據和麵對數以億計的用戶,問題就會變得很棘手。大型網站架構主要就是解決這類問題。 架構選型是根據當前業務需要來的,在滿足業務需求的前提下,既要有足夠的擴展性也不能過度設計,每次的架構升級都 ...
  • 正文 doCreateBean() 主要用於完成 bean 的創建和初始化工作,我們可以將其分為四個過程: 最全面的Java面試網站 createBeanInstance() 實例化 bean populateBean() 屬性填充 迴圈依賴的處理 initializeBean() 初始化 bean ...
  • 在讀《深入理解JVM虛擬機》這本書前兩章的時候整理了JDK從1.0到最新版本發展史,其中記錄了JDK這麼多年來演進過程中的一些趣聞及引人註目的一些特性,在調研JDK19新增特性的時候瞭解到了虛擬線程這個概念,於是對虛擬線程進行學習整理內容如下。 ...
  • Hadoop集群搭建 前期準備及JDK,hadoop安裝 設置主機名和添加主機映射 驗證連通性 SSH無密碼登錄 配置集群/分散式環境 修改workers 修改文件core-site.xml 修改hdfs-site.xml 修改mapred-site.xml 修改yarn-site.xml 分發到其 ...
  • 本節將向讀者介紹如何使用鍵盤滑鼠操控模擬技術,鍵盤滑鼠操控模擬技術是一種非常實用的技術,可以自動化執行一些重覆性的任務,提高工作效率,在Windows系統下,通過使用各種鍵盤滑鼠控制函數實現動態捕捉和模擬特定功能的操作。鍵盤滑鼠的模擬是實現自動化的必備流程,通常我們可以使用`keybd_event(... ...
  • 來源:juejin.cn/post/6886019929519177735 使用fluent mybatis可以不用寫具體的xml文件,通過java api可以構造出比較複雜的業務sql語句,做到代碼邏輯和sql邏輯的合一。不再需要在Dao中組裝查詢或更新操作,在xml或mapper中再組裝參數。那 ...
  • 寫在前面 Python是一種流行的高級編程語言,具有簡單易學、代碼可讀性高、應用廣泛等優勢。它是一種解釋型語言,可以直接在終端或集成開發環境(IDE)中運行,而無需事先編譯。 Python的安裝 Python的安裝過程非常簡單。首先,你可以從Python的官方網站(https://www.pytho ...
  • 當你有幾個技術博客平臺時,如何一鍵分發到多個技術博客平臺? 如果你寫博客,你一定會遇到這樣一個問題,我在掘金寫了一篇文章,想要發到其他的平臺每次都有複製粘貼,還經常遇到格式不匹配、圖片複製不過去等各種問題。可真是頭大呀 接下來就給你介紹一個非常王炸的工具,只要把你寫的文章編輯一次,就可以導出分發。 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...