防微杜漸,未雨綢繆,百度網盤(百度雲盤)介面API自動化備份上傳以及開源發佈,基於Golang1.18

来源:https://www.cnblogs.com/v3ucn/archive/2023/01/11/17043144.html
-Advertisement-
Play Games

奉行長期主義的開發者都有一個共識：對於伺服器來說，數據備份非常重要，因為伺服器上的數據通常是無價的，如果丟失了這些數據，可能會導致嚴重的後果，伴隨雲時代的發展，備份技術也讓千行百業看到了其“雲基因”的成長與進化，即基於雲存儲的雲備份。 本次我們使用Golang1.18完成百度網盤(百度雲盤)介面AP ...


奉行長期主義的開發者都有一個共識：對於伺服器來說，數據備份非常重要，因為伺服器上的數據通常是無價的，如果丟失了這些數據，可能會導致嚴重的後果，伴隨雲時代的發展，備份技術也讓千行百業看到了其“雲基因”的成長與進化，即基於雲存儲的雲備份。

本次我們使用Golang1.18完成百度網盤(百度雲盤)介面API自動化備份上傳功能，以及演示如何將該模塊進行開源發佈。

百度網盤API接入授權

如果希望golang服務可以訪問並且上傳用戶的百度網盤，則需要經過用戶同意，這個流程被稱為“授權”。百度網盤開放平臺基於 OAuth2.0 接入授權。OAuth2.0 是一種授權協議，通過該協議用戶可以授權開發者應用訪問個人網盤信息與文件。

用戶同意授權後，開發者應用會獲取到一個 Access Token，該 Access Token 是用戶同意授權的憑證。開發者應用需要依賴 Access Token 憑證調用百度網盤公開API，實現訪問用戶網盤信息與授權資源。

基本流程和三方登錄差不多，需要跳轉百度網盤授權頁進行授權動作，隨後授權碼(code)會發送到回調網址，再用授權碼換取Access Token。但不一樣的是，百度官網提供一種相對簡單的獲取code方式，即oob，所謂oob就是直接線上請求後在表單中複製授權碼即可，不需要回調網址的參與。

首先根據官網文檔：https://pan.baidu.com/union/doc/ol0rsap9s 創建應用，創建好之後，將應用id拼接位oob授權網址：

https://openapi.baidu.com/oauth/2.0/authorize?client_id=你的應用id&response_type=code&redirect_uri=oob&scope=basic+netdisk

線上訪問複製授權碼：

註意授權碼一次性有效並且會在10分鐘後過期，隨後編寫代碼獲取token:

package bdyp  
  
import (  
	"fmt"  
	"net/http"  
	"net/url"  
)  
  
type Bcloud struct {  
	app_key      string  
	app_secret   string  
	accessToken  string  
	refreshToken string  
	logger       Logger  
}  
  
type tokenResp struct {  
	*Token  
	ErrorDescription string `json:"error_description"`  
}  
  
type Token struct {  
	AccessToken  string `json:"access_token"`  
	RefreshToken string `json:"refresh_token"`  
	ExpiresIn    int    `json:"expires_in"`  
}  
  
func (r *Bcloud) GetToken(code, redirectURI, app_key, app_secret string) (*Token, error) {  
	uri := fmt.Sprintf("https://openapi.baidu.com/oauth/2.0/token?"+  
		"grant_type=authorization_code&"+  
		"code=%s&"+  
		"client_id=%s&"+  
		"client_secret=%s&"+  
		"redirect_uri=%s",  
		url.QueryEscape(code),  
		url.QueryEscape(app_key),  
		url.QueryEscape(app_secret),  
		redirectURI)  
	resp := new(tokenResp)  
  
	err := r.requestJSON(http.MethodGet, uri, nil, resp)  
	if err != nil {  
		return nil, err  
	} else if resp.ErrorDescription != "" {  
		return nil, fmt.Errorf(resp.ErrorDescription)  
	}  
  
	r.app_key = app_key  
	r.app_secret = app_secret  
	r.accessToken = resp.AccessToken  
	r.refreshToken = resp.RefreshToken  
  
	return resp.Token, nil  
}

這裡分別創建網盤結構體和秘鑰結構體，通過官方介面將oob方式獲取的code交換token，分別為accessToken和refreshToken，refreshToken用於刷新 Access Token, 有效期為10年。

這裡最好將token寫入文件或者存入資料庫，本文只討論授權和上傳邏輯，故不加入資料庫的相關操作。

至此，百度網盤的授權操作就完成了。

伺服器本地文件上傳至百度網盤

根據官網文檔描述：https://pan.baidu.com/union/doc/3ksg0s9ye，上傳流程是指，用戶將本地文件上傳到百度網盤雲端伺服器的過程。文件上傳分為三個階段：預上傳、分片上傳、創建文件。第二個階段分片上傳依賴第一個階段預上傳的結果，第三個階段創建文件依賴第一個階段預上傳和第二階段分片上傳的結果，串列完成這三個階段任務後，本地文件成功上傳到網盤伺服器。

說白了，有點像HTTP連接的三次握手，目的就是為了保證上傳數據的完整性，強制串列的原子操作也有利於保證上傳任務的可靠性。

首先構建預上傳函數：

func (r *Bcloud) FileUploadSessionStart(req *FileUploadSessionStartReq) (*FileUploadSessionStartResp, error) {  
	token, err := r.getAuthToken()  
	if err != nil {  
		return nil, err  
	}  
  
	req.Method = "precreate"  
	req.AccessToken = token  
  
	req_, err := req.to()  
	if err != nil {  
		return nil, err  
	}  
  
	resp := new(FileUploadSessionStartResp)  
  
	err = r.requestURLEncode(http.MethodPost, "https://pan.baidu.com/rest/2.0/xpan/file", req_, resp)  
	if err != nil {  
		return nil, err  
	} else if err := resp.Err(); err != nil {  
		return nil, err  
	}  
  
	if len(resp.BlockList) == 0 {  
		resp.BlockList = []int64{0}  
	}  
  
	return resp, nil  
}

這裡參數為預上傳參數的結構體：

type FileUploadSessionStartReq struct {  
	Method      string `query:"method"`  
	AccessToken string `query:"access_token"`  
	Path        string `json:"path"`  
	File        io.Reader  
	RType       *int64 `json:"rtype"`  
}

隨後是分片上傳邏輯：

func (r *Bcloud) FileUploadSessionAppend(req *FileUploadSessionAppendReq) error {  
	token, err := r.getAuthToken()  
	if err != nil {  
		return err  
	}  
  
	req.Method = "upload"  
	req.AccessToken = token  
	req.Type = "tmpfile"  
  
	resp := new(fileUploadSessionAppendResp)  
  
	err = r.requestForm(http.MethodPost, "https://d.pcs.baidu.com/rest/2.0/pcs/superfile2", req, resp)  
	if err != nil {  
		return err  
	} else if err := resp.Err(); err != nil {  
		return err  
	} else if resp.ErrorMsg != "" {  
		return fmt.Errorf(resp.ErrorMsg)  
	}  
  
	return nil  
}  
  
type FileUploadSessionAppendReq struct {  
	Method      string    `query:"method"` // 本介面固定為precreate  
	AccessToken string    `query:"access_token"`  
	Type        string    `query:"type"`     // 固定值 tmpfile  
	Path        string    `query:"path"`     // 需要與上一個階段預上傳precreate介面中的path保持一致  
	UploadID    string    `query:"uploadid"` // 上一個階段預上傳precreate介面下發的uploadid  
	PartSeq     int64     `query:"partseq"`  // 文件分片的位置序號，從0開始，參考上一個階段預上傳precreate介面返回的block_list  
	File        io.Reader `file:"file"`      // 是		RequestBody參數	上傳的文件內容  
}

對於總體積大於4mb的文件，通過切片的方式進行上傳。

總後是合併文件寫入文件邏輯：

func (r *Bcloud) FileUploadSessionFinish(req *FileUploadSessionFinishReq) error {  
	token, err := r.getAuthToken()  
	if err != nil {  
		return err  
	}  
  
	req.Method = "create"  
	req.AccessToken = token  
  
	req_, err := req.to()  
	if err != nil {  
		return err  
	}  
  
	resp := new(fileUploadSessionFinishResp)  
  
	err = r.requestURLEncode(http.MethodPost, "https://pan.baidu.com/rest/2.0/xpan/file", req_, resp)  
	if err != nil {  
		return err  
	} else if err := resp.Err(); err != nil {  
		return err  
	}  
  
	return nil  
}  
  
type FileUploadSessionFinishReq struct {  
	Method      string    `query:"method"`  
	AccessToken string    `query:"access_token"`  
	Path        string    `json:"path"`  
	File        io.Reader `json:"-"`  
	UploadID    string    `json:"uploadid"`  
	RType       *int64    `json:"rtype"`  
}

至此，完成了文件上傳的三個階段：預上傳、分片上傳、創建文件。

開源發佈Publish

我們知道在 Golang的項目中，可以 import 一個托管在遠程倉庫的模塊，這個模塊在我們使用 go get 的時候，會下載到本地。既然是放在遠程倉庫上，意味著所有人都可以發佈，並且所以人也都可以使用，所以為了讓鄉親們更方便地上傳數據到百度網盤，讓我們把這個項目開源。

先在你的 Github 上新建一個倉庫，記得選 Public(公開項目)，隨後將項目代碼推送到Github上面：

echo "# bdyp_upload_golang" >> README.md  
git init  
git add README.md  
git commit -m "first commit"  
git branch -M main  
git remote add origin https://github.com/zcxey2911/bdyp_upload_golang.git  
git push -u origin main

在項目根目錄使用go mod init 命令進行初始化，註意這裡的模塊名，填寫我們的git倉庫名稱，但是不要帶著.git：

go mod init github.com/zcxey2911/bdyp_upload_golang

再次推送項目模塊代碼：

git add -A  
git commit -m "Add a go mod file"
git push -u origin main

全部完成以後，刷新我們的倉庫，就可以看到我們的剛剛上傳的項目代碼了，點擊 release 發佈一個版本即可。

最後，通過go get命令安裝發佈之後的模塊：

go get github.com/zcxey2911/bdyp_upload_golang

完整的調用流程：

package main  
  
import (  
	"fmt"  
	bdyp "github.com/zcxey2911/bdyp_upload_golang"  
	"os"  
)  
  
func main() {  
  
	var bcloud = bdyp.Bcloud{}  
  
	// 獲取token  
	res, err := bcloud.GetToken("oob獲取的code", "oob", "應用appkey", "應用appsecret")  
  
	fmt.Println(res)  
  
	if err != nil {  
		fmt.Println("err", err)  
	} else {  
		fmt.Printf("介面的token是: %#v\n", res.AccessToken)  
	}  
	// 讀取文件  
	f, err := os.Open("/Users/liuyue/Downloads/ju1.webp")  
	if err != nil {  
		fmt.Println("err", err)  
		return  
	}  
	defer f.Close()  
  
	// 上傳文件  
	print(bcloud.Upload(&bdyp.FileUploadReq{  
		Name:  "/apps/雲盤備份/ju2.webp",  
		File:  f,  
		RType: nil,  
	}))  
  
}

查看上傳的數據：

簡單快速，一氣呵成。

結語

當然了百度雲盤備份也不是沒有缺陷，將數據存儲在雲端可能會存在安全性和隱私性問題，與此同時，數據量很大或者數據分佈在不同地點的情況下，恢複數據所需的時間會比較長。不差錢的同學也可以選擇磁碟快照服務，最後奉上項目地址，與君共勉：https://github.com/zcxey2911/bdyp_upload_golang


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • P2448 無盡的生命
    題目傳送門 題意簡述 看到題目顯而易見是求逆序對個數。 思路分析 看到數據範圍 $x_i,y_i \le 2^{31}-1$，$k \le 10^5$。數據值域大但是個數少，且與數據之間的大小關係有關，因此考慮離散化。 離散化簡單介紹 離散化實際就是一種映射，當數據值域過大而個數有限時，可以嘗試離散 ...
  • LeetCode刷題第八九十周
    Image模塊是PIL最基本的模塊，其中導出了Image類，一個Image類實例對象就對應了一副圖像。同時，Image模塊還提供了很多有用的函數。本文只是初步學習了一些用法與實際操作。 ...
  • 【深入淺出 Yarn 架構與實現】4-4 RM 管理 Application
    在 YARN 中，Application 是指應用程式，它可能啟動多個運行實例，每個運行實例由 —個 ApplicationMaster 與一組該 ApplicationMaster 啟動的任務組成，它擁有名稱、隊列、優先順序等屬性，是一個比較寬泛的概念，可以是一個 MepReduce 作業、一個 D... ...
  • 學習筆記——MyBatis自動映射與自定義映射；Mybatis延遲載入
    2023-01-10 一、MyBatis自動映射與自定義映射 1、自動映射： 在映射文件中使用的是“resultType”。指的是自動將資料庫中表的欄位與類中的屬性進行關聯映射。 2、自定義映射： （1）在映射文件中使用的是“resultMap”。一般是自動映射解決不了的問題，就使用自定義映射。 有 ...
  • 如何通過Java代碼在PDF中插入、替換或刪除圖像？
    圖文並茂的內容往往讓人看起來更加舒服，如果只是文字內容的累加，往往會使讀者產生視覺疲勞。搭配精美的文章配圖則會使文章內容更加豐富，增加文章可讀性的同時，也能提升用戶體驗。但由於PDF文檔安全性較高，不易對其進行修改編輯，那我們要如何在PDF中插入、替換或刪除圖像呢？別擔心，今天為大家介紹一種高效便捷... ...
  • SpringBoot+Mybatis-plus整合easyExcel批量導入Excel到資料庫+導出Excel
    一、前言 今天小編帶大家一起整合一下easyExcel，之所以用這個，是因為easyExcel性能比較好，不會報OOM！ 市面上常見的導入導出Excel分為三種： hutool easyExcel poi hutool和easyExcel都是對poi的封裝，使用起來更加方便！ 如果想使用poi和hu ...
  • 前後端分離架構：Web 實現前後端分離，前後端解耦
    一、前言”前後端分離“已經成為互聯網項目開發的業界標桿，通過Tomcat+Ngnix(也可以中間有個Node.js)，有效地進行解耦。並且前後端分離會為以後的大型分散式架構、彈性計算架構、微服務架構、多端化服務（多種客戶端，例如：瀏覽器，車載終端，安卓，IOS等等）打下堅實的基礎。前後端分離(解耦) ...
  • Shell 命令奇淫技巧，就是有點短
    1、在任意目錄之間快速移動 你發現自己要在兩個或更多目錄之間頻繁移動，一會切換到這裡，一會切換到那裡，來回跳轉。這些目錄之間隔得還挺遠，反覆輸入冗長的路徑讓人疲憊不堪。 使用內建命令 pushd 和 popd 來管理目錄棧，輕鬆地在目錄之間切換。下麵是一個簡單的示例： $ cd /tmp/tank ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發（一）：使用.NET MAUI開發第一個安卓APP
    移動開發（一）：使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說，近來想嘗試開發一款安卓APP，考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP，畢竟是使用Visual Studio開發工具，使用起來也比較的順手，結合微軟官方的教程進行了安卓 ...
  • wpf ToggleButton選中效果和一個登錄界面
    前言 QuestPDF 是一個開源 .NET 庫，用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫，它徹底改變了我們生成 PDF 文檔的方 ...
  • 彈幕樹洞項目功能新增篇
    項目地址 項目後端地址： https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址： ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址： http://tree ...
  • 第27篇 sqlserver2022詳細安裝步驟
    話不多說，直接開乾 一.下載 1.官方鏈接下載： https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe，運行開始下載SQL server； 二. ...
  • .NET 開源高性能 MQTT 類庫
    前言 隨著物聯網（IoT）技術的迅猛發展，MQTT（消息隊列遙測傳輸）協議憑藉其輕量級和高效性，已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫，為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog文檔翻譯系列（六） - 可用的接收器、增強器、格式化輸出
    Serilog支持多種接收器用於日誌存儲，增強器用於添加屬性，LogContext管理動態屬性，支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項，適用於不同需求。 ...
  • 警惕 Visual Studio 屬性求值副作用導致邏輯不符合預期
    目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據，爬取信息時需要模擬瀏覽器行為，否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下： 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • [使用目前最新版]HybridCLR6.9.0+YooAsset2.2.4實現純C# Unity熱更新方案 (一)
    1.前言 什麼是熱更新 游戲或者軟體更新時，無需重新下載客戶端進行安裝，而是在應用程式啟動的情況下，在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR，Xlua，ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles，Addressable， ...
  • 在 ASP.NET Core Web API 中使用操作篩選器統一處理通用操作
    本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺，其實像阿裡雲，騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後，它會送 ...
  • 第28篇 如何.net中實現高效可靠數據同步api
    通過以下方式可以高效，並保證數據同步的可靠性 1.API設計 使用RESTful設計，確保API端點明確，並使用適當的HTTP方法（如POST用於創建，PUT用於更新）。 設計清晰的請求和響應模型，以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證，確保接收到的數據符合預期格 ...
所有分類