1.Minio及背景 Minio是一個開源的分散式文件存儲系統，它基於 Golang 編寫,雖然輕量，卻擁有著不錯的高性能，可以將圖片、視頻、音樂、pdf這些文件存儲到多個主機，可以存儲到多個Linux，或者多個Windows，或者多個Mac，Minio中存儲最大文件可以達到5TB。任何類型的文件都 ...
1.Minio及背景
Minio是一個開源的分散式文件存儲系統，它基於 Golang 編寫,雖然輕量，卻擁有著不錯的高性能，可以將圖片、視頻、音樂、pdf這些文件存儲到多個主機，可以存儲到多個Linux，或者多個Windows，或者多個Mac，Minio中存儲最大文件可以達到5TB。任何類型的文件都是支持的，主要應用在微服務系統中。
1.使用Minio的背景
我們先回顧下，平時我們做文件存儲是普遍如何操作的，簡單描述下步驟和時序，例如我們在添加用戶信息&上傳照片這個業務中，首先客戶端發起文件上傳操作到API，服務將文件存儲到伺服器本地文件夾中，生成返回一個文件摘要，摘要包括路徑，文件ID等一些基本信息，然後將這些摘要信息和用戶業務數據組裝程一個DTO,最終存儲到資料庫中。
此時我們只是一個單系統的上傳文件操作，無論是業務邏輯還是技術都比較簡單，但是如果是一些分散式高併發和高訪問量的電商網站面臨此類業務應該怎麼做呢？一般電商類都是幾十上百個微服務組成，如果按照單體系統的思路去實現，如果有100個微服務,那就存儲在100個地方，後期的維護量豈不是令人非常頭疼，加上事情做多錯多，為了降低維護量，提升訪問效率，我們需要將文件統一存儲，基於MinIO高性能和可用性,我們選擇使用MinIO來作為我們的文件管理中間件，用它承載系統文件上傳下載。
2.MinIO實踐
我們先上手簡單操作一下MinIO，先準備環境，然後使用minio來進行文件的上傳下載 ，首先我們需要下載MinIO，然後創建一個Api服務項目作為我們的文件微服務 。
1.Windows瀏覽器線上下載MinIO和mc客戶端，官方文檔地址
2.Linux直接創建對應目錄輸入下載命令或者下到本地拷貝進去，也可以使用Docker
wget https://dl.min.io/server/minio/release/linux-amd64/minio
chmod +x minio
./minio server ./data
3.準備一個Api服務作為文件微服務 說白了就是使創建一個控制器，訪問這個控制器進行文件操作,然後Nuget引入操作的Minio包
4.創建一個FileUploadControll控制器來作為我們的介面，此處只演示簡單的上傳下載，當然它還支持分片和批量以及拷貝操作，具體的可以根據需要查看對應的api，也比較簡單
[ApiController]
[Route("[controller]")]
public class FileUploadController : ControllerBase
{
private readonly ILogger<FileUploadController> _logger;
public FileUploadController(ILogger<FileUploadController> logger)
{
_logger = logger;
}
[HttpPost("Upload")]
public IActionResult Upload(IFormFile formFile)
{
//1.創建MinioClient客戶端
MinioClient minioClient = new MinioClient("127.0.0.1:9000", "minioadmin", "minioadmin");
//2.創建文件桶(資料庫)
if (!minioClient.BucketExistsAsync("micservice").Result)
{
minioClient.MakeBucketAsync("micservice").Wait();
}
//3.上傳文件(最大上傳5TB的數據)
minioClient.PutObjectAsync("product", formFile.FileName, formFile.OpenReadStream(), formFile.Length).Wait();
_logger.LogInformation($"文件:{formFile.FileName}上傳到MinIO成功");
return new JsonResult("上傳文件成功");
}
[HttpGet("Download")]
public IActionResult Download(string fileName)
{
FileStreamResult fileStreamResult = null;
try
{
// 1、創建MioIO客戶端
MinioClient minioClient = new MinioClient("127.0.0.1:9000", "minioadmin", "minioadmin");
var imgStream = new MemoryStream();
// 2、下載圖片
minioClient.GetObjectAsync("product", fileName, stream => stream.CopyTo(imgStream)).Wait();
imgStream.Position = 0;
fileStreamResult = new FileStreamResult(imgStream, "image/jpg");
}
catch (MinioException e)
{
_logger.LogInformation($"文件:{fileName}下載失敗");
}
return fileStreamResult;
}
}
3.現在需要啟動我們的Minio服務,進入到我們的下載目錄Linux一樣，然後啟動命令行工具
minin.exe server ./data
我們啟動後控制台會輸出如下信息，首先第一部分中是我們和Minio,進程通信的服務地址和用戶名密碼
API: http://192.168.0.102:9000 http://127.0.0.1:9000
RootUser: minioadmin
RootPass: minioadmin
第二部分就是minio提供給我們查看和運維的可視化界面,包含地址和用戶名密碼，密碼賬號是支持修改的
Console: http://192.168.0.102:52429 http://127.0.0.1:52429
RootUser: minioadmin
RootPass: minioadmin
3.MinIO文件高可用
在MinIO中目前我們上傳的文件存儲在伺服器的磁碟中，我們在啟動時預設創建了一個目錄來存儲文件bucket(文件桶，理解為存儲文件的容器)，這時如果刪除了目錄中的文件，可想而知會發生什麼，所以保證文件高可用首要需求就是防止誤刪引發的數據丟失，直接導致用戶使用文件失效。
1.常用的部署架構
在進行MInio文件高可用應對策略學習之前，我們先瞭解下保證系統和存儲高可用層面的一些部署方式。
單機部署（stand-alone）：只有一個服務實例提供服務，服務只部署一份。
集群部署（cluster）：有多個服務實例同時提供服務，服務冗餘部署，每個冗餘的服務都對外提供服務 。
熱備部署（hot-swap）：只有一個服務提供服務，另一個服務stand-by，在服務掛掉時自動熱替換。
服務冗餘部署：只有一個主服務對外提供服務，影子服務在主服務掛掉時頂上
磁碟陣列RAID（Redundant Arrays of independent Disks）
RAID0：存儲性能高的磁碟陣列，又稱striping，它的原理是，將連續的數據分散到不同的磁碟上存儲，這些不同的磁碟能同時並行存取數據
RAID1：安全性高的磁碟陣列，又稱mirror，它的原理是，將數據完全複製到另一個磁碟上，磁碟空間利用率只有50%
RAID0+1：RAID0和RAID1的綜合方案，速度快，安全性又高，但是很貴，這也是國企用的比較多的存儲方案
RAID5：RAID0和RAID1的折衷方案，讀取速度比較快（不如RAID0，因為多存儲了校驗位），安全性也很高（可以利用校驗位恢複數據），空間利用率也不錯（不完全複製，只冗餘校驗位），這也是互聯網公司用的比較多的存儲方案
2.多副本
通常面對這種防止誤刪的問題，我們使用的策略就是使用冗餘多個目錄來存儲多個副本文件，多副本技術比較簡單直接，要冗餘保護關鍵數據，就乾脆多存幾份，單個數據的損壞不要緊，還有備份可以使用。同理多個目錄不行，加入多個主機來存儲，這種做法在很多場景下適用。
但這種方法的優缺點也比較明顯，優點是寫入效率高，無需多餘的計算，直接存多份即可，數據恢復快，從副本複製就好了。缺點就是存儲效率低、占用空間以前需要的磁碟容量直接 X2 或者 X3 倍了，對於Minio來說，文件最大可以支持5TB，那如果按照這種做法對磁碟的消耗是巨大的，就成本方面而言是不可行的，所以MinIO實現了另外一種保證文件高可用的機制，核心思想和集群方式差不多，但是對文件存儲的方式跟簡副本拷貝不同，Minio使用了糾刪碼的策略來保證我們的文件高可用。
但這種方法的優缺點也比較明顯，優點是寫入效率高，無需多餘的計算，直接存多份即可，數據恢復快，從副本複製就好了。缺點就是存儲效率低、占用空間以前需要的磁碟容量直接 X2 或者 X3 倍了，對於Minio來說，文件最大可以支持4個G，那如果按照這種做法對磁碟的消耗是巨大的，就成本方面而言是不可行的，所以Minio實現了另外一種保證文件高可用的機制，核心思想和集群方式差不多，但是對文件存儲的方式跟簡副本拷貝不同，Minio使用了糾刪碼的策略來保證我們的文件高可用。
3.糾刪碼
在這裡我們需要搞清楚的問題有好幾個，先列出來吧，當然只是簡單的介紹，具體深入還是需要自己去瞭解一下。
1.什麼是RAID?
RAID中文簡稱為獨立磁碟冗餘磁碟陣列。簡單的說，RAID是一種把多塊獨立的物理硬碟）按不同的方式組合起來形成一個硬碟組（邏輯硬碟），從而提供比單個硬碟更高的存儲性能和提供
數據備份技術。
2.什麼是糾刪碼?
一種數據冗餘保護技術，RAID的延伸,糾刪碼不僅具備識別錯碼和糾正錯碼的功能，而且當錯碼超過糾正範圍時可把無法糾錯的信息刪除。
我們使用一個簡單的例子來理解糾刪碼，首先從冗餘思想來著手，假設我們在存儲一份大小為2M的文件時，按照4份副本冗餘的做法，占用的空間就是 2Mx4的空間,先將文件分片為2份,我們取名為Sharding1、Sharding2，然後再做冗餘 就是4份數據，如果我們刪除A1和A2那麼A3和A4可以繼續組合成一個完整的文件，同理刪除A3和A4它依然可以組合成完整文件。
這時我們思考，如果我們同時刪除分片1的數據A1和A3，剩下A2和A4中都是分片2的數據，不就組合不成了嗎？
此時如果使用糾刪碼的做法就是，A1和A2分片數據還是保持不變，A3=分片1+分片2，A4 = 分片1+ 2*分片2,這樣任意兩份數據丟失，都可以恢復出分片1 和 分片2的數據了
1.使用傳統副本冗餘至少2個數據目錄,如果分片後就需要最少4份數據。
2.Minio按照最少分片2個的話，至少需要4個數據目錄，必須有一半數據，數據不丟失，才能恢復（N/2）。
3.糾刪碼可以恢復任何磁碟損壞的數據，包括人為刪除、磁碟通道丟失、磁碟中毒。
4.MinIO文件監聽及多租戶
1.文件監聽
有時我們想把客戶端上傳下載文件的一些操作，存儲起來，方便以後做數據分析，最簡單的做法我們可以使用寫日誌的方式，但是目前要做的不是介紹這種，而是使用MioIO自帶的文件監聽機制，MinIO允許我們配置存儲操作日誌的存儲介質，例如Mysql、Redis、Elastic Search、Kafka、WebHook等等，MinIO可以設置對某一個Bucket實現事件監聽。
1.首先我們需要在Console中配置存儲介質，此處選擇 Mysql
1.在mysql中創建一個可供MinIO存儲操作的資料庫。
2.在MinIO中配置資料庫名稱、表以及其他連接信息。
2.重啟MinIO服務，並指定Console地址為9001，
minio server --address :9000 --console-address ":9001" ./data
重啟後控制台會給出操作Mysql的隊列名
arn:minio:sqs::_:mysql
3.啟動MinIO自帶的命令客戶端mc.exe，給MinIO的Api地址取一個別名為minio_queue，方便後續使用
mc.exe alias set minio_queue http://127.0.0.1:9000 minioadmin minioadmin
4.然後執行客戶端命令。用於告訴MinIO服務將文件Bucket 和 Mysql隊列事件註冊綁定
下麵命令的意思是對minio_queue服務中的micservice這個Bucket添加增、刪、改、查的監聽事件到arn:minio:sqs::_:mysql中，說白了就是如果對這個桶中的文件進行操作，那麼就會寫入日誌到Mysql中
mc event add --event "put,delete" minio_queue/micservice arn:minio:sqs::_:mysql
2.MinIO多租戶
Minio預設會給一個客戶使用，當客戶變多了之後，所有客戶的數據都集中在Minio內部的時候，導致數據衝突的問題。例如客戶A的數據，可能會修改成客戶B的數據，客戶B可能查詢客戶C的數據。所以解決客戶數據衝突問題,我們採用多租戶來實現，說白了就是系統運行多個實例給多個不同的客戶使用，為不同的客戶端提供服務。
執行如下命令，創建3個minio實例，為三個不同租戶提供服務
minio server --address :8001 --console-address ":9001" ./MinIO/tenant1
minio server --address :8002 --console-address ":9001" ./MinIO/tenant2
minio server --address :8003 --console-address ":9001" ./MinIO/tenant3
