分散式文件系統 - fastDFS_ZenDei技術網路在線

fastDSF介紹 FastDFS是用c語言編寫的一款開源的分散式文件系統，它是由淘寶資深架構師餘慶編寫並開源。FastDFS專為互聯網量身定製，充分考慮了冗餘備份、負載均衡、線性擴容等機制，並註重高可用、高性能等指標，使用FastDFS很容易搭建一套高性能的文件伺服器集群提供文件上傳、下載等服務。 ...

fastDSF介紹

FastDFS是用c語言編寫的一款開源的分散式文件系統，它是由淘寶資深架構師餘慶編寫並開源。FastDFS專為互聯網量身定製，充分考慮了冗餘備份、負載均衡、線性擴容等機制，並註重高可用、高性能等指標，使用FastDFS很容易搭建一套高性能的文件伺服器集群提供文件上傳、下載等服務。

fastDSF架構

FastDFS架構包括 Tracker server和Storageserver。客戶端請求Tracker server進行文件上傳、下載，通過Tracker server調度最終由Storage server完成文件上傳和下載。

如下圖：

1）Tracker

Tracker Server作用是負載均衡和調度，通過Tracker server在文件上傳時可以根據一些策略找到Storage server提供文件上傳服務。可以將tracker稱為追蹤伺服器或調度服務器。FastDFS集群中的Tracker server可以有多台，Tracker server之間是相互平等關係同時提供服務，Tracker server 不存在單點故障。客戶端請求Tracker server採用輪詢方式，如果請求的tracker無法提供服務則換另一個tracker。

2）Storage

Storage Server作用是文件存儲，客戶端上傳的文件最終存儲在Storage伺服器上，Storage server沒有實現自己的文件系統而是使用操作系統的文件系統來管理文件。可以將storage稱為存儲伺服器。Storage集群採用了分組存儲方式。storage集群由一個或多個組構成，集群存儲總容量為集群中所有組的存儲容量之和。一個組由一臺或多台存儲伺服器組成，組內Storage server之間是平等關係，不同組的Storage server之間不會相互通信，同組內的Storage server之間會相互連接進行文件同步，從而保證同組內每個storage上的文件完全一致的。一個組的存儲容量為該組內的存儲伺服器容量最小的那個，由此可見組記憶體儲伺服器的軟硬體配置最好是一致的。採用分組存儲方式的好處是靈活、可控性較強。比如上傳文件時，可以由客戶端直接指定上傳到的組也可以由 tracker進行調度選擇。一個分組的存儲伺服器訪問壓力較時，可以在該組增加存儲伺服器來擴充服務能力（縱向擴容）。當系統容量不足時，可以增加組來擴充存儲容量（橫向擴容）。

3）Storage狀態收集

Storage server會連接集群中所有的Tracker server，定時向他們報告自己的狀態，包括磁碟剩餘空間、文件同步狀況、文件上傳下載次數等統計信息。

文件上傳流程

客戶端上傳文件後存儲伺服器將文件ID返回給客戶端，此文件ID用於以後訪問該文件的索引信息。文件索引信息

包括：組名，虛擬磁碟路徑，數據兩級目錄，文件名。

組名：文件上傳後所在的storage組名稱，在文件上傳成功後有storage伺服器返回，需要客戶端自行保存。
虛擬磁碟路徑：storage配置的虛擬路徑，與磁碟選項store_path*對應。如果配置了store_path0則是M00，如果配置了store_path1則是M01，以此類推。
數據兩級目錄：storage伺服器在每個虛擬磁碟路徑下創建的兩級目錄，用於存儲數據文件。
文件名：與文件上傳時不同。是由存儲伺服器根據特定信息生成，文件名包含：源存儲伺服器IP地址、文件創建時間戳、文件大小、隨機數和文件拓展名等信息。

文件下載流程

tracker根據請求的文件路徑即文件ID 來快速定義文件。

比如請求下邊的文件：

1.通過組名tracker能夠很快的定位到客戶端需要訪問的存儲伺服器組是group1，並選擇合適的存儲伺服器提供客戶端訪問。

2.存儲伺服器根據“文件存儲虛擬磁碟路徑”和“數據文件兩級目錄”可以很快定位到文件所在目錄，並根據文件名找到客戶端需要訪問的文件。

fastDF tracker 配置

fastDFS的配置文件目錄：/etc/fdfs

主要的配置文件：/etc/fdfs/tracker.conf （tracker配置文件）；storage.conf（storage配置文件）

tracker.conf配置內容如下：

埠：port=22122

存儲策略：store_lookup=

取值範圍：0（輪詢向storage存儲文件）、1（指定具體的group）、2負載均衡，選擇空閑的storage存儲

指定具體的group：store_group= 如果store_lookup設置為1則這裡必須指定一個具體的group。

tracker 基礎目錄：base_path=/home/fastdfs，tracker在運行時會向此目錄存儲storage的管理數據。

storage配置

storage.conf配置內容如下：

組名：group_name=group1

埠：port=23000

向tracker心跳間隔（秒）：heart_beat_interval=30

storage基礎目錄：base_path=/home/fastdfs

磁碟存儲目錄，可定義多個store_path：

store_path0=/home/fastdfs/fdfs_storage 此目錄下存儲上傳的文件，在/home/fastdfs/fdfs_storage/data下

store_path1=...

...

上報tracker的地址：tracker_server=192.168.101.64:22122

如果有多個tracker則配置多個tracker，比如：

tracker_server=192.168.101.64:22122

tracker_server=192.168.101.65:22122

啟動停止

fastDFS啟動/停止腳本目錄：

fdfs_trackerd：tracker腳本，通過此腳本對 tracker進行啟動和停止

/usr/bin/fdfs_trackerd /etc/fdfs/tracker.conf restart

fdfs_storaged：storage腳本，通過此腳本對 storage進行啟動和停止

/usr/bin/fdfs_storaged /etc/fdfs/storage.conf restart

文件上傳下載測試

1）創建maven工程

<dependencies>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-web</artifactId>
        </dependency>
        <!-- https://mvnrepository.com/artifact/net.oschina.zcx7878/fastdfs-client-java -->
        <dependency>
            <groupId>net.oschina.zcx7878</groupId>
            <artifactId>fastdfs-client-java</artifactId>
            <version>1.27.0.0</version>
        </dependency>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-test</artifactId>
            <scope>test</scope>
        </dependency>
        <dependency>
            <groupId>org.apache.commons</groupId>
            <artifactId>commons-io</artifactId>
            <version>1.3.2</version>
        </dependency>
    </dependencies>

2 ) 配置文件
在classpath:config下創建fastdfs-client.properties文件

fastdfs.connect_timeout_in_seconds = 5
fastdfs.network_timeout_in_seconds = 30
fastdfs.charset = UTF-8
fastdfs.tracker_servers = 192.168.85.129:22122(配置的地址)

3) 文件上傳

@SpringBootTest
@RunWith(SpringRunner.class)
public class TestFastDFS {
 
    //上傳文件
    @Test
    public void testUpload(){
 
        try {
            //載入fastdfs-client.properties配置文件
            ClientGlobal.initByProperties("config/fastdfs-client.properties");
            //定義TrackerClient，用於請求TrackerServer
            TrackerClient trackerClient = new TrackerClient();
            //連接tracker
            TrackerServer trackerServer = trackerClient.getConnection();
            //獲取Stroage
            StorageServer storeStorage = trackerClient.getStoreStorage(trackerServer);
            //創建stroageClient
            StorageClient1 storageClient1 = new StorageClient1(trackerServer,storeStorage);
            //向stroage伺服器上傳文件
            //本地文件的路徑
            String filePath = "F:/壁紙/003.jpg";
            //上傳成功後拿到文件Id
            String fileId = storageClient1.upload_file1(filePath, "jpg", null);
            System.out.println(fileId);
            //group1/M00/00/00/wKhVgVw-qbmAXdpRAAp2uCv_JwU096.jpg
 
        } catch (Exception e) {
            e.printStackTrace();
        }
 
    }
}

4) 文件查詢

 //查詢文件
    @Test
    public void testQueryFile() throws IOException, MyException {
        ClientGlobal.initByProperties("config/fastdfs-client.properties");
        TrackerClient tracker = new TrackerClient();
        TrackerServer trackerServer = tracker.getConnection();
        StorageServer storageServer = null;
        StorageClient storageClient = new StorageClient(trackerServer,storageServer);
 
        FileInfo fileInfo = storageClient.query_file_info("group1",
                "M00/00/00/wKhVgVw-qbmAXdpRAAp2uCv_JwU096.jpg");
        System.out.println(fileInfo);
    }

5) 文件下載

//下載文件
    @Test
    public void testDownload(){
        try {
            //載入fastdfs-client.properties配置文件
            ClientGlobal.initByProperties("config/fastdfs-client.properties");
            //定義TrackerClient，用於請求TrackerServer
            TrackerClient trackerClient = new TrackerClient();
            //連接tracker
            TrackerServer trackerServer = trackerClient.getConnection();
            //獲取Stroage
            StorageServer storeStorage = trackerClient.getStoreStorage(trackerServer);
            //創建stroageClient
            StorageClient1 storageClient1 = new StorageClient1(trackerServer,storeStorage);
            //下載文件
            //文件id
            String fileId = "group1/M00/00/00/wKhVgVw-qbmAXdpRAAp2uCv_JwU096.jpg";
            byte[] bytes = storageClient1.download_file1(fileId);
            //使用輸出流保存文件
            FileOutputStream fileOutputStream = new FileOutputStream(new File("F:/003.jpg"));
            fileOutputStream.write(bytes);
        } catch (IOException e) {
            e.printStackTrace();
        } catch (MyException e) {
            e.printStackTrace();
        }
    }

6) 配置Nginx圖片服務虛擬機主機

圖片服務虛擬主機的作用是負載均衡，將圖片請求轉發到storage server上。

在nginx圖片代理服務上配置圖片伺服器虛擬主機 :

#圖片服務
        upstream img_server_pool{
        #server 192.168.101.64:80 weight=10;
        server 192.168.0.133:8888 weight=10;
        }
#服務
    server {
        listen 8888;
        server_name img.xuecheng.com;
        #個人中心
        location /group1 {
        proxy_pass http://img_server_pool;
        }

圖片伺服器啟動

1、啟動tracker：/usr/bin/fdfs_trackerd /etc/fdfs/tracker.conf restart
2、啟動storage：/usr/bin/fdfs_storaged /etc/fdfs/storage.conf restart
3、啟動storage上的nginx：/usr/local/nginx/sbin/nginx ‐c /usr/local/nginx/conf/nginx‐fdfs.conf
4、啟動圖片虛擬主機 nginx