1s 創建100G文件,最快的方法是?

来源:https://www.cnblogs.com/wanng/archive/2022/04/11/how-to-create-bigfile.html
-Advertisement-
Play Games

在我們日常工作中,為了驗證開發的功能,比如:文件上傳功能或者演算法的處理效率等,經常需要一些大文件進行測試,有時在四處找了一頓之後,發現竟然沒有一個合適的,雖然 Linux 中也有一些命令比如:vim、touch 等可以創建文件,但是如果需要一個 100G 或者 1T 的大文件,這些命令就顯得力不從心 ...


在我們日常工作中,為了驗證開發的功能,比如:文件上傳功能或者演算法的處理效率等,經常需要一些大文件進行測試,有時在四處找了一頓之後,發現竟然沒有一個合適的,雖然 Linux 中也有一些命令比如:vim、touch 等可以創建文件,但是如果需要一個 100G 或者 1T 的大文件,這些命令就顯得力不從心,此時就需要能快速創建大文件命令,接下來將介紹這些命令的常見用法、命令之間的差異、以及使用時如何選擇

dd

dd 命令的語法如下

dd if=[source] of=[destination] bs=[block-size] count=[counter]

source 讀取並拷貝內容到 destinationsourcedestination 都是文件,前者是讀取的文件,後者是寫入的文件

bs 表示塊的大小,單位是位元組,尾碼中帶了字母 B的換算單位都是 1000, 比如: 1KB = 1000 Bytes 1MB = 1000 * 1000 Bytes 1GB = 1000 * 1000 * 1000 Bytes

尾碼省略了字母 B的換算單位是 1024, 比如: 1K = 1024 Bytes 1M = 1024 * 1024 Bytes 1G = 1024 * 1024 * 1024 Bytes

count 表示塊的數量,表示 dd 命令需要執行多少次讀取並寫入的操作

bs 乘以 count 其實就表示目標文件的大小,也即需要創建的文件的大小,比如:下麵的命令可以創建一個 10G 大小的文件

[root@localhost dd_cmd]# dd if=/dev/zero of=testfile bs=1G count=10
記錄了10+0 的讀入
記錄了10+0 的寫出
10737418240位元組(11 GB)已複製,8.61643 秒,1.2 GB/秒
[root@localhost dd_cmd]# du -h testfile  
10G     testfile
[root@localhost dd_cmd]# 

上面的命令表示從 /dev/zero文件每次讀取 1G大小的數據並寫入當前目錄中的 testfile 文件, bs=1G count=10 表示塊大小是1G,總共有10個塊, 所以目標文件最終的大小是: 1G * 10 = 10G

/dev/zero 是一個特殊的字元設備文件,當讀取它的時候,它會返回空數據,這裡表示從 /dev/zero讀取空的數據寫入 testfile

命令 du -h testfile 的結果也說明瞭 testfile 大小是 10G

從結果可以得知,用 dd 命令創建一個 10G 大小的文件花費了約 8.6 秒

yes

前面的 dd 命令創建的是空字元的文件,如果想文件中包含自定義的字元,可以使用 yes 命令,它的作用是迴圈輸出一行指定的字元串,直到進程結束,為了控制文件的大小並打破迴圈,我們藉助 head 命令來實現,使用 yes 命令創建包含指定內容文件的語法如下

yes [string] | head -c [size of file] > [name of file]

string 是寫入文件每一行的字元串

head -c [size of file] 是接收指定大小的字元串,單位是位元組,後面也可以接 KKBMMBGGB等單位

下麵的實例是往 yesfile 文件寫入,每行的內容是: this is a test content , 一直到文件大小達到 10G

[root@localhost dd_cmd]# time yes "this is a test content" | head -c 10G > yesfile

real    0m11.266s
user    0m8.898s
sys     0m13.217s
[root@localhost dd_cmd]# du -h yesfile  
10G     yesfile

從結果可以看出,yes 命令創建一個 10G 的文件花費了 13.2 秒,比 dd 命令慢

fallocate

fallocate 命令使用下麵的語法 創建大文件

fallocate -l [size of file] [name of file]

-l 選項表示文件大小,單位是位元組,後面可以接 KKBMMBGGB等單位

下麵的命令是創建一個 10G 大小的文件

[root@localhost dd_cmd]# time fallocate -l 10G allocatefile

real    0m0.002s
user    0m0.000s
sys     0m0.003s
[root@localhost dd_cmd]# du -h allocatefile  
10G     allocatefile

上述的 time 命令只是為了統計創建文件的時間,從結果可以看出:fallocate命令創建一個 10G 大小的文件竟然只花費了 0.003 秒

命令 du -h allocatefile 是查看創建的文件大小,從結果可知,allocatefile 文件大小確實是 10G

truncate

truncate 命令是縮小或者擴展文件至指定大小,它的語法如下:

truncate -s [file-size] [name of the file]

-s 選項表示文件大小,單位是位元組,跟 fallocate 命令一樣,後面可以接 KKBMMBGGB等單位

下麵是使用 truncate 命令創建一個 10G的文件的示例

[root@localhost dd_cmd]# time truncate -s 10G truncatefile

real    0m0.002s
user    0m0.000s
sys     0m0.002s
[root@localhost dd_cmd]# du -h truncatefile 
0       truncatefile

從結果可以得到,truncate 命令 創建一個 10G的文件也只花費了 0.002 秒,和 fallocate 差不多

但是, du -h truncatefile 命令的結果表明 truncatefile 大小為 0

原因是 truncate 命令 創建的是一個稀疏文件而不是實際的文件 ,稀疏文件不會占用磁碟空間

註意:fallocate 命令只支持 btrfs、ext4、 ocfs2、xfs 這幾種文件系統,而 truncate 命令支持所有的現代文件系統

創建速度的差異

從上面的幾個實例可以看出,同樣是創建一個 10G的文件, fallocatetruncate 命令只需要不到 0.1 秒的時間,但是 dd 命令需要 8.6 秒的時間,yes 命令需要 13.2 秒,這中間相差了幾百倍,為什麼會有這麼大的差別呢?

fallocate 將空間分配給文件,但是不會往文件中寫入任何數據

truncate 創建的是稀疏文件,和 fallocate 一樣,它也不會往文件中寫入任何數據

ddyes 都有寫文件操作,而這需要大量的 IO 時間,所以同樣創建 10G 的文件,它們比 fallocatetruncate 要慢很多

如何選擇

ddyesfallocatetruncate 這幾個命令都可以創建大文件, 在日常的使用中,我們該如何選擇呢 ?

對速度沒有很高的要求的情況下,一般首選 dd ,如果希望創建的文件中寫入自定義的內容的話,使用 yes

如果想快速的創建大文件,比如 1 秒內創建一個 100G 的文件,選擇 fallocatetruncate ,如果還需要確保文件是實際占用磁碟空間的話,就只剩下 fallocate 可選了

大部分情況下,fallocate 都能滿足要求,所以不想仔細分析的話,使用 fallocate 就行了

小結

本文介紹了Linux下創建大文件的幾種方法,並對所提供的方法進行了比較,最後提供瞭如何選擇使用哪種方法的一些建議,文中只對 ddyesfallocatetruncate 命令做了簡要的說明,更多的介紹請參考 man 文檔


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 本文地址源碼 MassTransit是一個面向.net的免費開源分散式應用程式框架。 MassTransit使得創建應用程式和服務變得很容易,這些應用程式和服務利用基於消息的、鬆散耦合的非同步通信來獲得更高的可用性、可靠性和可伸縮性。 MassTransit 8.x版本。 實現簡單發佈訂閱 添加Nug ...
  • 執行周期 1. SetParametersAsync 2. OnInitializedAsync(調用兩次) 和 OnInitialized; 3. OnParametersSetAsync 或 OnParametersSet; 4. OnAfterRenderAsync 和 OnAfterRend ...
  • 熟悉C#開發的朋友們都應該知道,使用C#語言編寫的程式在編譯之後生成的文件被稱做為程式集,這其中又分為dll(類庫)和exe(可執行程式)兩種類型,而程式集當中的內容其實就CIL(Common Intermediate Language,公共中間語言)。CIL最初是隨著.NET由微軟一起發佈的,因此 ...
  • 大家好,好久沒有輸出博文了,一是因為比較忙,另外一個原因是最近主要的精力是在給 AgileConfig 添加一個新的功能:服務註冊與發現。 先說說為什麼會添加這個功能。我自己的項目是用 Consul 來做為服務註冊發現組件的。自從我上線了 AgileConfig 做為配置中心後,我就很少去 Cons ...
  • 鏡像下載、功能變數名稱解析、時間同步請點擊 阿裡雲開源鏡像站 Docker概述 Docker學習鏈接 官網鏈接:Home - Docker Docker與虛擬機比較 虛擬化技術 容器技術不是模擬的一個完整的操作系統。 比較Docker 和虛擬機技術不同 傳統虛擬機,虛擬出一臺硬體,運行完整的操作系統。 容器 ...
  • 首先,先上結構圖,請對照代碼理解。 (一)什麼是任務切換? 任務切換就是在就緒列表裡面尋找優先順序最高的就緒任務,然後執行該任務。 (二)任務什麼時候切換? 1)、當執行系統調用的時候,進行任務切換。 2)、當發生滴答定時器(systick)中斷的時候,進行任務切換。 情況1:執行系統調用時 所謂的系 ...
  • 鏡像下載、功能變數名稱解析、時間同步請點擊 阿裡雲開源鏡像站 一、環境準備 1、鏡像包 CentOS-7.9-x86_64-DVD-2009.iso ubuntu-18.04.6-server-amd64.iso 2、VMware 二、鏡像下載 阿裡雲:developer.aliyun.com/mirror ...
  • 解決過程 在使用stm32H743+外置USB2.0高速phy(smsc USB3343)過程中,發現設備無法被枚舉為hs模式,而是一直被枚舉為fs。測試速度,如下: 16:24:24.672288:開始測試單片機向上位機發送數據…… 16:24:25.671740:結束測試,速度約為 831.48 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...