gawk 程式是Unix中原始awk程式的GNU版本。gawk程式讓流編輯器邁上了一個新的臺階,它提供了一種編程語言而不只是編輯器命令。在gawk編程語言中,可以完成下麵的事情: (1)定義變數來保存數據; (2)使用算數和字元串操作符來處理數據; (3)使用結構化編程概念(比如if then語句和 ...
gawk程式是Unix中原始awk程式的GNU版本。gawk程式讓流編輯器邁上了一個新的臺階,它提供了一種編程語言而不只是編輯器命令。在gawk編程語言中,可以完成下麵的事情:
(1)定義變數來保存數據;
(2)使用算數和字元串操作符來處理數據;
(3)使用結構化編程概念(比如if-then語句和迴圈)來為數據處理增加處理邏輯;
(4)通過提取數據文件中的數據元素,將其重新排列或格式化,生成格式化報表;
gawk程式的報告生成能力通常用來從大文本文件中提取數據元素,並將它們格式化成可讀的報告。其中完美的例子是格式化日誌文件。在日誌文件中找出錯誤行會很難,gawk程式可以讓你從日誌文件中過濾出需要的數據元素,然後你可以將其格式化,使得重要的數據易於閱讀。
1 gawk命令格式
gawk option program file
選項: 描述
-F fs 指定行中劃分數據欄位的欄位分隔符
-f file 從指定的文件中讀取程式
-v var=value 定義gawk程式中的一個變數及其預設值
-mf N 指定要處理的數據文件中的最大欄位數
-mr N 指定數據文件中的最大數據行數
-W keyword 指定gawk的相容模式或警告等級
命令行選項提供了一個簡單的途徑來定製gawk程式中的功能。
gawk的強大之處在於程式腳本,可以寫腳本來讀取文本行的數據,然後處理並顯示數據,創建任何類型的輸出報告。
2 從命令行讀取程式腳本
(1)gawk程式及腳本用一對花括弧來定義。你必須將命令放到兩個花括弧“{}”中。如果你錯誤的使用了圓括弧來包含gawk腳本,就會出錯。
(2)由於gawk命令行假定腳本是單個文本字元串,你還必須將腳本放到單引號中。
例如:
[root@centos7 ~]# gawk '{print "Hello World!"}'
運行這個命令,你可能會有些失望,因為什麼都不會發生。原因在於沒有在命令行上指定文件名,所有gawk程式會從STDIN接受數據。在運行這個程式時,它會一直等待從STDIN輸入的文本。
如果你輸入一行文本並按下回車鍵,gawk會對這行文本運行一遍程式腳本。跟sed編輯器一樣,gawk程式會針對數據流中的每一行文本執行程式。由於程式腳本被設為顯示一行固定的文本字元串,因此不管你在數據流中輸入什麼文本,都會得到同樣的文本輸出。
[root@centos7 ~]# gawk '{print "Hello World!"}'
Thie is a error test
Hello World!
Hello World!
Hello World!
要終止這個程式,你必須標明數據流已經結束了。bash shell提供了一個組合鍵倆生成EOF(End –of-File)字元。Ctrl + D 組合鍵會字bash中產生一個EOF字元。這個組合鍵能夠終止該gawk程式並返回到命令行界面提示符下。
3 使用數據欄位變數
gawk的主要特征之一是其處理文本文件中數據的能力。它會自動給一行的每個數據元素分配一個變數。預設情況下,gawk會將如下變數分配給它在文本中發現的數據欄位:
$0 代表整個文本行
$1 代表文本行的第一個數據段
$n 代表文本行的第n個數據段
在文本行中,每個數據段都是通過欄位分隔符劃分的。gawk在讀取一行文本時,會用預定義的欄位分隔符劃分每個欄位。gawk中預設的欄位分隔符是任意的空白字元(例如空格或者製表符)。
例如,用-F指定欄位分隔符。顯示系統密碼文件的第一個數據欄位。由於/etc/passwd用冒號來分隔數據欄位,因而可以將冒號指定為欄位分隔符。
[root@centos7 ~]# gawk -F : '{print $1}' /etc/passwd
root
bin
daemon
adm
lp
sync
shutdown
halt
mail
operator
[……]
4 在程式腳本中使用多個命令
gawk編程語言允許將多條命令組合成一個正常程式。要在命令行上的程式腳本中使用多條命令,只要在命令之間放個分號即可。
例如
[root@centos7 ~]# echo "My name is centos"|gawk '{$4="hahaha";print $0}'
My name is hahaha
第一條命令會給$4賦值。第二條命令會列印整個數據欄位。註意,gawk程式在輸出中已經將原文本中的第四個數據欄位替換了新值。
5 從文本中讀取程式
跟sed編輯器一樣,gawk編輯器允許將程式存儲到文件中,然後再在命令行中引用。
[root@centos7 ~]# cat script2.gawk
{print $1 "'s' home directory is " $6}
[root@centos7 ~]# gawk -F: -f script2.gawk /etc/passwd
root's' home directory is /root
bin's' home directory is /bin
daemon's' home directory is /sbin
adm's' home directory is /var/adm
lp's' home directory is /var/spool/lpd
sync's' home directory is /sbin
shutdown's' home directory is /sbin
halt's' home directory is /sbin
mail's' home directory is /var/spool/mail
[……]
script2.gawk程式腳本會再次使用print命令列印/etc/passwd文件中的主目錄數據欄位(欄位變數$6),以及userID數據欄位(欄位變數$1)。
可以在程式文件中指定多條命令。要這麼做的話,只有一天命令放一行即可,不需要使用分號。
[root@centos7 ~]# cat script3.gawk
{
text = "'s home directory is "
print $1 text $6
}
[root@centos7 ~]# gawk -F: -f script3.gawk /etc/passwd
root's home directory is /root
bin's home directory is /bin
daemon's home directory is /sbin
adm's home directory is /var/adm
lp's home directory is /var/spool/lpd
sync's home directory is /sbin
shutdown's home directory is /sbin
[……]
script3.gawk程式腳本定義了一個變數來保存print命令中用到的文本字元串。
註意:gawk程式在引用變數值時並未像shell腳本一樣使用美元符。
6 在處理數據前運行腳本
gawk還允許指定程式腳本何時運行。預設情況下,gawk會從輸入中讀取一行文本,然後針對該行的數據執行程式腳本。有時可能會需要在處理數據前運行腳本,比如報告創建標題。BEGIN關鍵字就是用來做這個的。它會強制gawk在讀取數據前執行BEGIN關鍵字後指定的程式腳本。
[root@centos7 ~]# cat data3.txt
Line 1
Line 2
Line 3
[root@centos7 ~]# gawk 'BEGIN{print "The data3 File contents:"}{print $0}' data3.txt The data3 File contents:
Line 1
Line 2
Line 3
在gawk執行了BEGIN腳本後,它會用第二段腳本來處理文件數據。這麼做是要小心,兩段腳本仍然被認為是gawk命令行中的一個文本字元串。你需要相應的加上單引號。
7 在處理數據後運行腳本
與BEGIN關鍵字類似,END關鍵字允許你指定一個程式腳本,gawk會在讀完數據後執行它。
[root@centos7 ~]# gawk '{print $0} END{print "End of file"}' data3.txt
Line 1
Line 2
Line 3
End of file
當gawk程式列印完文件內容後,會執行END腳本中的命令。這是在處理完所有正常數據後給報告添加頁腳的最佳方法。