awk命令詳解

簡介:

wak是一個強大的文本分析工具,也可以叫做報告生成工具。相對于grep的查找,sed的編輯,awk在對其數據分析并生成報告時,顯得尤為強大。簡單來說awk就是把文件逐行的讀入,以空格 為默認分隔符將每行切片,切開的部分再進行各種分析處理。


awk有三個不同的版本:awknawk,gawk。我們目前所使用的awk一般指gawk,gawkAWKGNU的版本。


awk的命名方式比較特殊,它是由它的三位創始人名字的首個字母組成。awk擁有自己的語言:awk程序設計語言,三位創始人已經將它正式定義為“樣式掃描和處理語言”。它允許您創建簡短的程序,這些程序讀取輸入文件,為數據排序處理數據,對輸入執行計算以及生成報表,還有很多強大的功能,這里就不再一一敘述了。



使用方法

awk 用法:awk ' pattern {action} '  

變量名    含義 
ARGC   命令行變元個數 

awk 用法:awk ' pattern {action} '  

變量名    含義 
ARGC
   命令行變元個數 
ARGV 
  命令行變元數組 
FILENAME
   當前輸入文件名 
FNR
   當前文件中的記錄號 
FS   
輸入域分隔符,默認為一個空格 
RS 
  輸入記錄分隔符 
NF
   當前記錄里域個數 
NR
   到目前為止記錄數 
OFS  
 輸出域分隔符 
ORS
   輸出記錄分隔符 
1、
awk '/101/'    file 
     顯示文件

file中包含101的匹配行。 
   awk '/101/,/105/'  file 
   awk '$1 == 5'    file 
   awk '$1 == "CT"'    file    注意必須帶雙引號 
   awk '$1 * $2 >100 '   file  
   awk '$2 >5 && $2<=15'  file


2、awk '{print NR,NF,$1,$NF,}' file     顯示文件file的當前記錄號、域數和每一行的第一個和最后一個域。 
   awk '/101/ {print $1,$2 + 10}' file       顯示文件file的匹配行的第一、二個域加10。 
   awk '/101/ {print $1$2}'  file 
   awk '/101/ {print $1 $2}' file       顯示文件file的匹配行的第一、二個域,但顯示時域中間沒有分隔符。


3、df | awk '$4>1000000 '         通過管道符獲得輸入,如:顯示第4個域滿足條件的行。


4、awk -F "|" '{print $1}'   file         按照新的分隔符“|”進行操作。 
   awk  'BEGIN { FS="[: \t|]" } 
   {print $1,$2,$3}'       file         通過設置輸入分隔符(FS="[: \t|]")修改輸入分隔符。 

   Sep="|" 
   awk -F $Sep '{print $1}'  file   按照環境變量Sep的值做為分隔符。    
   awk -F '[ :\t|]' '{print $1}' file   按照正則表達式的值做為分隔符,這里代表空格、:、TAB、|同時做為分隔符。 
   awk -F '[][]'    '{print $1}' file   按照正則表達式的值做為分隔符,這里代表[、]


5、awk -f awkfile    file         通過文件awkfile的內容依次進行控制。 
   cat awkfile 
/101/{print "\047 Hello! \047"}    –遇到匹配行以后打印 ' Hello! '.  \047代表單引號。 
{print $1,$2}                      –因為沒有模式控制,打印每一行的前兩個域。


6、awk '$1 ~ /101/ {print $1}' file         顯示文件中第一個域匹配101的行(記錄)。


7、awk   'BEGIN { OFS="%"} 
   {print $1,$2}'  file           通過設置輸出分隔符(OFS="%")修改輸出格式。


8、awk   'BEGIN { max=100 ;print "max=" max}             BEGIN 表示在處理任意行之前進行的操作。 
   {max=($1 >max ?$1:max); print $1,"Now max is "max}' file           取得文件第一個域的最大值。 
   (表達式1?表達式2:表達式3 相當于: 
   if (表達式1) 
       表達式2 
   else 
       表達式3 
   awk '{print ($1>4 ? "high "$1: "low "$1)}' file 


9、awk '$1 * $2 >100 {print $1}' file         顯示文件中第一個域匹配101的行(記錄)。


10、awk '{$1 == 'Chi' {$3 = 'China'; print}' file        找到匹配行后先將第3個域替換后再顯示該行(記錄)。 
    awk '{$7 %= 3; print $7}'  file           將第7域被3除,并將余數賦給第7域再打印。


11、awk '/tom/ {wage=$2+$3; printf wage}' file          找到匹配行后為變量wage賦值并打印該變量。


12、awk '/tom/ {count++;}  
         END {print "tom was found "count" times"}' file            END表示在所有輸入行處理完后進行處理。


13、awk 'gsub(/\$/,"");gsub(/,/,""); cost+=$4; 
         END {print "The total is $" cost>"filename"}'    file             gsub函數用空串替換$和,再將結果輸出到filename中。 
    1 2 3 $1,200.00 
    1 2 3 $2,300.00 
    1 2 3 $4,000.00 

    awk '{gsub(/\$/,"");gsub(/,/,""); 
    if ($4>1000&&$4<2000) c1+=$4; 
    else if ($4>2000&&$4<3000) c2+=$4; 
    else if ($4>3000&&$4<4000) c3+=$4; 
    else c4+=$4; } 
    END {printf  "c1=[%d];c2=[%d];c3=[%d];c4=[%d]\n",c1,c2,c3,c4}"' file 
    通過if和else if完成條件語句 

    awk '{gsub(/\$/,"");gsub(/,/,""); 
    if ($4>3000&&$4<4000) exit; 
    else c4+=$4; } 
    END {printf  "c1=[%d];c2=[%d];c3=[%d];c4=[%d]\n",c1,c2,c3,c4}"' file 
    通過exit在某條件時退出,但是仍執行END操作。 
    awk '{gsub(/\$/,"");gsub(/,/,""); 
    if ($4>3000) next; 
    else c4+=$4; } 
    END {printf  "c4=[%d]\n",c4}"' file 
    通過next在某條件時跳過該行,對下一行執行操作。 


14、awk '{ print FILENAME,$0 }' file1 file2 file3>fileall              把file1、file2、file3的文件內容全部寫到fileall中,格式為 
    打印文件并前置文件名。


15、awk ' $1!=previous { close(previous); previous=$1 }    
    {print substr($0,index($0," ") +1)>$1}' fileall           把合并后的文件重新分拆為3個文件。并與原文件一致。


16、awk 'BEGIN {"date"|getline d; print d}'         通過管道把date的執行結果送給getline,并賦給變量d,然后打印。 


17、awk 'BEGIN {system("echo \"Input your name:\\c\""); getline d;print "\nYour name is",d,"\b!\n"}' 
    通過getline命令交互輸入name,并顯示出來。 
    awk 'BEGIN {FS=":"; while(getline< "/etc/passwd" >0) { if($1~"050[0-9]_") print $1}}' 
    打印/etc/passwd文件中用戶名包含050x_的用戶名。 

18、awk '{ i=1;while(i<NF) {print NF,$i;i++}}' file 通過while語句實現循環。 
    awk '{ for(i=1;i<NF;i++) {print NF,$i}}'   file 通過for語句實現循環。     
    type file|awk -F "/" ' 
    { for(i=1;i<NF;i++) 
    { if(i==NF-1) { printf "%s",$i } 
    else { printf "%s/",$i } }}'               顯示一個文件的全路徑。 
    用for和if顯示日期 
    awk  'BEGIN { 
for(j=1;j<=12;j++) 
{ flag=0; 
  printf "\n%d月份\n",j; 
        for(i=1;i<=31;i++) 
        { 
        if (j==2&&i>28) flag=1; 
        if ((j==4||j==6||j==9||j==11)&&i>30) flag=1; 
        if (flag==0) {printf "%02d%02d ",j,i} 
        } 

}'


19、在awk中調用系統變量必須用單引號,如果是雙引號,則表示字符串 
Flag=abcd 
awk '{print '$Flag'}'   結果為abcd 
awk '{print  "$Flag"}'   結果為$Flag

===============================

    $awk 'BEGIN{total=0}{total+=$4}END{print total}' a.txt   —–對a.txt文件的第四個域進行求和!

  • $ awk '/^(no|so)/' test      —–打印所有以模式no或so開頭的行。

  • $ awk '/^[ns]/{print $1}' test       —–如果記錄以n或s開頭,就打印這個記錄。

  • $ awk '$1 ~/[0-9][0-9]$/(print $1}' test         —–如果第一個域以兩個數字結束就打印這個記錄。

  • $ awk '$1 == 100 || $2 < 50' test      —–如果第一個或等于100或者第二個域小于50,則打印該行。

  • $ awk '$1 != 10' test    —–如果第一個域不等于10就打印該行。

  • $ awk '/test/{print $1 + 10}' test  —–如果記錄包含正則表達式test,則第一個域加10并打印出來。

  • $ awk '{print ($1 > 5 ? "ok "$1: "error"$1)}' test   —–如果第一個域大于5則打印問號后面的表達式值,否則打印冒號后面的表達式值。

  • $ awk '/^root/,/^mysql/' test        —-打印以正則表達式root開頭的記錄到以正則表達式mysql開頭的記錄范圍內的所有記錄。如果找到一個新的正則表達式root開頭的記錄,則繼續打印直到下一個以正則表達式mysql開頭的記錄為止,或到文件末尾。


ARGV   命令行變元數組 
FILENAME   當前輸入文件名 
FNR   當前文件中的記錄號 
FS   輸入域分隔符,默認為一個空格 
RS   輸入記錄分隔符 
NF   當前記錄里域個數 
NR   到目前為止記錄數 
OFS   輸出域分隔符 
ORS   輸出記錄分隔符 

1、awk '/101/'    file      顯示文件file中包含101的匹配行。 
   awk '/101/,/105/'  file 
   awk '$1 == 5'    file 
   awk '$1 == "CT"'    file    注意必須帶雙引號 
   awk '$1 * $2 >100 '   file  
   awk '$2 >5 && $2<=15'  file


2、awk '{print NR,NF,$1,$NF,}' file     顯示文件file的當前記錄號、域數和每一行的第一個和最后一個域。 
   awk '/101/ {print $1,$2 + 10}' file       顯示文件file的匹配行的第一、二個域加10。 
   awk '/101/ {print $1$2}'  file 
   awk '/101/ {print $1 $2}' file       顯示文件file的匹配行的第一、二個域,但顯示時域中間沒有分隔符。


3、df | awk '$4>1000000 '         通過管道符獲得輸入,如:顯示第4個域滿足條件的行。


4、awk -F "|" '{print $1}'   file         按照新的分隔符“|”進行操作。 
   awk  'BEGIN { FS="[: \t|]" } 
   {print $1,$2,$3}'       file         通過設置輸入分隔符(FS="[: \t|]")修改輸入分隔符。 

   Sep="|" 
   awk -F $Sep '{print $1}'  file   按照環境變量Sep的值做為分隔符。    
   awk -F '[ :\t|]' '{print $1}' file   按照正則表達式的值做為分隔符,這里代表空格、:、TAB、|同時做為分隔符。 
   awk -F '[][]'    '{print $1}' file   按照正則表達式的值做為分隔符,這里代表[、]


5、awk -f awkfile    file         通過文件awkfile的內容依次進行控制。 
   cat awkfile 
/101/{print "\047 Hello! \047"}    –遇到匹配行以后打印 ' Hello! '.  \047代表單引號。 
{print $1,$2}                      –因為沒有模式控制,打印每一行的前兩個域。


6、awk '$1 ~ /101/ {print $1}' file         顯示文件中第一個域匹配101的行(記錄)。


7、awk   'BEGIN { OFS="%"} 
   {print $1,$2}'  file           通過設置輸出分隔符(OFS="%")修改輸出格式。


8、awk   'BEGIN { max=100 ;print "max=" max}             BEGIN 表示在處理任意行之前進行的操作。 
   {max=($1 >max ?$1:max); print $1,"Now max is "max}' file           取得文件第一個域的最大值。 
   (表達式1?表達式2:表達式3 相當于: 
   if (表達式1) 
       表達式2 
   else 
       表達式3 
   awk '{print ($1>4 ? "high "$1: "low "$1)}' file 


9、awk '$1 * $2 >100 {print $1}' file         顯示文件中第一個域匹配101的行(記錄)。


10、awk '{$1 == 'Chi' {$3 = 'China'; print}' file        找到匹配行后先將第3個域替換后再顯示該行(記錄)。 
    awk '{$7 %= 3; print $7}'  file           將第7域被3除,并將余數賦給第7域再打印。


11、awk '/tom/ {wage=$2+$3; printf wage}' file          找到匹配行后為變量wage賦值并打印該變量。


12、awk '/tom/ {count++;}  
         END {print "tom was found "count" times"}' file            END表示在所有輸入行處理完后進行處理。


13、awk 'gsub(/\$/,"");gsub(/,/,""); cost+=$4; 
         END {print "The total is $" cost>"filename"}'    file             gsub函數用空串替換$和,再將結果輸出到filename中。 
    1 2 3 $1,200.00 
    1 2 3 $2,300.00 
    1 2 3 $4,000.00 

    awk '{gsub(/\$/,"");gsub(/,/,""); 
    if ($4>1000&&$4<2000) c1+=$4; 
    else if ($4>2000&&$4<3000) c2+=$4; 
    else if ($4>3000&&$4<4000) c3+=$4; 
    else c4+=$4; } 
    END {printf  "c1=[%d];c2=[%d];c3=[%d];c4=[%d]\n",c1,c2,c3,c4}"' file 
    通過if和else if完成條件語句 

    awk '{gsub(/\$/,"");gsub(/,/,""); 
    if ($4>3000&&$4<4000) exit; 
    else c4+=$4; } 
    END {printf  "c1=[%d];c2=[%d];c3=[%d];c4=[%d]\n",c1,c2,c3,c4}"' file 
    通過exit在某條件時退出,但是仍執行END操作。 
    awk '{gsub(/\$/,"");gsub(/,/,""); 
    if ($4>3000) next; 
    else c4+=$4; } 
    END {printf  "c4=[%d]\n",c4}"' file 
    通過next在某條件時跳過該行,對下一行執行操作。 


14、awk '{ print FILENAME,$0 }' file1 file2 file3>fileall              把file1、file2、file3的文件內容全部寫到fileall中,格式為 
    打印文件并前置文件名。


15、awk ' $1!=previous { close(previous); previous=$1 }    
    {print substr($0,index($0," ") +1)>$1}' fileall           把合并后的文件重新分拆為3個文件。并與原文件一致。


16、awk 'BEGIN {"date"|getline d; print d}'         通過管道把date的執行結果送給getline,并賦給變量d,然后打印。 


17、awk 'BEGIN {system("echo \"Input your name:\\c\""); getline d;print "\nYour name is",d,"\b!\n"}' 
    通過getline命令交互輸入name,并顯示出來。 
    awk 'BEGIN {FS=":"; while(getline< "/etc/passwd" >0) { if($1~"050[0-9]_") print $1}}' 
    打印/etc/passwd文件中用戶名包含050x_的用戶名。 

18、awk '{ i=1;while(i<NF) {print NF,$i;i++}}' file 通過while語句實現循環。 
    awk '{ for(i=1;i<NF;i++) {print NF,$i}}'   file 通過for語句實現循環。     
    type file|awk -F "/" ' 
    { for(i=1;i<NF;i++) 
    { if(i==NF-1) { printf "%s",$i } 
    else { printf "%s/",$i } }}'               顯示一個文件的全路徑。 
    用for和if顯示日期 
    awk  'BEGIN { 
for(j=1;j<=12;j++) 
{ flag=0; 
  printf "\n%d月份\n",j; 
        for(i=1;i<=31;i++) 
        { 
        if (j==2&&i>28) flag=1; 
        if ((j==4||j==6||j==9||j==11)&&i>30) flag=1; 
        if (flag==0) {printf "%02d%02d ",j,i} 
        } 

}'


19、在awk中調用系統變量必須用單引號,如果是雙引號,則表示字符串 
Flag=abcd 
awk '{print '$Flag'}'   結果為abcd 
awk '{print  "$Flag"}'   結果為$Flag

===============================

    


原創文章,作者:李書鵬,如若轉載,請注明出處:http://www.www58058.com/61010

(0)
李書鵬李書鵬
上一篇 2016-11-28
下一篇 2016-11-28

相關推薦

  • LINUX–命令的格式、類型、別名的概述及運用

    命令格式       COMMAND [OPTIONS…] [ARGUMENTS..]      [OPTIONS..] 選項:用于啟用或關閉命令的某個或某些功能                &n…

    2017-05-21
  • N25-第1周博客作業

    計算機概述及命令 一、計算機原理及其組成功能 計算機作為一個整體,由軟件和硬件兩大部分組成:  (1)計算機硬件系統。        計算機的硬件系統結構有哈佛結構和馮·諾伊曼結構兩種。 哈佛結構是一種將程序指令存儲和數據存儲分開的存儲器結構。中央處理器首先到程序指令存儲器中讀取程序指令內…

    Linux干貨 2016-12-03
  • Linux基礎之正則表達式

    正則表示式語法及在grep命令中的引用

    2017-09-09
  • Linux磁盤管理高級

    Linux磁盤管理高級 LVM Btrsh LVM 邏輯卷管理(LVM)指系統將物理卷管理抽象成一個邏輯卷,包括重新設定文件系統的大小,LVM可以彈性的更改LVM的容量,通過交換PE來進行資料的轉換,將原來LV內的PE轉移到其他的設備中以降低LV的容量,或將其他設備中的PE加到LV中以加大容量。 LVM還有快照的功能,快照區與原本的LV共用很多PE的區塊,因…

    Linux干貨 2016-09-09
  • 8月5日作業

    課堂練習: 1、找出ifconfig命令結果中本機的所有IPv4地址 [root@localhost ~]# ifconfig | tr -s " " |head -2 | tail -1 |cut …

    Linux干貨 2016-08-15
  • 馬哥教育網絡班21期+第7周課程練習

    馬哥教育網絡班21期+第7周課程練習 創建一個10G分區,并格式為ext4文件系統;    a.要求block大小為2048,預留空間百分比為2,卷標為MYDATA,默認掛載屬性包含acl;    b.掛載至/data/mydata目錄,要求掛載時禁止程序自動運行,且不能更新文件的訪問時間戳; #&…

    Linux干貨 2016-08-22
欧美性久久久久