awk命令詳解

簡介:

wak是一個強大的文本分析工具,也可以叫做報告生成工具。相對于grep的查找,sed的編輯,awk在對其數據分析并生成報告時,顯得尤為強大。簡單來說awk就是把文件逐行的讀入,以空格 為默認分隔符將每行切片,切開的部分再進行各種分析處理。


awk有三個不同的版本:awknawk,gawk。我們目前所使用的awk一般指gawkgawkAWKGNU的版本。


awk的命名方式比較特殊,它是由它的三位創始人名字的首個字母組成。awk擁有自己的語言:awk程序設計語言,三位創始人已經將它正式定義為“樣式掃描和處理語言”。它允許您創建簡短的程序,這些程序讀取輸入文件,為數據排序處理數據,對輸入執行計算以及生成報表,還有很多強大的功能,這里就不再一一敘述了。



使用方法

awk 用法:awk ' pattern {action} '  

變量名    含義 
ARGC   命令行變元個數 

awk 用法:awk ' pattern {action} '  

變量名    含義 
ARGC
   命令行變元個數 
ARGV 
  命令行變元數組 
FILENAME
   當前輸入文件名 
FNR
   當前文件中的記錄號 
FS   
輸入域分隔符,默認為一個空格 
RS 
  輸入記錄分隔符 
NF
   當前記錄里域個數 
NR
   到目前為止記錄數 
OFS  
 輸出域分隔符 
ORS
   輸出記錄分隔符 
1、
awk '/101/'    file 
     顯示文件

file中包含101的匹配行。 
   awk '/101/,/105/'  file 
   awk '$1 == 5'    file 
   awk '$1 == "CT"'    file    注意必須帶雙引號 
   awk '$1 * $2 >100 '   file  
   awk '$2 >5 && $2<=15'  file


2、awk '{print NR,NF,$1,$NF,}' file     顯示文件file的當前記錄號、域數和每一行的第一個和最后一個域。 
   awk '/101/ {print $1,$2 + 10}' file       顯示文件file的匹配行的第一、二個域加10。 
   awk '/101/ {print $1$2}'  file 
   awk '/101/ {print $1 $2}' file       顯示文件file的匹配行的第一、二個域,但顯示時域中間沒有分隔符。


3、df | awk '$4>1000000 '         通過管道符獲得輸入,如:顯示第4個域滿足條件的行。


4、awk -F "|" '{print $1}'   file         按照新的分隔符“|”進行操作。 
   awk  'BEGIN { FS="[: \t|]" } 
   {print $1,$2,$3}'       file         通過設置輸入分隔符(FS="[: \t|]")修改輸入分隔符。 

   Sep="|" 
   awk -F $Sep '{print $1}'  file   按照環境變量Sep的值做為分隔符。    
   awk -F '[ :\t|]' '{print $1}' file   按照正則表達式的值做為分隔符,這里代表空格、:、TAB、|同時做為分隔符。 
   awk -F '[][]'    '{print $1}' file   按照正則表達式的值做為分隔符,這里代表[、]


5、awk -f awkfile    file         通過文件awkfile的內容依次進行控制。 
   cat awkfile 
/101/{print "\047 Hello! \047"}    –遇到匹配行以后打印 ' Hello! '.  \047代表單引號。 
{print $1,$2}                      –因為沒有模式控制,打印每一行的前兩個域。


6、awk '$1 ~ /101/ {print $1}' file         顯示文件中第一個域匹配101的行(記錄)。


7、awk   'BEGIN { OFS="%"} 
   {print $1,$2}'  file           通過設置輸出分隔符(OFS="%")修改輸出格式。


8、awk   'BEGIN { max=100 ;print "max=" max}             BEGIN 表示在處理任意行之前進行的操作。 
   {max=($1 >max ?$1:max); print $1,"Now max is "max}' file           取得文件第一個域的最大值。 
   (表達式1?表達式2:表達式3 相當于: 
   if (表達式1) 
       表達式2 
   else 
       表達式3 
   awk '{print ($1>4 ? "high "$1: "low "$1)}' file 


9、awk '$1 * $2 >100 {print $1}' file         顯示文件中第一個域匹配101的行(記錄)。


10、awk '{$1 == 'Chi' {$3 = 'China'; print}' file        找到匹配行后先將第3個域替換后再顯示該行(記錄)。 
    awk '{$7 %= 3; print $7}'  file           將第7域被3除,并將余數賦給第7域再打印。


11、awk '/tom/ {wage=$2+$3; printf wage}' file          找到匹配行后為變量wage賦值并打印該變量。


12、awk '/tom/ {count++;}  
         END {print "tom was found "count" times"}' file            END表示在所有輸入行處理完后進行處理。


13、awk 'gsub(/\$/,"");gsub(/,/,""); cost+=$4; 
         END {print "The total is $" cost>"filename"}'    file             gsub函數用空串替換$和,再將結果輸出到filename中。 
    1 2 3 $1,200.00 
    1 2 3 $2,300.00 
    1 2 3 $4,000.00 

    awk '{gsub(/\$/,"");gsub(/,/,""); 
    if ($4>1000&&$4<2000) c1+=$4; 
    else if ($4>2000&&$4<3000) c2+=$4; 
    else if ($4>3000&&$4<4000) c3+=$4; 
    else c4+=$4; } 
    END {printf  "c1=[%d];c2=[%d];c3=[%d];c4=[%d]\n",c1,c2,c3,c4}"' file 
    通過if和else if完成條件語句 

    awk '{gsub(/\$/,"");gsub(/,/,""); 
    if ($4>3000&&$4<4000) exit; 
    else c4+=$4; } 
    END {printf  "c1=[%d];c2=[%d];c3=[%d];c4=[%d]\n",c1,c2,c3,c4}"' file 
    通過exit在某條件時退出,但是仍執行END操作。 
    awk '{gsub(/\$/,"");gsub(/,/,""); 
    if ($4>3000) next; 
    else c4+=$4; } 
    END {printf  "c4=[%d]\n",c4}"' file 
    通過next在某條件時跳過該行,對下一行執行操作。 


14、awk '{ print FILENAME,$0 }' file1 file2 file3>fileall              把file1、file2、file3的文件內容全部寫到fileall中,格式為 
    打印文件并前置文件名。


15、awk ' $1!=previous { close(previous); previous=$1 }    
    {print substr($0,index($0," ") +1)>$1}' fileall           把合并后的文件重新分拆為3個文件。并與原文件一致。


16、awk 'BEGIN {"date"|getline d; print d}'         通過管道把date的執行結果送給getline,并賦給變量d,然后打印。 


17、awk 'BEGIN {system("echo \"Input your name:\\c\""); getline d;print "\nYour name is",d,"\b!\n"}' 
    通過getline命令交互輸入name,并顯示出來。 
    awk 'BEGIN {FS=":"; while(getline< "/etc/passwd" >0) { if($1~"050[0-9]_") print $1}}' 
    打印/etc/passwd文件中用戶名包含050x_的用戶名。 

18、awk '{ i=1;while(i<NF) {print NF,$i;i++}}' file 通過while語句實現循環。 
    awk '{ for(i=1;i<NF;i++) {print NF,$i}}'   file 通過for語句實現循環。     
    type file|awk -F "/" ' 
    { for(i=1;i<NF;i++) 
    { if(i==NF-1) { printf "%s",$i } 
    else { printf "%s/",$i } }}'               顯示一個文件的全路徑。 
    用for和if顯示日期 
    awk  'BEGIN { 
for(j=1;j<=12;j++) 
{ flag=0; 
  printf "\n%d月份\n",j; 
        for(i=1;i<=31;i++) 
        { 
        if (j==2&&i>28) flag=1; 
        if ((j==4||j==6||j==9||j==11)&&i>30) flag=1; 
        if (flag==0) {printf "%02d%02d ",j,i} 
        } 

}'


19、在awk中調用系統變量必須用單引號,如果是雙引號,則表示字符串 
Flag=abcd 
awk '{print '$Flag'}'   結果為abcd 
awk '{print  "$Flag"}'   結果為$Flag

===============================

    $awk 'BEGIN{total=0}{total+=$4}END{print total}' a.txt   —–對a.txt文件的第四個域進行求和!

  • $ awk '/^(no|so)/' test      —–打印所有以模式no或so開頭的行。

  • $ awk '/^[ns]/{print $1}' test       —–如果記錄以n或s開頭,就打印這個記錄。

  • $ awk '$1 ~/[0-9][0-9]$/(print $1}' test         —–如果第一個域以兩個數字結束就打印這個記錄。

  • $ awk '$1 == 100 || $2 < 50' test      —–如果第一個或等于100或者第二個域小于50,則打印該行。

  • $ awk '$1 != 10' test    —–如果第一個域不等于10就打印該行。

  • $ awk '/test/{print $1 + 10}' test  —–如果記錄包含正則表達式test,則第一個域加10并打印出來。

  • $ awk '{print ($1 > 5 ? "ok "$1: "error"$1)}' test   —–如果第一個域大于5則打印問號后面的表達式值,否則打印冒號后面的表達式值。

  • $ awk '/^root/,/^mysql/' test        —-打印以正則表達式root開頭的記錄到以正則表達式mysql開頭的記錄范圍內的所有記錄。如果找到一個新的正則表達式root開頭的記錄,則繼續打印直到下一個以正則表達式mysql開頭的記錄為止,或到文件末尾。


ARGV   命令行變元數組 
FILENAME   當前輸入文件名 
FNR   當前文件中的記錄號 
FS   輸入域分隔符,默認為一個空格 
RS   輸入記錄分隔符 
NF   當前記錄里域個數 
NR   到目前為止記錄數 
OFS   輸出域分隔符 
ORS   輸出記錄分隔符 

1、awk '/101/'    file      顯示文件file中包含101的匹配行。 
   awk '/101/,/105/'  file 
   awk '$1 == 5'    file 
   awk '$1 == "CT"'    file    注意必須帶雙引號 
   awk '$1 * $2 >100 '   file  
   awk '$2 >5 && $2<=15'  file


2、awk '{print NR,NF,$1,$NF,}' file     顯示文件file的當前記錄號、域數和每一行的第一個和最后一個域。 
   awk '/101/ {print $1,$2 + 10}' file       顯示文件file的匹配行的第一、二個域加10。 
   awk '/101/ {print $1$2}'  file 
   awk '/101/ {print $1 $2}' file       顯示文件file的匹配行的第一、二個域,但顯示時域中間沒有分隔符。


3、df | awk '$4>1000000 '         通過管道符獲得輸入,如:顯示第4個域滿足條件的行。


4、awk -F "|" '{print $1}'   file         按照新的分隔符“|”進行操作。 
   awk  'BEGIN { FS="[: \t|]" } 
   {print $1,$2,$3}'       file         通過設置輸入分隔符(FS="[: \t|]")修改輸入分隔符。 

   Sep="|" 
   awk -F $Sep '{print $1}'  file   按照環境變量Sep的值做為分隔符。    
   awk -F '[ :\t|]' '{print $1}' file   按照正則表達式的值做為分隔符,這里代表空格、:、TAB、|同時做為分隔符。 
   awk -F '[][]'    '{print $1}' file   按照正則表達式的值做為分隔符,這里代表[、]


5、awk -f awkfile    file         通過文件awkfile的內容依次進行控制。 
   cat awkfile 
/101/{print "\047 Hello! \047"}    –遇到匹配行以后打印 ' Hello! '.  \047代表單引號。 
{print $1,$2}                      –因為沒有模式控制,打印每一行的前兩個域。


6、awk '$1 ~ /101/ {print $1}' file         顯示文件中第一個域匹配101的行(記錄)。


7、awk   'BEGIN { OFS="%"} 
   {print $1,$2}'  file           通過設置輸出分隔符(OFS="%")修改輸出格式。


8、awk   'BEGIN { max=100 ;print "max=" max}             BEGIN 表示在處理任意行之前進行的操作。 
   {max=($1 >max ?$1:max); print $1,"Now max is "max}' file           取得文件第一個域的最大值。 
   (表達式1?表達式2:表達式3 相當于: 
   if (表達式1) 
       表達式2 
   else 
       表達式3 
   awk '{print ($1>4 ? "high "$1: "low "$1)}' file 


9、awk '$1 * $2 >100 {print $1}' file         顯示文件中第一個域匹配101的行(記錄)。


10、awk '{$1 == 'Chi' {$3 = 'China'; print}' file        找到匹配行后先將第3個域替換后再顯示該行(記錄)。 
    awk '{$7 %= 3; print $7}'  file           將第7域被3除,并將余數賦給第7域再打印。


11、awk '/tom/ {wage=$2+$3; printf wage}' file          找到匹配行后為變量wage賦值并打印該變量。


12、awk '/tom/ {count++;}  
         END {print "tom was found "count" times"}' file            END表示在所有輸入行處理完后進行處理。


13、awk 'gsub(/\$/,"");gsub(/,/,""); cost+=$4; 
         END {print "The total is $" cost>"filename"}'    file             gsub函數用空串替換$和,再將結果輸出到filename中。 
    1 2 3 $1,200.00 
    1 2 3 $2,300.00 
    1 2 3 $4,000.00 

    awk '{gsub(/\$/,"");gsub(/,/,""); 
    if ($4>1000&&$4<2000) c1+=$4; 
    else if ($4>2000&&$4<3000) c2+=$4; 
    else if ($4>3000&&$4<4000) c3+=$4; 
    else c4+=$4; } 
    END {printf  "c1=[%d];c2=[%d];c3=[%d];c4=[%d]\n",c1,c2,c3,c4}"' file 
    通過if和else if完成條件語句 

    awk '{gsub(/\$/,"");gsub(/,/,""); 
    if ($4>3000&&$4<4000) exit; 
    else c4+=$4; } 
    END {printf  "c1=[%d];c2=[%d];c3=[%d];c4=[%d]\n",c1,c2,c3,c4}"' file 
    通過exit在某條件時退出,但是仍執行END操作。 
    awk '{gsub(/\$/,"");gsub(/,/,""); 
    if ($4>3000) next; 
    else c4+=$4; } 
    END {printf  "c4=[%d]\n",c4}"' file 
    通過next在某條件時跳過該行,對下一行執行操作。 


14、awk '{ print FILENAME,$0 }' file1 file2 file3>fileall              把file1、file2、file3的文件內容全部寫到fileall中,格式為 
    打印文件并前置文件名。


15、awk ' $1!=previous { close(previous); previous=$1 }    
    {print substr($0,index($0," ") +1)>$1}' fileall           把合并后的文件重新分拆為3個文件。并與原文件一致。


16、awk 'BEGIN {"date"|getline d; print d}'         通過管道把date的執行結果送給getline,并賦給變量d,然后打印。 


17、awk 'BEGIN {system("echo \"Input your name:\\c\""); getline d;print "\nYour name is",d,"\b!\n"}' 
    通過getline命令交互輸入name,并顯示出來。 
    awk 'BEGIN {FS=":"; while(getline< "/etc/passwd" >0) { if($1~"050[0-9]_") print $1}}' 
    打印/etc/passwd文件中用戶名包含050x_的用戶名。 

18、awk '{ i=1;while(i<NF) {print NF,$i;i++}}' file 通過while語句實現循環。 
    awk '{ for(i=1;i<NF;i++) {print NF,$i}}'   file 通過for語句實現循環。     
    type file|awk -F "/" ' 
    { for(i=1;i<NF;i++) 
    { if(i==NF-1) { printf "%s",$i } 
    else { printf "%s/",$i } }}'               顯示一個文件的全路徑。 
    用for和if顯示日期 
    awk  'BEGIN { 
for(j=1;j<=12;j++) 
{ flag=0; 
  printf "\n%d月份\n",j; 
        for(i=1;i<=31;i++) 
        { 
        if (j==2&&i>28) flag=1; 
        if ((j==4||j==6||j==9||j==11)&&i>30) flag=1; 
        if (flag==0) {printf "%02d%02d ",j,i} 
        } 

}'


19、在awk中調用系統變量必須用單引號,如果是雙引號,則表示字符串 
Flag=abcd 
awk '{print '$Flag'}'   結果為abcd 
awk '{print  "$Flag"}'   結果為$Flag

===============================

    


原創文章,作者:李書鵬,如若轉載,請注明出處:http://www.www58058.com/61010

(0)
李書鵬李書鵬
上一篇 2016-11-28 13:37
下一篇 2016-11-28 14:10

相關推薦

  • 第八周練習腳本部分

    1、寫一個腳本,使用ping命令探測172.16.250.1-172.16.250.254之間的所有主機的在線狀態;在線的主機使用綠色顯示;不在線的主使用紅色顯示; #!/bin/bash # for((i=1;i<=254;i++));do     site="172.16.250.${i}&quot…

    Linux干貨 2016-12-15
  • Linux 第六天: (08月03日) 練習和作業

    Linux 第六天: (08月03日) 練習和作業        當用戶xiaoming對/testdir目錄無執行權限時, 無法做哪些操作? 無法 ls -l 無法cd     當用戶xiaoqiang對/testdir目錄無讀權限時, 無法做哪些操作? 無法查看目錄文件列表   &nb…

    Linux干貨 2016-08-08
  • linux基礎知識:文件管理,bash特性

    本文簡要介紹了文件類的管理命令,包括mv、cp、mkdir等等。還介紹了一些萬用字符的用法。

    2017-12-12
  • N26第二周博客作業

    1、  Linux上的文件管理類命令都有哪些,其常用的使用方法及其相關示例演示。 常見的文件查看命令有:cat,tac,head,tail,more,less,stat,touch 常見的文件管理命令有:cp,mv,rm 常見的目錄管理命令:mkdir,rmdir 以下進行詳細介紹: 1.1  文件查看命令 l  ca…

    Linux干貨 2017-02-03
  • 壓縮與解壓

        compress 命令使用“Lempress-Ziv”編碼壓縮數據文件。compress是個歷史悠久的壓縮程序,文件經它壓縮后,其名稱后面會多出”.Z”的擴展名。當要解壓縮時,可執         &nbsp…

    2017-08-14
  • 0801課堂練習與作業

    1、將/etc/issue文件中的內容轉換為大寫后保存至/tmp/issue.out文件中      cat /etc/issue | tr 'a-z' 'A-Z' > /tmp/issue.out 2、將當前系統登錄用戶的信息轉換為大寫后保存至/tmp/who.out文…

    Linux干貨 2016-08-02
欧美性久久久久