awk sed 實例練習

1,sed介紹
    sed可刪除(delete)、改變(change)、添加(append)、插入(insert)、合、交換文件中的資料行,或讀入其它檔的資料到文>件中,也可替換(substuite)它們其中的字串、或轉換

(tranfer)其中的字母等等。例如將文件中的連續空白行刪成一行、"local"字串替換成"remote"、"t"字母轉換成"T"、將第10行資料與第11資料合等.
    總合上述所言,當sed由標準輸入讀入一行資料并放入pattern space時,sed依照sed script 的編輯指令逐一對pattern space內的資料執行編輯,之後,再由pattern space內的

結果送到標準輸出,接著再將下一行資料讀入.如此重執行上述動作,直至讀>完所有資料行為止.
    小結,記住:
            (1)sed總是以行對輸入進行處理
            (2)sed處理的不是原文件而是原文件的拷貝

命令行概述:
    sed 編輯指令的格式如下 :
              [address1[,address2]]function[argument]
其中 , 位址參數 address1 、address2 為行數或 regular expression 字串 , 表示所執行編輯的資料行; 函數參數 function[argument] 為 sed 的內定函數 , 表示執行的編輯

動作。

有那些函數(function)參數
   下頁表中介紹所有 sed 的函數參數(參照[chapter 4])的功能。
函數參數 功能
: label 建立 script file 內指令互相參考的位置。
# 建立解
{ } 集合有相同位址參數的指令。
! 不執行函數參數。
= 印出資料行數( line number )。
a\ 添加使用者輸入的資料。
b label 將執行的指令跳至由 : 建立的參考位置。
c\ 以使用者輸入的資料取代資料。
d 刪除資料。
D 刪除 pattern space 內第一個 newline 字母 \ 前的資料。
g 拷貝資料從 hold space。
G 添加資料從 hold space 至 pattern space 。
h 拷貝資料從 pattern space 至 hold space 。
H 添加資料從 pattern space 至 hold space 。
l 印出 l 資料中的 nonprinting character 用 ASCII 碼。
i\ 插入添加使用者輸入的資料行。
n 讀入下一筆資料。
N 添加下一筆資料到 pattern space。
p 印出資料。
P 印出 pattern space 內第一個 newline 字母 \ 前的資料。
q 跳出 sed 編輯。
r 讀入它檔內容。
s 替換字串。
t label 先執行一替換的編輯指令 , 如果替換成牛p>則將編輯指令跳至 : label 處執行。
w 寫資料到它檔內。
x 交換 hold space 與 pattern space 內容。
y 轉換(transform)字元。
雖然 , sed 只有上表所述幾個擁有基本編輯功能的函數 , 但由指令中位址參數和指令與指令間的配合 , 也能使sed 完成大部份的編輯任務。

2,1 刪除
(1) sed -e '1d' inputfile (刪除第一行)
    那么刪除第x行呢?刪除第x1,x2,x3行呢？
    sed -e 'xd' inputfile
    sed -e 'x1d' -e 'x2d' -e 'x3d' inputfile
    當然也許還有更好的辦法。

(2) sed -e '1,3d' file (刪除第一到第三行)
    思考：刪除第n行到第m行?也就是
    sed -e 'n,md' file
    刪除第一行到最后一行
    sed -e '1,$d' file     #$ 最后一行和一行的最后

(3) sed -e '/#/d' file (刪除含有'#'號的行)
    思考：刪除含有字母xx的行
    sed -e '/xx/d' file
    思考: 刪除除含有字符串xx的所有行
    sed -e '/xx/!d' file

(4) sed -e '/word1/, /word2/d' file (刪除從含有單詞word1到含有單詞word2的行)
    sed -e '10,/word1/d' file
    刪除文件中從第10行到含有word1的行
    sed -e '/word1/,10/d' file
    和上面的匹配相反，刪除從含有word1的行到第10行

(5) sed -e '/t.*t/d' file     (刪除含有兩個t的行)
    思考：刪除含有指定正在表達式匹配的行。


2.2 替換     
Sed 可替換文件中的字串、資料行、甚至資料區。其中,表示替換字串的指令中的函數參數為s;表示替換資料行、或資料區>的指令中的函數參數為c。上述情況以下面三個例子說明

。

*行的替換
(1) sed -e '1c\#!/bin/more' file (把第一行替換成#!/bin/more)
    思考: 把第n行替換成just do it
    sed -e 'nc\just do it' file

(2) sed -e '1,10c\I can do it' file (把1到10行替換成一行:I can do it)
    思考: 換成兩行(I can do it! Let's start)
    sed -e '1,10c\I can do it!\nLet'"\'"'s start' file

*字符的替換
(3) sed -e 's/word1/& word2/' file (將每一行的word1單詞替換成s參數最多與兩個位置參數相結合,函數參數s中有兩個特殊的符號:
    & : 代表pattern
    \n : 代表 pattern 中被第 n 個 \( 、\)(參照[附錄 A]) 所括起來的字串。例如

    sed -e 's/w1/& w2/' file # w1的地方輸出 w1 w2
    sed -e 's/\(test\) \(my\) \(car\)/[\2 \3 \1]/' file   #結果: [my car test]

*flag 參數舉例
    sed -e 's/w1/& w2/g' file
    g : 代表替換所有匹配項目;這里,文件中所有字符串w1都會被替換成字串w1 w2
    sed -e 's/w1/& w2/10' file
    m(10) : 替換行內第m個符合的字串; 記住，是行內的第m個匹配的字串
    sed -e 's/w1/& w2/p' file
    p : 替換第一個和w1匹配的字符串為w1 w2，并輸出到標準輸出.
    sed -e 's/w1/& w2/w w2file' file
    w filename : 該參數會將替換過的內容寫入到文件w2file并輸出替換后的整個文件。注意w2file里寫的只是替換過的行。    sed 'e 's/w1/& w2/' file
    這里的flag 為空, 這樣就只是將第一個w1匹配的字符串替換成w1 w2而后面的不進行替換。

*位置參數應用舉例
    sed -e '/machine/s/phi/beta/g' file
    將文件中含"machine"字串的資料行中的"phi"字串,替換成為"beta"字串
    sed -e '1,10 s/w1/& w2/g' file
    把1到10內的w1字符串替換成w1 w2字符串。
    sed -e '1,/else/ s/w1/& w2/g' file
    把1到字符串else內的w1字符串替換成w1 w2字符串。

其它位置參數的應用與前面的相同。


2.3 內容的插入
i
    基本格式:
    [address] i\ 插入內容 filename
word2)
說明:
函數參數 s 表示替換(substitute)文件內字串。其指令格式如下 :
[address1[ ,address2]] s/pattern/replacemen/[flag]

    sed -e '/#/i\words' file      #在#字符的前面插入一行words

說明：
    這里的函數參數是i，它只能有一個地址參數。
    sed -e '1/i\words' file
    在第一行前加一行words
    cat "word" | sed -e '/$/.doc/g'   #輸出word.doc
    在word后面加上后綴名，從而輸出word.doc
    i 參數正好與a參數相反，它是插入到所給內容的前面.

a
    a參數的使用格式如下：
    [address] a\ <插入內容> filename

    sed -e '/unix/a\ haha' test.txt   #在含有unix的行后添加"haha"
    #輸出結果為:
        unix
        haha

    另外: sed -e '1 a\ hh' test.txt #在第一行后添加hh字符.

2.4 文本的打印: p
    基本格式：
    [address1,[address2]] p

    (1) sed -e '/then/ p' filename #打印所有行并重復打印含有then 的行
    (2) sed -n '/then/ p' filename #只打印含有then的行
    (3) sed -e '1,3 p' filename     # 打印所有行并重復1-3行
    (4) sed -n '1,3 p' filename     # 打印1-3行
    (5) sed -n '/if/,/fi/ p' filename #打印字符if和fi之間的內容

    p函數為sed的打印函數，在這里要注意-e 和-n 參數的區別。一般使用-n參數。


2.5 字元的替換: y
    例如：
    (1)sed -e 'y/abc../xyz../' filename
    把文件中的a字母替換成x, b替換成y, c替換成z。
    (2) sed -e 'y/abc/ABC' filename
    把小寫的abc轉換成大寫的ABC

2.6 反相執行命令 : !
    基本格式:
    [address1[ , address2]] ! 函數參數

    sed -e '/1996/!d' filename
    刪除除了含有1996的所有行。


2.7 改變文件中的資料: c
    基本格式：
    [address1[ ,address2]]c\ filename
    函數參數 c 緊接著 "\" 字元用來表示此行結束 , 使用者所輸入的資料必須從下一行輸入。如果資料超過一行 , 則須在>每行的結尾加入"\"

    sed -e '/zhengxh/c hhhh' filename
    表示把含有字符串zhengxh的行，該成hhhh。

2.8 讀入下一行資料: n
    基本格式：
    [address1[ ,address2]] n

    sed -n -e '/echo/n' -e 'p' temp
    表示輸出文件，但如果一行含有字符串echo，則輸出包含該字符串的下一行。
    sed -n -e 'n' -e 'p' filename
    輸出文中的偶數行

3, 命令的復用
    一次執行多個命令的方式有三種：
    (1) sed 's/w1/& w2/g; 1/i\words' filename   (使用;號把命令隔開，注意前面不加-e參數)
    (2) sed -e 'cmd1' -e 'cmd2' filename     (使用多個-e參數)






一. 替換
1.神奇變換(y命令的使用)
代碼:
sed 'y/ori_letter_list/target_letter_list/' filename
代碼:
cat filename
1234567890
2345678901
3456789012
4567890123
測試
將文件中1換成A
將文件中2換成B
...
將文件中0換成J
代碼:
sed 'y/1234567890/ABCDEFGHIJ/' filename
ABCDEFGHIJ
BCDEFGHIJA
CDEFGHIJAB
DEFGHIJABC
注意變換關系是按兩個list的位置對應變換,y是一個管局命令,拒絕使用后綴flag/g
list1:1234567890
list2:ABCDEFGHIJ
下面再作一個與前例相反的變換
代碼:
sed 'y/0987654321/ABCDEFGHIJ/' filename
JIHGFEDCBA
IHGFEDCBAJ
HGFEDCBAJI
GFEDCBAJIH

2.替換每行第一個匹配
代碼:
sed 's/regexpr/anyword/' filename
sed 's/regexpr/anyword/1' filename
舉例:
引用:
cat filename
1234567890 2345678901
3456789012 4567890123
sed 's/5/五/' filename
1234五67890 2345678901
34五6789012 4567890123

3.替換每行第n(如果有的話)個匹配
代碼:
sed "s/regexpr/anyword/${ n }" filename
cat filename
111111111111111111
222222222222222222
333333333333333333
444444444444444444
舉例
sed "s/4/ 四 /8" filename
111111111111111111
222222222222222222
333333333333333333
4444444 四 4444444444

4.替換每行所有匹配
代碼:
cat filename
1234567890 2345678901
3456789012 4567890123
代碼:
舉例:
sed 's/3/三/g' filename
12三4567890 2三45678901
三456789012 456789012三

二.行號處理
1.為文件加行號
代碼:
sed = filename|sed 'N;s/\n/:/'
cat filename
111111111111111111
222222222222222222
333333333333333333
444444444444444444
舉例
代碼:
sed = filename|sed 'N;s/\n/:/' filename
1:111111111111111111
2:222222222222222222
3:333333333333333333
4:444444444444444444
2.僅為文件中的正文行加行號
代碼:
sed /./= a|sed '/./N;s/\n/:/'
舉例
代碼:
cat filename
111111111111111111
222222222222222222
333333333333333333
444444444444444444
sed /./= a|sed '/./N;s/\n/:/' filename
1:111111111111111111
3:222222222222222222
4:333333333333333333
6:444444444444444444

三.字串翻轉
代碼:
sed '/\n/!G;s/\(.\)\(.*\n\)/&\2\1/;s/.//'
舉例
代碼:
echo 1234567890|sed '/\n/!G;s/\(.\)\(.*\n\)/&\2\1/;s/.//'
0987654321

四.選擇性輸出
1.打印文檔奇數行(隔行輸出)
代碼:
sed 'n;d'
sed 'x;$!N;x'
sed -n 'p;n'
1
3
5
7

2.打印偶數行(隔行輸出)
代碼:
sed -n 'n;p'
sed '1d;n;d;'
2
4
6
8

3.刪除連續重復行（大量使用了pattern space 文件太大時要注意）
代碼:
sed '$!N; /^\(.*\)\n\1$/!P; D'
#使用 $!N 要當心內存溢出
舉例
代碼:
cat file
111111111111111111
222222222222222222
222222222222222222
333333333333333333
444444444444444444
444444444444444444
444444444444444444
444444444444444444
444444444444444444
sed '$!N; /^\(.*\)\n\1$/!P; D' filename
111111111111111111
222222222222222222
333333333333333333
444444444444444444

4.合并上下行并以空格相分隔
代碼:
sed '$!N;s/\n/ /'
舉例
代碼:
cat file
1234567890
0987654321
執行命令后
1234567890 0987654321

5.將以\符號結尾的行與下行合并并以空格分隔(拼接斷行)
代碼:
sed -e :a -e '/\\$/N; s/\\\n/ /; ta'
舉例
代碼:
cat filename
1 111111111111111111\
2 222222222222222222
3 333333333333333333\
4 444444444444444444
sed -e :a -e '/\\$/N; s/\\\n/ /; ta' filename
1 111111111111111111 2 222222222222222222
3 333333333333333333 4 444444444444444444

6.按關鍵字拼接行
如果某行以=開始，則合并到上一行并替代＝為空格
代碼:
sed -e :a -e '$!N;s/\n=/ /;ta' -e 'P;D'
舉例
代碼:
cat file
111111111111111111
222222222222222222
=333333333333333333
444444444444444444
sed -e :a -e '$!N;s/\n=/ /;ta' -e 'P;D' filename
111111111111111111
222222222222222222 333333333333333333
444444444444444444

7.輸出匹配行的下一行
代碼:
sed -n '/regexpr/{ n;p; }' filename
舉例
代碼:
cat filename
1 111111111111111111
2 222222222222222222
3 333333333333333333
4 444444444444444444
sed -n '/^3/{ n;p; }' filename
4 444444444444444444

8.顯示匹配行的行號并輸出匹配行的上行、匹配行、下行
sed -n -e '/regexpr/{ =;x;1!p;g;$!N;p;D; }' -e h
舉例
代碼:
cat filename
1 111111111111111111
2 222222222222222222
3 333333333333333333
4 444444444444444444
sed -n -e '/^3/{ =;x;1!p;g;$!N;p;D; }' -e h filename
3 #匹配行的行號
2 222222222222222222 #上一行
3 333333333333333333 #匹配行
4 444444444444444444 #下一行

9.刪除文檔中某標志區域內的關鍵字匹配行
刪除文檔中從being開到end結束的塊中包含myword的行
代碼:
sed '/^begin/,/^end/{ /myword/d; }' filename
引用:
cat filename
myword
begin
myword
Number!
myword
Number!
myword
Number!
myword
Number!
end
myword
Number!
測試
引用:
myword
begin
Number!
Number!
Number!
Number!
end
myword
Number!

五.字串解析
1.從字串中解析出兩個子串(前2各字符和后9個字符)
代碼:
echo "WeLoveChinaUnix"|sed -e 'H;s/\(..\).*/\1/;x;s/.*\(.\{ 9\ }\)$/\1/;x;G;s/\n/ /'
We ChinaUnix

2.分解日期串
代碼:
echo 20030922|sed 's/\(....\)\(..\)\(..\)/\1 \2 \3/'|read year month day
echo $year $month $day
2003 09 22
######################
cat file1
--代號 --賬號
  101      aa
  102      bb
  103      cc
cat file2
--代號 --姓名
  101    aaaa
  103    bbbb
  104    dddd
awk 'NR==FNR{a[$1]=$2}NR>FNR{printf "%-10s\t%-10s\t%-10s\n", $1,a[$1],$2;delete a[$1]}END{for(i in a)printf "%-10s\t%-10s\t%-10s\n",i,a[i],""}' 1 2|sort -k 1

-n

cat a
1399946_1399944_1399943_1399942_1399941_1399940_1399939_1399938_1399937_1399936_1399935_1399934_1399933_1399932_1399931_1399930
1399946_1399944_1399943_1399942_1399941_1399940_1399939_1399938_1399937_1399936_1399935_1399934_1399933_1399932_1399931_1399930


awk  'BEGIN{RS="_"}{print $1 | "sort"}' a

1399946
1399944
1399943


#####################
sed  -n '/wrwq/a \shenzhen' myfile  插入wrwq后面一行,插入shenzhen一行
sed  -n '/wrwq/i \shenzhen' myfile   插入wrwq前面一行


在b.txt的第2行
之前
插入“xxx”
    sed '2 i/xxx' b.txt
 
在b.txt的第2行
之后
插入“xxx”
 
    sed '2 a/xxx' b.txt
 
在b.txt的第2行和第3行
之后
插入“xxx”
    sed '2,3 a/xxx' b.txt
 
在b.txt的第2行和第3行
之前
插入“xxx”
    sed '2,3 i/xxx' b.txt
在b.txt的第2行至最后一行
之前
插入“xxx”
    sed '2,$ i/xxx' b.txt



[root@dbtest1 ~]# cat 1     《 如文件所示 ，要求合并文件為兩行，》
1
2
3
4
5
6
[root@dbtest1 ~]# awk '{if(NR%3==0)printf("%s\n",$0);else printf("%s ",$0)}' 1
1 2 3
4 5 6
[root@dbtest1 ~]# awk '{a=$0;getline;b=$0;getline;print a,b,$0}' 1
1 2 3
4 5 6
[root@dbtest1 ~]# cat 1 | xargs  -n3
1 2 3
4 5 6

[root@dbtest1 ~]#  sed 'N;N;s/\n/ /g' 1
1 2 3
4 5 6
#####################################################################################################################


####################################################################################################################
刪除重復的行
在awk中，可以用！a[$0]++做為條件，對重復出現的行進行處理。
[root@dbtest1 ~]# cat 2
111111111111111111
222222222222222222
222222222222222222
333333333333333333
444444444444444444
444444444444444444
444444444444444444
444444444444444444
444444444444444444
[root@dbtest1 ~]# awk '!a[$0]++' 2
111111111111111111
222222222222222222
333333333333333333
444444444444444444
[root@dbtest1 ~]# sed '$!N; /^\(.*\)\n\1$/!P; D'  2
111111111111111111
222222222222222222
333333333333333333
444444444444444444

[root@dbtest2 ~]# more c
1 2
3 4
5 6
[root@dbtest2 ~]# sed ':a;N;s/\n/ /g;ba;' c
1 2 3 4 5 6

對于awk '!a[$3]++'，需要了解3個知識點
1、awk數組知識，說不通ing----
2、awk的基本命令格式 awk 'pattern{action}'
    省略action時，默認action是{print}，如awk '1'就是awk '1{print}'
3、var++的形式：先讀取var變量值，再對var值+1

以數據
1 2 3
1 2 3
1 2 4
1 2 5
為例，對于awk '!a[$3]++'
awk處理第一行時： 先讀取a[$3]值再自增，a[$3]即a[3]值為空(0)，即為awk '!0'，即為awk '1'，即為awk '1{print}'
awk處理第二行時： 先讀取a[$3]值再自增，a[$3]即a[3]值為1，即為awk '!1'，即為awk '0'，即為awk '0{print}'
.............

最后實現的效果就是對于$3是第一次出現的行進行打印，也就是去除$3重復的行   
########################################################################################################################



#######################################################################################################################
分隔符
[root@dbtest1 ~]# more a
[aa]
aa1
dd2
dd3
dd4

[bb]
dd5
dd6
dd7
xx8
dd9
5510


[root@dbtest1 ~]#  awk -vRS="\n\n" '/aa/' a
[aa]
aa1
dd2
dd3
dd4
 
[root@dbtest1 ~]# awk '{if($0 !~ /^$/)print;else exit}' a 
[aa]
aa1
dd2
dd3
dd4

[root@dbtest1 ~]#  awk -vRS="[" '/aa/{print RS$0}' a    
[aa]
aa1
dd2
dd3
dd4


[root@dbtest1 home]# more c
1399946_1399944_1399943_1399942_1399941_1399940_1399939

[root@dbtest1 home]#  awk  'BEGIN{RS="_"}{print $1 | "sort"}'  c
1399939
1399940
1399941
1399942
1399943
1399944
1399946
############################################################################################################



#############################################################################################################
字串解析
1.從字串中解析出兩個子串(前2各字符和后9個字符)
代碼:
echo "WeLoveChinaUnix"|sed -e 'H;s/\(..\).*/\1/;x;s/.*\(.\{ 9\ }\)$/\1/;x;G;s/\n/ /'
We ChinaUnix

2.分解日期串

echo 20030922|sed 's/\(....\)\(..\)\(..\)/\1 \2 \3/'|read year month day
echo $year $month $day
2003 09 22

[root@dbtest1 home]# more 1
--daihao --zhanghao
  101      aa
  102      bb
  103      cc

[root@dbtest1 home]# more 2
--daihao --zhanghao
  101    aaaa
  103    bbbb
  104    dddd
[root@dbtest1 home]# awk 'NR==FNR{a[$1]=$2}NR>FNR{printf "%-10s\t%-10s\t%-10s\n", $1,a[$1],$2;delete a[$1]}END{for(i in a)printf "%-10s\t%-10s\t%-10s\n",i,a[i],""}' 1 2|sort -k 1 -n
                                     
--daihao      --zhanghao    --zhanghao
101           aa            aaaa     
102           bb                     
103           cc            bbbb     
104                         dddd     
####################################################################################################################


###################################################################################################################

awk 數組
米字距列求和與積

[root@dbtest1 home]# more 3
1 2 3
4 5 6
7 8 9
[root@dbtest1 home]# awk 'NF==3{l++;for(n=0;n++<3;)a[l,n]=$n}END{mr=mc=ms=mb=1;for(n=0;n++<3;){mr*=a[n,2];ar+=a[n,2];mc*=a[2,n];ac+=a[2,n];ms*=a[n,4-n];as+=a[n,4-n];mb*=a[n,n];ab+=a[n,n]}print "row2 add="ar" row2 mul="mr"\ncol2 add="ac" col2 mul="mc"\nslash add="as" slash mul="ms"\nback slash add="ab" back slash mul="mb}' 3
row2 add=15 row2 mul=80
col2 add=15 col2 mul=120
slash add=15 slash mul=105
back slash add=15 back slash mul=45
[root@dbtest1 home]# awk -vRS= '{j=4;product=1;for(i=1;i<=4;i++){product=$i*$(j+i)*$(2*j+i);sum=$i+$(j+i)+$(2*j+i);print sum,product;j--}}' 3
15 45
15 80
15 105
15 120
[root@dbtest1 home]#  awk -vRS= '{j=4;for(i=1;i<=4;i++){print $i+$(j+i)+$(2*j+i),$i*$(j+i)*$(2*j+i);j--}}'  3
15 45
15 80
15 105
15 120
#################################################################################################################################

[root@dbtest2 ~]# more b
I0011   11111
I0012   22222
I0014   55555
I0013   66666
[root@dbtest2 ~]# more a               比較b第一個域中2-5個字符是否與a中第一個域中1-4個字符相同，若相同，則合并b到a中
0011AAA 200.00 20050321
0012BBB 300.00 20050621
0013DDD 400.00 20050622
0014FFF 500.00 20050401
[root@dbtest2 ~]# awk   'NR==FNR{a[substr($1,2,5)]=$2}NR>FNR&&a[b=substr($1,1,4)]{print $0,a[b]}' b a
0011AAA 200.00 20050321 11111
0012BBB 300.00 20050621 22222
0013DDD 400.00 20050622 66666
0014FFF 500.00 20050401 55555