shell正则表达式编辑三剑客之sed、awk

shell正则表达式编辑三剑客之sed、awk

一、sed编辑器

1、sed的定义

（1）sed时一种流编辑器，流编辑器会在编辑器处理数据之前基于预先提供的一组规则来编辑数据流。

（2）sed编辑器可以根据命令来处理数据流中的数据，这些命令要么从命令行中输入，要么存储在一个命令文本文件中。

2、sed的工作流程主要包括读取、执行和显示三个过程：

（1）读取：sed从输入流（文件、管道、标准输入）中读取一行内容并储存到临时的缓冲区中（又称模式空间，pattern space）。

（2）执行：默认情况下，所有的sed命令都在模式空间中顺序地执行，除非指定了行地地址，否则sed命令将会在所有地行上依次执行。

（3）显示：发送修改后的内容到输出流。在发送数据后，模式空间将会被清空。在所有的文件内容都被处理完成之前，上述过程将重复执行，直至所有内容被处理完。

注意：默认情况下所有的sed命令都是在模式空间内执行的，因此输入的文件并不会发生任何变化，除非是用重定向储存输出。

3、sed命令格式：

sed -e ‘操作’ 文件1 文件2 …

sed -n -e ‘操作’ 文件1 文件2 …

sed -f 脚本文件 文件1 文件2 …

sed -i -e ‘操作’ 文件1 文件2 …

sed -e 'n{

操作1

操作2

…

}’ 文件1 文件2 …

4、sed常用选项：

-e或–expression=：表示用指定命令来处理输入的文本文件，只有一个操作命令时可省略，一般在执行多个操作命令使用。

-f或–file=：表示用户指定的脚本文件来处理输入的文本文件。

-h或–help：显示帮助。

-n、–quiet或silent：禁止sed编辑器输出，但可以与p命令一起使用完成输出。

-i：直接修改目标文本文件。

5、常用操作：

s：替换，替换指定字符。

d：删除，删除选定的行。

a：增加，在当前行下面增加一行指定内容。

i：插入，在选定行上面插入一行指定内容。

c：替换，将选定行替换为指定内容。

y：字符转换，转换前后的字符长度必须相同。

p：打印，如果同时指定行，表示打印指定行；如果不指定·行，则表示打印所有内容；如果有非打印字符，则以ASCII吗输出。其通常与“-n”选项一起使用。

=：打印行号。

l（小写L）：打印数据流中的文本和不可打印的ASCII字符（比如结束符$、制表符\t）

6、打印内容

（1）打印内容：sed -n -e ‘p’ testfile1

（2）打印行号：sed -n -e ‘=’ testfile1

（3）打印行号和内容


（4）打印ASCII字符

7、使用地址

sed编辑器有2种寻址方式：

（1）以数字形式表示区间


（2）用文本模式来过滤行

sed -n ‘/user/p’ /etc/passwd——————打印/etc/passwd 文件内有user的行

sed -n ‘/^a/p’ /etc/passwd——————打印/etc/passwd 文件内以a开头的行

sed -n ‘/bash$/p’ /etc/passwd ————————打印/etc/passwd 文件内以bash结尾的行

sed -n ‘/ftp|root/p’ /etc/passwd————————打印etc/passwd 文件内包含ftp或者root的行

sed -n ‘2,/nobody/p’ /etc/passwd ————————从第二行开始打印至第一个包含nobody的行

sed -n ‘2,/nobody/=’ /etc/passwd —————————从第二行开始打印至第一个包含nobody的行号

sed -nr ‘/ro{1,}t/p’ /etc/passwd————-r表示支持正则表达式，打印出etc/passwd 文件匹配o出现1次以上

8、删除行

[root@localhost ~]#sed ‘/^KaTeX parse error: Expected 'EOF', got '#' at position 19: … testfile1 #̲删除空行 [root@loca…/d’ testfile1 #因为前面所有的打印的内容都不是直接修改的文件，如果想要修改文件内容可以使用 -i 操作进行直接修改

[root@localhost ~]#sed ‘/nologin$/d’ /etc/passwd #删除以nologin结尾的行

[root@localhost ~]#sed ‘/nologin$/!d’ /etc/passwd #！表示取反操作，即除了以nologin结尾的行都删除

[root@localhost ~]#sed ‘/2/,/3/d’ testfile2 #从第一个位置打开行删除功能，到第二个位置关闭行行删除功能，也就是从第一个带有字符2的行开始删，一直删到带有字符3的行位置

9、替换

格式：行范围 s/旧字符串/新字符串/替换标记

4种替换标记：

数字：表明新字符串将替换第几处匹配的地方

g：表明新字符串将会替换所有匹配的地方

p：打印与替换命令匹配的行，与-n一起使用

w文件：将替换的结果写到文件中

sed -n ‘s/root/admin/p’ /etc/passwd ————————把root替换成admin 默认第一个root

sed -n ‘s/root/admin/2p’ /etc/passwd————————把每一行的第二个root替换成admin

sed -n ‘s/root/admin/gp’ /etc/passwd ————————把所有的root换成admin

sed ‘s/root//g’ /etc/passwd——————————把所有的root换成空，就是删除的意思

sed ‘1,20 s/^/#/’ /etc/passwd————————在1-20行的行首添加#号

sed ‘/^root/ s/$/#/’ /etc/passwd————————找到root开头的行，在结尾加上#

sed -f script.sed testfile2————————将script.sed内命令作用与后面的命令

sed ‘1,20w out.txt’ /etc/passwd————————把1-20行输出保存到out.txt文件内
sed ‘1,20 s/^/#/w out.txt’ /etc/passwd ——————把1-20行的开头加上#号 输出到out.txt文件内

sed -n ‘s//bin/bash//bin/csh/p’ /etc/passwd
sed -n ‘s!/bin/bash!/bin/csh!p’ /etc/passwd————————使用“!”作为字符串分隔符，把bash替换成csh

插入：
sed ‘/45/c ABC’ testfile2————————搜索到包含45的行，整行替换成ABC

sed ‘/45/ y/45/AB/’ testfile2 ————————（了解即可）

sed ‘1,3a ABC’ testfile2————————————在1-3行下面分别插入ABC

sed ‘1i ABC’ testfile2————————————在1行上面加ABC

sed ‘5r /etc/resolv.conf’ testfile2————————把/etc/resolv文件导入testfile2第五行

sed ‘/root/{H;d};$G’ /etc/passwd——————将包含root的行剪切到末尾，H表示复制到剪切板，G表示粘贴到指定行后

sed ‘1,2H;3,4G’ /etc/passwd——————将1-2行复制到3-4行下面

二、awk编辑器

在linux/unix系统中，awk时一个功能强大的编辑工具，逐行读取输入文本，并根据指定的匹配模式进行查找，对符合条件的内容进行格式化输出或者过滤处理，可以在无交互的情况下实现相当复杂的文本操作，被广泛应用于shell脚本，完成各种自动化配置任务。

1、工作原理：

逐行读取文本，默认以空格或tab键为分隔符进行分隔，将分隔所得的各个字段保存到内建变量中，并按模式或者条件执行编辑命令。

2、awk与sed编辑器的区别：

sed命令常用于一整行的处理，而awk比较倾向于将一行分成多个“字段”，然后再进行处理。awk信息的读入也是逐行读取的，执行结果可以通过print的功能将字段数据打印显示。在使用awk命令的过程中，可以使用逻辑操作符“&&”表示“与”、“||”表示“或”、“！”表示“非”；还可以进行简单的数学运算，如+、-、*、/、%、^分别表示加、减、乘、除、取余和乘方。

3、命令格式：

awk 选项 ‘模式或条件 {操作}’ 文件1 文件2 …

awk -f 脚本文件 文件1 文件2 …

4、awk常见的内建变量（可直接用）：

FS：列分隔符。指定每行文本的字段分隔符，默认为空格或制表符。与“-F”作用相同。

NF：当前处理的行的字段个数。

NR：当前处理的行的行号。

$0：当前处理的行的整行内容。

$n：当前处理行的第n个字段(第n列)。

FILENAME：被处理的文件名。

RS：行分隔符。awk从文件上读取资料时，将根据RS的定义把资料切割成许多条记录，而awk一次仅读入一条记录，以进行处理。预设值是‘\n’

5、示例：

（1）按行输出文本

awk ‘{print}’ testfile1 #输出所有内容

awk ‘{print $0}’ testfile1 #输出所有内容

输出指定行内容

输出奇数、偶数行内容

输出以…开头，以…结尾的行的内容

统计以…结尾的行数

awk 'BEGIN {x=0};//bin/bashKaTeX parse error: Expected 'EOF', got '#' at position 35: …}' /etc/passwd #̲统计以/bin/bash结尾的…" /etc/passwd

（2）按字段输出文本

awk -F “:” ‘{print $3}’ /etc/passwd #输出每行中（以”:“分割的）的第三个字段

awk -F “:” ‘{print $1,$3}’ /etc/passwd #输出每行中（以”:“分割的）的第1，3个字段

awk -F “:” ‘$3<5{print $1,$3}’ /etc/passwd #输出第三个字段的值小于5的行的第1，3个字段

awk -F “:” ‘!($3<200){print}’ /etc/passwd #输出第三个字段的值不小于200的行的内容

awk ‘BEGIN {FS=":"};{if ($3>=200){print}}’ /etc/passwd #先处理BEGIN里面的内容（将列分隔符改为：）再打印文本里的内容（如果第三段的的值大于等于200，就输出）

awk -F “:” ‘{max=($3>$4)?$3:$4;{print max}}’ /etc/passwd
#($3>$4)?$3:$4是三元运算符，如果第三个字段的值大于第四个字段的值，则把第三个字段的值赋给max，否则把第四个字段的值赋给max

awk -F “:” ‘{print NR,$0}’ /etc/passwd #输出内行的内容和行号，没处理完一条记录，NR值（当前处理的行的行号）加1

awk -F “:” ‘$7~"/bash"{print $1}’ /etc/passwd #输出以冒号分割且第7个字段中包含/bash的行的第1个字段

awk -F “:” ‘($1~“root”)&&(NF==7){print $1,$2}’ /etc/passwd #输出第1个字段中包含root且有7个字段的行的第1、2个字段（NF：当前处理的行的字段个数）

awk -F “:” ‘($7!="/bin/bash")&&($7!="/sbin/nologin"){print}’ /etc/passwd #输出第7个字段不为/bin/bash，也不为/sbin/nologin的所有行

（3）通过管道符号、双引号调用shell命令

echo $PATH | awk ‘BEGIN{RS=":"};END{print NR}’ #统计以冒号分隔的文本段落数，END{}语句块中，往往会放入打印结果等语句

awk -F “:” '/bashKaTeX parse error: Expected 'EOF', got '#' at position 36: …/etc/passwd #̲调用 wc -l 命令统计使用…" /etc/passwd

free -m | awk ‘/Mem:/ {print int($3/($3+$4)*100)"%"}’ #查看当前内存使用百分比（int 指字符类型，这里代表整数型，即没有小数点）

top -b -n 1 | grep Cpu | awk -F ‘,’ ‘{print $4}’ | awk ‘{print $1}’
#查看当前cpu空闲率，（-b -n 1表示只需要1次的输出结果）
整句命令意思是：动态输出一次进程的结果（top -b -n 1）；过滤出Cpu那一行(grep Cpu)；以逗号进行分隔，打印出第四列（awk -F ‘,’ ‘{print $4}’）;接着打印出过滤出的第四列的第一个值（awk ‘{print $1}’）

date -d “$(awk -F “.” ‘{print $1}’ /proc/uptime) second ago” +"%F %H:%M:%S"
#显示上次系统重启的时间，等同于uptime: second ago为显示多少秒前的时间，+"%F %H:%M:%S"等同于+”%Y-%m-%d %H:%M:%S“的时间格式

awk ‘BEGIN {n=0 ; while (“w” | getline) n++ ; {print n-2}}’
#调用w命令，并用来统计在线用户数；w命令可以获取当前在线的用户的详细信息；getline是取行；打印n-2行是因为w显示的信息的前两行是没有用的，所以去掉前两行。
[root@gcc zhengze1]#w
15:41:01 up 19:50, 1 user, load average: 0.00, 0.01, 0.05
USER TTY FROM LOGIN@ IDLE JCPU PCPU WHAT
root pts/0 192.168.200.1 11:19 5.00s 0.12s 0.01s w

awk ‘BEGIN {“hostname” | getline ; {print $0}}’ #调用hsotname命令，输出当前

当getline左右无重定向符“<“或”|“时, awk首先读取到了第一行，就是1，然后getline，就得到了1下面的第二行，就是2，因为getline之后，awk会改变对应的NF，NR，FNR和$0等内部变量，所以此时的$0的值就不再是1，而是2了，然后将它打印出来。
当getline左右有重定向符”<“或”|"时，getline则作用于定向输入文件，由于该文件是刚打开，并没有被awk读入一行，只是getline读入，那么getline返回的是该文件的第一行，而不是隔行。

seq 10 | awk ‘{getline; print $0)’ #可以得出偶数行
seq 10 | awk ‘{print $0; getline}’ #可以得出奇数行