快速入门Shell脚本(5)——Shell的这些工具你都知道了吗？

在这里插入图片描述
上一篇博客已经给大家讲了计较复杂的操作（常用的函数操作）。本篇博客，给讲一下shell的工具，学会写工具会让你的面试加分的偶。（喜欢shell脚本的可以关注专栏）

1.Shell中的cut

1.1介绍

cut的工作就是“剪”，具体的说就是在文件中负责剪切出数据用的。cut命令从文件的每一行剪切出字节、字符和字段将这些字节、字符和字段输出。

1.2 基本用法

cut[参数] filename
说明：默认分割符是制表符

1.3 选项参数说明

-f：列行,提取第几列
-d: 分割符，按照指定分隔符列分割列

1.4 案例实操

数据准备

[root@node01 shell]# vim cut.txt
hello word
hello Hadoop
hello spark
hello flink
hello flume
hello kafka
hello java

切割cut.txt 第一列

[root@node01 shell]# cut -d " " -f 1 cut.txt 
hello
hello
hello
hello
hello
hello
hello

切割cut.txt第二、三列

[root@node01 shell]# cut -d " " -f 2,3 cut.txt 
word
Hadoop 
spark
flink
flume
kafka
java

在cut.txt 文件中切割出spark

[root@node01 shell]# cat cut.txt | grep "spark" 
hello spark
[root@node01 shell]# cat cut.txt | grep "spark" | cut -d " " -f 2
spark

选取系统PATH的变量值，第2个“：”开始后的所有路径

[root@node01 shell]# echo  $PATH
/usr/lib64/qt-3.3/bin::/export/servers/kafka-eagle-bin-1.3.2/kafka-eagle-web-1.3.2/bin:/sbin:/bin:/export/servers/hbase-1.1.1/bin::/export/servers/hadoop-2.6.0-cdh5.14.0/bin:/export/servers/hadoop-2.6.0-cdh5.14.0/sbin:/usr/local/sbin:/usr/local/bin:/sbin:/bin:/usr/sbin:/usr/bin:/export/servers/hive-1.1.0-cdh5.14.0/bin:/export/servers/jdk1.8.0_144/bin:/export/servers/spark-2.2.0-bin-2.6.0-cdh5.14.0/bin:/export/servers/zookeeper-3.4.5-cdh5.14.0/bin:/root/bin
[root@node01 shell]# echo  $PATH | cut -d : -f 2-
:/export/servers/kafka-eagle-bin-1.3.2/kafka-eagle-web-1.3.2/bin:/sbin:/bin:/export/servers/hbase-1.1.1/bin::/export/servers/hadoop-2.6.0-cdh5.14.0/bin:/export/servers/hadoop-2.6.0-cdh5.14.0/sbin:/usr/local/sbin:/usr/local/bin:/sbin:/bin:/usr/sbin:/usr/bin:/export/servers/hive-1.1.0-cdh5.14.0/bin:/export/servers/jdk1.8.0_144/bin:/export/servers/spark-2.2.0-bin-2.6.0-cdh5.14.0/bin:/export/servers/zookeeper-3.4.5-cdh5.14.0/bin:/root/bin

切割ifconfig后打印的IP地址

[root@node01 shell]# ifconfig eth0 | grep "inet addr" | cut -d: -f 2 |cut -d" " -f 1
192.168.100.201

2.shell中的sed

2.1介绍

sed是一种流编辑器，他一次处理一行内容。处理时，把当前处理的行存储在临时缓冲区中，称为“模式空间”,接着用sed命令处理缓冲区的内容，处理完成后，吧缓冲区的内容送往屏幕。接着处理下一行，这样不断重复，直到文件的末尾。文件内容并没有改变，除非你是用重定向存储输出。

2.2 基本用法

sed[选项参数] ’command‘ filename

2.3选项参数说明

-e 直接在指令列模式进行sed的动作编辑。
a 新增，a的后面可以接字符串，在下一行出现
d 删除
s 查找并替换

2.4 案例实操

数据准备

[root@node01 shell]# vim sed.txt
hello word
hello Hadoop
hello spark
hello flink
hello flume
hello kafka
hello java

将’hello sed’ 这个单词插入到sed.txt第二行，打印。

[root@node01 shell]# sed '2a hello sed' sed.txt 
hello word
hello Hadoop
hello sed
hello spark
hello flink
hello flume
hello kafka
hello java
[root@node01 shell]# cat sed.txt 
hello word
hello Hadoop
hello spark
hello flink
hello flume
hello kafka
hello java
# 发现文件并没有修改

删除sed.txt文件所有包含fl的行

[root@node01 shell]# sed '/fl/d' sed.txt 
hello word
hello Hadoop
hello spark
hello kafka
hello java

将sed.txt文件中fl替换为 FL

[root@node01 shell]# sed  's/fl/FL/g' sed.txt 
hello word
hello Hadoop
hello spark
hello FLink
hello FLume
hello kafka
hello java
# 'g' 表示global 全部替换

将sed.txt 文件中的第二行删除并将fl替换为FL

[root@node01 shell]# sed -e '2d' -e 's/fl/FL/g' sed.txt 
hello word
hello spark
hello FLink
hello FLume
hello kafka
hello java

3.Shell中的awk

一个强大的文本分析工具，把文件逐行的读入，以空格为默认分隔符将每行切片，切开的部分再进行分析处理。

3.1. 基本用法

awk [选项参数] ‘pattern1{action1} pattern2{action2}…’ filename

pattern：表示AWK在数据中查找的内容，就是匹配模式
action：在找到匹配内容时所执行的一系列命令

3.2. 选项参数说明

-F: 指定输入文件折分隔符
-v: 赋值一个用户定义变量

3.3. 案例实操

(0)数据准备

[root@node01 shell]# cp /etc/passwd .

(1)搜索passwd文件已root关键字开头的所有行,并输出该行第6列

[root@node01 shell]# awk -F: '/^root/{print $6}' passwd
/root

(2)搜索passwd文件以root关键字开头的所有行，并输出该行的第1列和第7列，中间以“，”号分割。

[root@node01 shell]# awk -F: '/^root/{print $1","$7}' passwd 
root,/bin/bash

注意：只有匹配了pattern的行才会执行action

(3)只显示/etc/passwd的第一列和第七列，以逗号分割，且在所有行前面添加列名user，shell在最后一行添加"dashuju，/bin/NB"。

[root@node01 shell]# awk -F: 'BEGIN{print"user,shell"}{print $1","$7}END{print "dashuju,/bin/NB"}' passwd 
user,shell
root,/bin/bash
bin,/sbin/nologin
daemon,/sbin/nologin

注意：BEGIN 在所有数据读取行之前执行；END 在所有数据执行之后执行。
(4)将passwd文件中的用户id增加数值1并输出(-v v=1 赋值一个用户定义变量，将外部变量传递给awk)

[root@node01 shell]# awk -v i=1 -F: '{print $3+1}' passwd 
1
2
3
4

3.4. awk的内置变量

FILENAME :文件名
NR: 已读的记录数
NF:浏览记录的域的个数（切割后，列的个数）

3.4.1案例实操

（1）统计passwd文件名，每行的行号，每行的列数

[root@node01 shell]# awk -F: '{print "filename:" FILENAME ",linenumber: " NR ",columns:" NF}' passwd 
filename:passwd,linenumber: 1,columns:7
filename:passwd,linenumber: 2,columns:7
filename:passwd,linenumber: 3,columns:7
filename:passwd,linenumber: 4,columns:7

（2）切割IP

[root@node01 shell]# ifconfig  eth0 | grep "inet addr" | awk -F: '{print $2}' | awk -F " " '{print $1}'
192.168.100.201

（3）查询sed.txt中空行所在的行号

[root@node01 shell]# awk '/^$/{print NR}' sed.txt 
8

4.Shell中的sort

4.1介绍

sort命令是在Linux里非常有用，它将文件进行排序，并将排序结果标准输出。

4.2. 基本语法

sort(选项)(参数)

-n: 依照数值的大小排序
-r: 以相反的顺序来排序
-t:设置排序时所用的分隔字符
-k:指定需要排序的列

4.3. 案例实操

（0）数据准备

[root@node01 shell]# vim sort.sh 
bb:40:5.4
bd:20:4.2
xz:50:2.3
cls:10:3.5
ss:30:1.6

（1）按照“：”分割后的第三列倒序排序。

[root@node01 shell]# sort  -t : -nrk 3 sort.sh
bb:40:5.4
bd:20:4.2
cls:10:3.5
xz:50:2.3
ss:30:1.6