一、sort命令

sort命令-----以行为单位对文件内容进行排序，也可以根据不同的数据类型来排序

（1）语法格式：

sort 选项 参数
cat file | sort 选项

（2）常用选项：

-f：忽略大小写，默认会将大写字母排在前面
-b：忽略每行前面的空格
-n：按照数字进行排序
-r：反向排序
-u：等同于uniq，表示相同的数据仅显示一行
-t：指定字段分隔符，默认使用[Tab]键分隔
-k：指定排序字段
-o <输出文件>：将排序后的结果转存至指定文件

在这里插入图片描述

二、uniq命令

uniq命令-------用于报告或者忽略文件中连续的重复行，常与 sort命令结合使用

语法格式：

uniq   [选项]   参数
cat file | uniq   选项

常用选项：

-c：进行计数,并删除文件中连续重复出现的行
-d：仅显示连续的重复行
-u：仅显示不连续的只出现一次的行

例如：
在这里插入图片描述

三、tr 命令

tr命令-----常用来对来自标准输入的字符进行替换、压缩和删除

（1）语法格式：

tr [选项] [参数]

（2）常用选项：

-c：保留字符集1的字符，其他的字符(包括换行符\n)用字符集2替换

-d：删除所有属于字符集1的字符

-s：将重复出现的字符串压缩为一个字符串；用字符集2替换字符集1

-t：字符集2替换字符集1，不加选项同结果

（3）参数

字符集1：
指定要转换或删除的原字符集。当执行转换操作时，必须使用参数“字符集2"指定转换的目标字符集。但执行删除操作时，不需要参数"字符集2"。

字符集2：
指定要转换成的目标字符集。

echo "abc" | tr 'a-z' 'A-Z'

echo -e "abc\ncabcdab" | tr -C "ab\n" "0"
echo -e "abc\ncabcdab" | tr -c "ab" "0"

echo 'hello world' | tr -d 'od'

echo "thissss is a text 1 innnnnnne." | tr -s 'sn'

删除空行
echo -e "aa\n\n\n\n\nbb" | tr -s "\n"
cat testfile4| tr -s "\n"

把路径变量中的冒号":"，替换成换行符"\n"
echo $PATH | tr -s ":" "\n"
echo -e "aa\n\n\n\n\nbb" | tr -s "\n" ":"

删除Windows文件“造成‘^M’字符：

cat file | tr -s "\r" "\n" > new_file

或

cat file | tr -d "\r" > new file

Linux中遇到换行符("\n")会进行回车+换行的操作，回车符反而只会作为控制字符('^M')显示，不发生回车的操作。
而windows中要回车符+换行符("\r\n")才会回车+换行，缺少一个控制符或者顺序不对都不能正确的另起一行。
(Linux的'^M'相当于Windows的\r，属于不兼容的问题)

四、正则表达式

（1）、正则表达式定义

用于判断语句中，通常用来检查某一字符串是否满足某一格式

正则表达式通常用于判断语句中，用来检查某一字符串是否满足某一格式
正则表达式是由普通字符与元字符组成
普通字符包括大小写字母、数字、标点符号及一些其他符号
元字符是指在正则表达式中具有特殊意义的专用字符，可以用来规定其前导字符(即位于元字符前面的字符)在目标对象中的出现模式

（2）、基础正则表达式常见元字符

   支持的工具：grep、egrep、awk、sed

\ :转义字符，用于取消特殊符号的含义，例: \!、\n、\$等

^ :匹配字符串开始的位置，例: ^a、 ^the、 ^#、^[a-z]

$ :匹配字符串结束的位置，例: word$、 ^$匹配空行

. :匹配除\n之外的任意的一个字符，例: go.d、 g..d

* :匹配前面子表达式0次或者多次，例: goo*d、 go.*d

[list] :匹配list列表中的一个字符，例: go[ola]d， [abc]、 [a-z]、 [a-z0-9]、 [0-9]匹配任意一位数字

[^list] :匹配任意非list列表中的一个字符，例: [^0-9]、 [^A-20-9]、 [^a-z]匹配任意一位非小写字母

\{n\} :匹配前面的子表达式n次，例: go\{2\}d、 '[0-9]\{2\} '匹配两位数字

\{n,\} :匹配前而的子表达式不少于n次，例: go\{2, \}d、'[0-9]\{2, \}'匹配两位及两位以上数字

\{n,m\} :匹配前面的子表达式n到m次，例: go\{2,3\}d、 ' [0-9]\{2,3\}'匹配两位到三位数字

注：egrep、awk使用（n）、（n，）、（n，m）匹配时“{}”前不用加“\”

（3）、扩展正则表达式元字符：(支持的工具： egrep、 awk)

+ ：匹配前面子表达式1次以上，例：go+d，将匹配至少一个o,如god, good, goood等

? ：匹配前面子表达式0次或者1次，例: go?d,将匹配gd或god

() ：将括号中的字符串作为一个整体,例：g(oo) +d,将匹配。整体1次以上,如good,gooood等

| ：以或的方式匹配字条串，例：g(oo|la)d，将匹配good或者glad

（4）、正则表达式匹配E-mail地址

用户名@: ^ ([a-ZA-Z0-9_\-\.\+]+)@
子域名: ([a-zA-Z0-9_\-\.]+)
·顶级域名(字符串长度一般在2到5) : \. ( [a-zA-Z] {2,5})$

egrep  '^ ([a-zA-Z0-9\-\.\+]+) @ ( [a-ZA-Zo-9_\-\.]+) \. ([a-zA-Z] {2,5})$'  email.txt
awk '/^ ([a-zA-Z0-9_\-\.\+]+) @ ( [a-zA-Z0-9_\-\.]+)\. ( [a-zA-Z] {2,5})$/{print $o}'  email.txt