一、sort命令
- 以行为单位对文件内容进行排序，也可以根据不同的数据类型来排序
语法格式：
sort [选项] 参数
cat file | sort 选项
| 常用选项 | 功能 |
|---|---|
| -f | 忽略大小写 |
| -b | 忽略前导的空白区域 |
| -M | 按照三字符月份进行排序 |
| -n | 按照数字进行排序 |
| -r | 反向排序 |
| -u | 等同于uniq，表示相同的数据仅显示一行 |
| -t | 指定字段分隔符，默认使用[Tab]键分隔 |
| -k | 指定排序字段 |
| -o <输出文件> | 将排序后的结果转存至指定文件 |
根据本地变量，如果本地环境变量不相同，排序可能也不同
sort -t ':' -k 1 /etc/passwd -o ./passwd.txt
du -ah | sort -nr -o du.txt
二、uniq命令
- 用于报告或者忽略文件中连续的重复行，常与 sort 命令结合使用
语法格式：
uniq [选项] 参数
cat file | uniq 选项
| 常用选项 | 功能 |
|---|---|
| -c | 进行计数，并删除文件中重复出现的行 |
| -d | 仅显示重复行 |
| -u | 仅显示出现一次的行 |
三、tr命令
- 常用来对来自标准输入的字符进行替换、压缩和删除
语法格式：
tr [选项] [参数]
| 常用选项 | 作用 |
|---|---|
| -c | 保留字符集1的字符，其他的字符用（包括换行符\n）字符集2替换 |
| -d | 删除所有属于字符集1的字符 |
| -s | 将重复出现的字符串压缩为一个字符串；用字符集2 替换 字符集1 |
| -t | 字符集2 替换 字符集1，不加选项同结果。 |
| 参数 | 作用 |
|---|---|
| 字符集1 | 指定要转换或删除的原字符集。 当执行转换操作时，必须使用参数“字符集2”指定转换的目标字符集。 但执行删除操作时，不需要参数“字符集2”； |
| 字符集2 | 指定要转换成的目标字符集。 |
echo "hello" | tr 'a-z' 'A-Z'
echo "hello" | tr 'a-z' -t 'A-Z'
echo abccabacca | tr -c "ab\n" "0"
echo "abcdefg" | tr -d "de"
echo "abbcccddddaaaaa" | tr -s "abcd"
把路径变量中的冒号":"，替换成换行符"\n"
echo $PATH | tr -s ":" "\n"
- 删除Windows文件“造成”的’^M’字符
cat file | tr -s "\r" "\n" > new_file
或
cat file | tr -d "\r" > new_file
Linux中遇到换行符("\n")会进行回车+换行的操作，回车符反而只会作为控制字符("^M")显示，不发生回车的操作。
而windows中要回车符+换行符("\r\n")才会回车+换行，缺少一个控制符或者顺序不对都不能正确的另起一行。
- 数组排序
echo ${arr[*]} | tr ' ' '\n' | sort -n
四、正则表达式（重要）
- 通常用于判断语句中，用来检查某一字符串是否满足某一格式
- 正则表达式是由普通字符与元字符组成
- 普通字符包括大小写字母、数字、标点符号及一些其他符号
- 元字符是指在正则表达式中具有特殊意义的专用字符，可以用来规定其前导字符（即位于元字符前面的字符）在目标对象中的出现模式
（1）基础正则表达式
- 支持的工具：grep、egrep、sed、awk
基础正则表达式常见元字符：
\ ：转义字符，用于取消特殊符号的含义，例：\!、\n、\$等
^ ：匹配字符串开始的位置，例：^a、^the、^#、^[a-z]
$ ：匹配字符串结束的位置，例：word$、^$匹配空行
. ：匹配除\n之外的任意的一个字符，例：go.d、g..d
* ：匹配前面子表达式0次或者多次，例：goo*d、go.*d
[list] ：匹配list列表中的一个字符，例：go[ola]d，[abc]、[a-z]、[a-z0-9]、[0-9]匹配任意一位数字
[^list] ：匹配任意非list列表中的一个字符，例：[^0-9]、[^A-Z0-9]、[^a-z]匹配任意一位非小写字母
\{
n\} ：匹配前面的子表达式n次，例：go\{
2\}d、'[0-9]\{2\}'匹配两位数字
\{
n,\} ：匹配前面的子表达式不少于n次，例：go\{
2,\}d、'[0-9]\{2,\}'匹配两位及两位以上数字
\{
n,m\} ：匹配前面的子表达式n到m次，例：go\{
2,3\}d、'[0-9]\{2,3\}'匹配两位到三位数字
注：egrep、awk使用{
n}、{
n,}、{
n,m}匹配时“{
}”前不用加“\”
（2）扩展正则表达式
- 支持的工具：egrep、awk
扩展正则表达式元字符：
+ ：匹配前面子表达式1次以上，例：go+d，将匹配至少一个o，如god、good、goood等
? ：匹配前面子表达式0次或者1次，例：go?d，将匹配gd或god
() ：将括号中的字符串作为一个整体，例1：g(oo)+d，将匹配oo整体1次以上，如good、gooood等
| ：以或的方式匹配字条串，例：g(oo|la)d，将匹配good或者glad
（3）使用正则表达式
这里就举两个例子演示一下，主要的还是要看自己理解然后去使用
- 匹配139开头的手机号
#以139开头，后面随机8位数字组合
"^139[0-9]{8}$"
egrep "^139[0-9]{8}$" shoujihao.txt
grep "^139[0-9]\{8\}$" shoujihao.txt
- 匹配E-mail地址
用户名@ ：^([a-zA-Z0-9_\-\.\+]+)@
子域名 ：([a-zA-Z0-9_\-\.]+)
.顶级域名(字符串长度一般在2到5) ：\.([a-zA-Z]\{
2,5\})$
egrep '^([a-zA-Z0-9_\-\.\+]+)@([a-zA-Z0-9_\-\.]+)\.([a-zA-Z]{2,5})$' email.txt
awk '/^([a-zA-Z0-9_\-\.\+]+)@([a-zA-Z0-9_\-\.]+)\.([a-zA-Z]{2,5})$/{print $0}' email.txt
