啊!我的头发!!——文本处理命令和Shell正则表达式


sort命令

以行为单位对文件内容进行排序,也可以根据不同的数据类型来排序

语法格式

sort [选项] 参数(文件)
cat 参数 | sort 选项

常用选项

-f:忽略大小写,若不使用则会默认将大写字母排在前面
-b:忽略每行前面的空格
-n:按照数字进行排序
-r:反向排序
-u:等同于uniq,表示忽略连续的重复行
-k:指定要进行排序的字段
-t:指定字段分隔符,若不使用则会默认使用[Tab]减分隔
-o <输出文件>:将排序后的结果转存到指定文件

示例:

sort -n /root/shili

sort -t ':' -k 3 -n /etc/passwd

du -a | sort -nr -o du.txt

uniq命令

用于报告或者忽略文件中连续的重复行,常与sort命令结合使用

语法格式

uniq [选项] 参数(文件)

cat 参数 | uniq 选项

常用选项

-c:进行计数,并删除文件中重复出现的行
-d:仅显示连续的重复行
-u:仅显示出现一次的行

示例:

uniq /root/shili2
sort -n /root/shili2 | uniq -c

tr命令

常用来对来自标准输入的字符进行替换、压缩和删除

语法格式

tr [选项] 参数

常用选项

-c:保留字符集1的字符,其他的字符(包括换行符\n)用字符集2替换
-d:删除所有属于字符集1的字符
-s:将重复出现的字符串压缩为一个字符串,然后用字符集2替换字符集1
-t:字符集2替换字符集1,不加选项也是一样的效果

参数

  • 字符集1:指定要转换或删除的原字符集。当执行转换操作时,必须使用参数“字符集2”指定转换的目标字符集。但执行删除操作时,不需要参数“字符集2”
  • 字符集2:指定要转换成的目标字符集

示例:

[root@localhost ~]# echo "abc" | tr 'a-z' 'A-Z'

[root@localhost ~]# echo -e "abc\ncabcdab" | tr -c "ab\n" "0"
ab0
0ab00ab
[root@localhost ~]#echo -e "abc\ncabcdab" | tr -c "ab" "0"
ab000ab00ab0[root@localhost ~]# 

[root@localhost ~]# echo 'hello word' | tr -d 'od'
hell wr

[root@localhost ~]# echo "thissss is The Lion Kinggggggg" | tr -s 'sg'
this is The Lion King

删除空行

[root@localhost ~]# echo -e "aa\n\n\n\n\nbb" | tr -s "\n"
aa
bb
cat /root/shili3 | tr -s "\n"

把路径变量中的冒号":",替换成换行符"\n"

[root@localhost ~]# echo $PATH | tr -s ":" "\n"
/usr/local/sbin
/usr/local/bin
/usr/sbin
/usr/bin
/root/bin
[root@localhost ~]# echo -e "aa\n\n\n\n\nbb" | tr -s "\n" ":"
aa:bb:[root@localhost ~]# 

删除Windows文件“造成”的’^M'字符:

cat 文件 | tr -s "\r" > new_文件

cat 文件 | tr -d "\r" >new_文件

Linux中遇到换行符(\n)会进行回车+换行的操作,回车符反而只会作为控制字符(^M)显示,不发生回车的操作。而Windows中要回车符+换行符(\r\n)才会回车+换行,缺少任何一个控制符或者顺序不对都不能正确的另起一行

正则表达式

通常用于判断语句中,用来检测某一字符串是否满足某一格式

正则表达式的组成

正则表达式是由普通字符与元字符组成

  • 普通字符包括大小写字母、数字、标点符号及一些其他符号
  • 元字符是指在正则表达式中具有特殊意义的专用字符,可以用来规定其前导字符(即位于元字符前面的字符)在目标对象中的出现模式

基础正则表达式常见元字符

\      转义字符,用于取消特殊符号的含义,例:\!\n、\$等
^      匹配字符串开始的位置,例:^a、^the、^#^[a-z]
$:      匹配字符串结束的位置,例:word$、^$匹配空行
.      匹配除\n之外的任意一个字符,例:go.d、g..d
*      匹配前面子表达式0次或者多次,例:goo*d、go.*d
[list] 匹配list列表里的一个字符
[^list]:匹配任意非list列表里的一个字符
\{
    
    n\}  匹配前面的子表达式n次
\{
    
    n,\} 匹配前面的子表达式至少n次
\{
    
    n,m\}:匹配前面的子表达式n到m次
注:egrep、awk使用{
    
    n}{
    
    n,}{
    
    n,m}匹配时“{
    
    }”前不用加“\

扩展正则表达式元字符:

支持egrepawk工具

+ 匹配前面的子表达式1次以上,例:go+d,将匹配至少一个o,如dod、good、goood等
?: 匹配前面的子表达式0次或者1次,例:go?d,将匹配gd或god
():将括号中的字符串作为一个整体
| 以或的方式匹配字条串,例:g(oo|la)g,将匹配good或者glad

正则表达式匹配E-mail地址

用户名@:^([a-zA-Z0-9_\-\.\+]+)@
子域名:([a-zA-Z0-9_\-\.]+)
.顶级域名(顶级域名的字符串长度一般在2到5):\.([a-zA-Z]{2,5})$

egrep '^([a-zA-Z0-9_\-\.\+]+)@([a-zA-Z0-9_\-\.]+)\.([a-zA-Z]{2,5})$' email.txt
awk '/^([a-zA-Z0-9_\-\.\+]+)@([a-zA-Z0-9_\-\.]+)\.([a-zA-Z]{2,5})$/{print $0}' email.txt

猜你喜欢

转载自blog.csdn.net/Alterego_/article/details/111649381