大家来找茬之sort排序、uniq重复行整理、tr对字符集替换压缩删除、正则表达式

sort排序、uniq重复行整理、tr对字符集替换压缩删除、正则表达式

一、sort命令

-----------------------以行为单位对文件内容进行排序,也可以根据不同的数据类型来排序-------------------------

语法格式:

sort [选项] 参数

cat file | sort 选项

常用选项:

-f:忽略大小写,默认会将大写字母排在前面

-b:忽略前导区域的区域

-n:按照数字进行排序

-r:反向排序

-u:等同于uniq,表示相同的数据仅显示一行

-t:指定字段分隔符,默认使用[Tab]键分隔

-k:指定排序字段

-o<输出文件>:将排序后的结果转存至指定文件

sort -n testfile2

sort -t ':' -k 3 -n /etc/passwd

du -a I sort -nr -o du.txt

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

二、uniq命令

---------------------------用于报告或者忽略文件中连续的重复行,常与sort命令结合使用-----------------------------

语法格式:

uniq [选项] 参数

cat file | uniq 选项

常用选项:

-c:统计连续重复的数的次数并删除文件中重复出现的行,仅显示一行

-d:仅显示连续的重复行

-u:仅显示出现一次的行
uniq testfile3

sort -n testfile3 | uniq -c

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

扫描二维码关注公众号,回复: 12369255 查看本文章

三、tr命令

---------------------------------常用来对来自标准输入的字符进行替换、压缩和删除-------------------------------------

语法格式:

tr [选项] [参数,不能是文件]

常用选项:

-c:保留字符集1的字符,其他的字符(包括换行符\n)用字符集2替换

-d:删除所有属于字符集1的字符

-s:将重复出现的字符串压缩为一个字符串;用字符集2替换字符集1

-t:字符集2替换字符集1,不加选项同结果。

参数:

字符集1:指定要转换或删除的原字符集。当执行转换操作时,必须使用参数“字符集2"指定转换的目标字符集。但执行删除操作时,不需要参数"字符集2";

字符集2:指定要转换成的目标字符集。

echo "abc" | tr 'a-z' 'A-Z‘

echo -e "abc\ncabcdab" | tr -c "ab\n" "0"

echo -e "abc\ncabcdab" I tr -c "ab" "0"

echo 'hello world' | tr -d 'od'

echo "thissss is a text linnnnnnne." | tr -s 'sn'

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

删除空行

echo -e "aa\n\n\n\n\nbb" | tr -s "\n"

cat testfile4 | tr -s "\n"

在这里插入图片描述

把路径变量中的冒号":",替换成换行符"\n"

echo $PATH | tr -s ":" "\n"

echo -e "aa\n\n\n\n\nbb" | tr -s "\n" ":"

在这里插入图片描述
在这里插入图片描述

删除Windows文件“造成‘^M’字符:

cat file | tr -s "\r" "\n" > new_file

或

cat file | tr -d "\r" > new file
Linux中遇到换行符("\n")会进行回车+换行的操作,回车符反而只会作为控制字符('^M')显示,不发生回车的操作。
而windows中要回车符+换行符("\r\n")才会回车+换行,缺少一个控制符或者顺序不对都不能正确的另起一行。
(Linux的'^M'相当于Windows的\r,属于不兼容的问题)

四、数组排序

echo ${array[*]} | tr ' ' '\n' | sort -n > newfile

a=0
for i in $(cat file)

do

array[$a]
let a++
或
arrary+=($i)

done

五、正则表达式

---------------------------通常用于判断语句中,用来检查某一字符串是否满足某一格式-------------------------------

正则表达式是由普通字符元字符组成

元字符是指在正则表达式中具有特殊意义的专用字符,可以用来规定其前导字符(即位于元字符前面的字符)在目标对象中的出现模式

基础正则表达式常见元字符:(支持工具:grep、egrep、sed、awk)

\:转义字符,用于取消特殊字符的含义,例:\!、\n、\$等



^:匹配字符串开始的位置,例:^a、^the、^#、^[a-z]

$:匹配字符串结束的位置,例:word$、^$匹配空行



.:匹配除\n之外的任意一个字符,例:go.d、g..d

*:匹配前面子表达式0次或多次,例:goo*d、go.*d



[list]:匹配list列表中的一个字符,例:go[oal]d,[abc][a-z][a-z0-9][0-9]匹配任意一个字符

[^list]:匹配任意非list列表中的一个字符,例:[^0-9][^0-9A-Z][^a-z]



\{
    
    n\}:匹配前面的子表达式n次,例:go\{
    
    2\}d、'[0-9]\{2|}'匹配两位数字

\{
    
    n,\}:匹配前面的子表达式不少于n次,例:go\{
    
    2,\}d、'[0-9]\{2\}'匹配两位即两位以上数字

\{
    
    n,m\}:匹配前面的子表达式n到m次,例:go\{
    
    2,3}d、'[0-9]\{2,3\}'匹配两到三位数字

注:egrep、awk使用(n)、(n,)、(n,m)匹配时“{
    
    }”前不用加“\”

扩展正则表达式元字符:(支持的工具:egrep、awk)

+:匹配前面子表达式1次以上,例:go+d,将匹配至少一个o,如god、good、goood等

?:匹配前面子表达式0次或者1次,例:go?d,将匹配到gd或god

():将括号中的字符串作为一个整体,例:g(oo)+d,将匹配oo整体1次以上,如good、gooood等

|:以或得方式匹配字符串,例:g(oo|la)d,将匹配good或者glad

猜你喜欢

转载自blog.csdn.net/IvyXYW/article/details/111632274