DAY38 shell编程 常用的文本命令与正则表达式

205 阅读7分钟

sort命令——排序

sort将文件的每一行作为一个单位相互比较,比较原则是从首字符向后依次按ASCII码进行比较,最后将它们按升序输出。(以行为单位来排序输出)

语法格式:

 sort [选项]  参数
 ​
 cat file | sort 选项
复制代码

常用选项:

常用选项作用
-n按照数字进行排序(默认升序)
-r反向排序(倒序)
-u等同于uniq,表示相同的数据仅显示一行
-t指定字段分隔符,默认使用Tab键分隔
-k指定排序字段(不指定则默认第一个字段)
-f忽略大小写,会将小写字母都转换为大写字母来进行比较
-b忽略每行前面的空格
-o <输出文件>将排序后的结果转存到指定文件中

示例:

先准备一个文件,每行随意填写数字。

image.png

1)不加任何选项,则默认按首字母排序。

image.png

2)-n,按照数字排序(默认升序)。

image.png 3)-r,倒序。默认是升序排列,加-r后是降序排列。

image.png

5)-t,指定分隔符。-k,指定对第几个字段进行排序。

image.png

6)-o <输出文件>,将排序后的结果转存到指定文件中

查看/data目录下所有子目录和文件占磁盘空间的大小(即查看目录的磁盘使用情况),按从大到小排序,之后将结果存入/du.txt文件中。

image.png

image.png

uniq命令——去重

uniq命令用于报告或者忽略文件中连续的重复行,常与sort命令结合使用。 常用选项:

常用选项作用
-c统计连续重复的行的次数,并且合并重复的行
-u显示仅出现一次的行(包括不连续的重复行)
-d仅显示重复出现的行(必须是连续的重复行

image.png

2)uniq -c,显示连续重复行出现的次数,并合并重复行。

image.png

3)uniq -c,与sort命令结合,统计相同行重复出现的次数,包括不连续的重复行。

image.png

4)uniq -u,显示仅出现过一次的行(但包括不连续的重复行)

image.png 5)uniq -u,与sort命令结合,显示真正仅出现过一次的行。

sort -n 将原文档中不连续的重复行,连续排列在了一起,使uniq -u 可以显示真正仅出现过一次的行。

image.png

tr命令——删除、替换、压缩

常用选项:

选项作用
-c保留字符集1的字符,其他字符包括换行符\n用字符集2替换
-d删除所有属于字符集1的字符
-s将连续重复的字符串压缩成一个
-t字符集2 替换 字符集1,不加选项效果相同

常用参数

参数说明
字符集1指定要转换或删除的原字符集。当执行转换操作时,必须使用参数“字符集2”指定转换的目标字符集。但执行删除操作时,不需要参数“字符集2”
字符集2指定要转换成的目标字符集

tr命令的一般使用

示例1:

image.png 示例2:

image.png

示例3:

-c,保留字符集1的字符,其他字符包括换行符\n用字符集2替换。 (不删除哪个)

image.png

示例4:

-d,删除所有属于字符集1的字符。(删除哪个)

image.png

示例5:

-s,将连续重复的字符串压缩成一个。

image.png

分行输出环境变量PATH中包含的所有目录

image.png

过滤出文件中的非空行

image.png

cut命令——截取字段或字符串

用于显示行中的指定部分,删除文件中指定字段。 常用选项:

选项作用
-d指定分隔符(默认分隔符为Tab)
-f n按字段进行截取。指定第n个字段;1-3表示从第1个字段到第3个字段;1,4,7表示第1、第4、第7个字段
-b以字节为单位进行截取
-c以字符为单位进行截取
–complement排除所指定的字段
–output-delimiter更改输出内容的分隔符

示例:

1)-d 指定分隔符,-f 按字段进行截取。

image.png

2)-f,连续的字段使用"-"连接,不连续的字段之间使用逗号。

image.png

3)–complement,排除所指定的字段。

image.png

4)–output-delimiter,更改输出内容的分隔符。

image.png

截取字符串的常用方法:

示例:

i=123456789,要求截取3456。

image.png

split命令——拆分文件

split命令用于在Linux下将大文件拆分为若干小文件。

语法格式:

  split 选项 参数 原始文件 拆分后文件名前缀

常用选项:

选项作用
-l指定行数
-b指定大小

示例:

以3行对文件进行拆分,最后一个文件的行数如果没有3行,则以实际行数进行分配。

image.png

eval命令——扫描命令2次

命令字前加上eval,shell会在执行命令之前扫描它两次,eval命令首先会先扫描命令行进行所有的置换,然后再执行命令,该命令适用于那些一次扫描无法实现功能的变量,该命令会对变量进行两次扫描。

示例1:

image.png

正则表达式

REGEXP: Regular Expressions,由一类特殊字符及文本字符所编写的模式,其中有些字符(元字符)不表示字符字面意义,而表示控制或通配的功能,类似于增强版的通配符功能。

正则表达式被很多程序和开发语言所广泛支持:vim、less、grep、sed、awk、nginx、mysql 等,主要用来匹配字符串(命令结果,文本内容)。

正则表达式—通常用于判断语句中,用来检查某一字符串是否满足某一格式。

正则表达式是由普通字符元字符组成:

  • 普通字符 包括大小写字母、数字、标点符号及一些其他符号。
  • 元字符 是指在正则表达式中具有特殊意义的专用字符,可以用来规定其前导字符(即位于元字符前面的字符或表达式)在目标对象中的出现模式。

基础正则表达式常见元字符

(支持的工具:grep、egrep、sed、awk)

元字符含义
\*转义字符,用于取消特殊符号的含义,例:\!、\n、\s等
匹配字符串开始的位置,例:^ a、^ the、^ #、^ [a-z]
$匹配字符串结束的位置,例:word、^ 匹配空行
.匹配除\n之外的任意的一个字符,有且仅有一个。例:go.d、g…d
*匹配前面子表达式0次或者多次,例:goo*dgo.*d
[list]匹配list列表中的一个字符,例:go[ola]d,[abc]、[a-z]、[a-z0-9]
[^list]匹配任意非list列表中的一个字符,例:[ ^A-Z0-9],[ ^a-z]匹配任意一位非小写字母
[[:alpha:]]代表任意一个大小写英文字母,相当于[A-Za-z]
[:[:digit:]]代表任意一个十进制数字,相当于[0-9]
[[:alnum:]]代表任意一个大小写英文字母及数字,相当于[A-Za-z0-9]
\ {n\ }匹配前面的子表达式n次,例:go{2}d'[0-9]{2}'匹配两位数字
\ {n,\ }匹配前面的子表达式不少于n次,例:go{2,}d'[0-9]{2,}'匹配两位及两位以上数字
\ {n,m\ }匹配前面的子表达式n到m次,例:go{2,3}d'[0-9]{2,3}'匹配两位到三位数字

注: egrep、 awk使用{n}、{n,}、{n, m}匹配时 "{ }" 前不用加" \ "

示例1:转义字符

可以把一些特殊的符号转换成普通的符号字符,还可以把一些普通字符转换成特殊功能。 将特殊的符号转换成普通字符:

image.png

image.png

示例2:^匹配开头,$匹配结尾

image.png

示例3:. 和 *

点:匹配除\n之外的任意的一个字符,有且仅有一个。

星:匹配前面子表达式0次或者多次。

image.png

示例4:[list]

[list] 匹配括号内的任意一个字符,只能匹配单个字符。

[ ^list] ,^在括号内表示取反。即匹配括号内字符以外的任意一个字符,只能匹配单个字符。

image.png

示例5:复合使用

1、^与$复合使用

image.png

^与 [^list] 复合使用

image.png

示例6:{n}

{n} 匹配前面的子表达式n次。

image.png

示例7:{n,}

{n,} 匹配前面的子表达式不少于n次。

image.png

示例8:{n,m}

{n,m} 匹配前面的子表达式n到m次。

image.png

示例9:

egrep,awk在使用{n}、{n,}、{n,m}时,括号{}前不需要加反斜杠\。如果加了\,反而失去效果。

grep -E 可以实现 egrep 的效果。

image.png

扩展正则表达式元字符

支持的工具:egrep、 awk、 grep-E、 sed -r)

image.png

案例演示

匹配电话号码

要求:

  1. 匹配 025 开头的区号。
  1. 电话号码要5 或者 8开头的八位数。
  1. 格式如下:

image.png

匹配电子邮箱

电子邮箱:

用户名@子域名.[二级域名].顶级域

要求:

  1. 用户名:长度要求在6-18位,任意大小写英文,任意数字,除了@符号和空格以外的其它任意符号字符,开头只能是 _ 或者字母。
  2. 子域名.[二级域名]:长度任意,符号只能包含 - _ .
  3. .顶级域名:长度在2-5,任意大小写英文。
  4. 完整匹配。

需求分解:

 用户名长度要求在6-18位    {6,18}
 除了@符号和空格以外的其它任意符号字符    [^@ ]
 开头只能是 _ 或者字母       ^[a-zA-Z_]
 ​
 长度任意,符号只能包含-_.    [a-zA-Z0-9-_.]+
 ​
 长度在2-5,任意大小写英文    .[a-zA-Z]{2,5}

image.png