linux常用文本处理命令 shell脚本之正则表达式

169 阅读6分钟

sort (排序)

以行为单位对文件内容进行排序,也可以根据不同的数据类型来排序

比较原则是从首字符向后,依次按ASCII码值进行比较,最后将他们按升序输出

格式:

sort [选项] 参数
cat file | sort 选项

常用选项

-n按照数字进行排序(默认升序)
-r反向排序(倒序)
-u等同于uniq,表示相同的数据仅显示一行
-t指定字段分隔符,默认使用Tab键分隔
-k指定排序字段(不指定则默认第一个字段)
-f忽略大小写,会将小写字母都转换为大写字母来进行比较
-b忽略每行前面的空格
-o <输出文件>将排序后的结果转存到指定文件中

不加任何选项,则默认按首字母排序

-n,按照数字排序(默认升序)

-r,倒序。默认是升序排列,加-r后是降序排列

-u,合并重复行,相同数据只显示一行

-t,指定分隔符。-k,指定对第几个字段进行排序

-o <输出文件>,将排序后的结果转存到指定文件中

uniq (去重)

uniq命令用于报告或者忽略文件中连续的重复行,常与sort命令结合使用

格式

uniq [选项] 参数
cat file | uniq 选项

常用选项

-c

统计连续重复的行的次数,并且合并重复的行

-u

显示仅出现一次的行(包括不连续的重复行)

-d

仅显示重复出现的行(必须是连续的重复行)

uniq -c,显示连续重复行出现的次数,并合并重复行。

uniq -c,与sort命令结合,统计相同行重复出现的次数,包括不连续的重复行

uniq -u,显示仅出现过一次的行(但包括不连续的重复行)

uniq -u,与sort命令结合,显示真正仅出现过一次的行。

sort -n 将原文档中不连续的重复行,连续排列在了一起,使uniq -u 可以显示真正仅出现过一次的行。

tr  (删除,替换,压缩)

tr命令常用来对来自标准输入的字符进行替换、压缩和删除

格式

cat file | tr [选项]  参数

常用选项

-c

保留字符集1的字符,其他字符包括换行符\n用字符集2替换

-d

删除所有属于字符集1的字符

-s

将连续重复的字符串压缩成一个

-t

字符集2 替换 字符集1,不加选项效果相同

参数

字符集1

指定要转换或删除的原字符集。当执行转换操作时,必须使用参数“字符集2”指定转换的目标字符集。但执行删除操作时,不需要参数“字符集2”

字符集2

指定要转换成的目标字符集

-c,保留字符集1的字符,其他字符包括换行符\n用字符集2替换

-d,删除所有属于字符集1的字符

-s,将连续重复的字符串压缩成一个

分行输出环境变量PATH中包含的所有目录

删除空行

cut (截取字段或字符串)

用于显示行中的指定部分,删除文件中指定字段

格式

cut [选项] 参数
cat file | cut [选项] 参数

常用选项

-d

指定分隔符(默认分隔符为Tab)

-f n

按字段进行截取。指定第n个字段;1-3表示从第1个字段到第3个字段;1,4,7表示第1、第4、第7个字段

–complement

排除所指定的字段

–output-delimiter

更改输出内容的分隔符                                                                                                           

-d 指定分隔符,-f 按字段进行截取

-f,连续的字段使用"-"连接,不连续的字段之间使用逗号

–complement,排除所指定的字段

–output-delimiter,更改输出内容的分隔符

截取字符串的三种方法

1.${i:起始下标值:截取长度}

#i是变量,字符的下标值从0开始。例如 ${i:0:2}

2.echo $i | cut -c 1-3 

 #-c表示按字符截取,字符下标值从1开始,起始位置-终止位置。1是起始位置,3是终止位置。

3.expr substr $i 1 3 

 #下标值从1开始。1代表起始位置,3代表截取的字符长度。

split (拆分文件)

split命令用于在Linux下将大文件拆分为若干小文件

格式

split 选项 参数 原始文件 拆分后文件名前缀

常用选项

-l

指定行数

-b

指定大小

eval (扫描命令两次)

命令字前加上eval,shell会在执行命令之前扫描它两次,eval命令首先会先扫描命令行进行所有的置换,然后再执行命令,该命令适用于那些一次扫描无法实现功能的变量,该命令会对变量进行两次扫描。

paste (合并文件的列)

把每个文件以列对列的方式,一列列地加以合并

格式

paste [-s][-d <间隔字符>] 文件...

常用选项

-d<间隔字符>  #用指定的间隔字符取代跳格字符

-s    #把多行内容合并为一行显示

正则表达式

通常用于判断语句中,用来检查某一字符串是否满足某一格式

组成

正则表达式是由普通字符与元字符组成 普通字符包括大小写字母、数字、标点符号及一些其他符号 元字符是指在正则表达式中具有特殊意义的专用字符,可以用来规定其前导字符(即位于元字符前面的字符)在目标对象中的出现模式

元字符

支持的工具:grep、egrep、sed、awk

\ :转义字符,用于取消特殊符号的含义,例: \!、\n、\$等  
^ :匹配字符串开始的位置,例: ^a、 ^the、 ^#、^[a-z]  
$ :匹配字符串结束的位置,例: word$、 ^$匹配空行 
. :匹配除\n之外的任意的一个字符,例: go.dg..d  
* :匹配前面子表达式0次或者多次,例: goo*dgo.*d  
[list] :匹配list列表中的一个字符,例: go[ola]d[abc][a-z][a-z0-9][0-9]匹配任意一位数字  
[^list] :匹配任意非list列表中的一个字符,例: [^0-9][^A-20-9][^a-z]匹配任意一位非小写字母  
\{n\} :匹配前面的子表达式n次,例: go\{2\}d、 '[0-9]\{2\} '匹配两位数字  
\{n,\} :匹配前而的子表达式不少于n次,例: go\{2, \}d、'[0-9]\{2, \}'匹配两位及两位以上数字  
\{n,m\} :匹配前面的子表达式nm次,例: go\{2,3\}d、 ' [0-9]\{2,3\}'匹配两位到三位数字  
注: egrepawk使用{n}、{n,小、{n, m}匹配时“{}”前不用加“\” 

扩展

支持的工具 :egrep  awk

+ :匹配前面子表达式1次以上,例: go+d, 将匹配至少一个o, 如god、 good、 goood等

? :匹配前面子表达式0次或者1次,例: go?d, 将匹配gd或god

( ) :将括号中的字符串作为h一个整体,例1: g(oo)+d," 将匹配oo整体1次以上,如good、gooood等

| :以或的方式匹配字条串,例: g (oo|la)d," 将匹配good或者glad