文本三剑客之awk

399 阅读4分钟

awk

原理

  • 逐行读取文本,默认以空格或tab键为分隔符进行分隔,将分隔所得的各个字段保存到内建变量中,并按模式或者条件执行编辑命令。

  • awk倾向于将一行分成多个"字段"然后再进行处理。

  • awk信息的读入也是逐行读取的,执行结果可以通过print的功能将字段数据打印显示。

  • 使用awk命令的过程中,可以使用逻辑操作符"&&"表示"与"、"|"表示"或"、"!"表示"非",还可以进行简单的数学运算,如+、-、*、/、%、^分别表示加、减、乘、除、取余和乘方。

格式

awk 选项 '模式或条件 {操作}' 文件 1 文件 2 … 
awk -f 脚本文件 文件 1 文件 2
  • 注意一定是单引号:'模式或条件 {操作}'
  • { }外指定条件,{ }内指定操作。
  • 用逗号指定连续的行,用 || 指定不连续的行。&&表示”且“。
  • 内建变量,不能用双引号括起来,不然系统会把它当成字符串。

常见的内建变量

FS :列分割符。指定每行文本的字段分隔符,默认为空格或制表位。与"-F"作用相同
NF :当前处理的行的字段个数。
NR :当前处理的行的行号(序数)。
$0 :当前处理的行的整行内容。
$n :当前处理行的第n个字段(第n列)。
FILENAME :被处理的文件名。
RS :行分隔符。awk从文件上读取资料时,将根据RS的定义把资料切割成许多条记录,而awk一次仅读入一条记录,以进行处理。预设值是’\n’ 

按行输出文本

awk '{print}' six		      #输出所有内容
awk '{print $0}' six		  #输出所有内容
awk 'NR==1;NR==3{print}' six       #输出第1行和第3行
awk 'NR==1,NR==3{print}' six	   #输出第 1~3 行内容
awk '(NR>=1)&&(NR<=3){print}' six  #输出第 1~3 行内容
awk '(NR%2)==1{print}' six	       #输出所有奇数行的内容
awk '(NR%2)==0{print}' six	       #输出所有偶数行的内容
awk '/^root/{print}' /etc/passwd   #输出以 root 开头的行
awk '/nologin$/{print}' /etc/passwd   #输出以 nologin 结尾的行

#统计以/bin/bash 结尾的行数,等同于 grep -c "/bin/bash$" /etc/passwd
awk 'BEGIN {x=0};/\/bin\/bash$/{x++};END {print x}' /etc/passwd		
BEGIN模式表示,在处理指定的文本之前,需要先执行BEGIN模式中指定的动作;awk再处理指定的文本,之后再执行END模式中指定的动作,END{}语句块中,往往会放入打印结果等语句 

输出所有内容

打印行号和整行内容

使用NR指定行

打印1到3行。逗号表示连续的行内容。&&表示”且“

使用|| 打印不连续的行

$n当前处理行的第n个字段

获取ip地址

通过文本模式(匹配字符串)过滤出行

和正则表达式结合

输出包含root的行

输出以root开始的行,以bash结尾的行

BEGIN模式

格式

awk 'BEGIN{...};{...};END{...}' 文件

在awk处理指定的文本之前,需要先执行BEGIN{...}模式里的命令操作; 

中间的{...} 是真正用于处理文件的命令操作;

在awk处理完文件后才会执行END{...}模式里的命令操作。END{ }语句块中,往往会放入打印结果等语句。

统计以bash结尾的行

按字段输出内容

awk -F ":" '{print $1}' /etc/passwd 	 #输出每行中以“:”分隔的第1个字段
awk -F ":" '{print $1,$3,$5}' /etc/passwd		#输出每行中的第135个字段
awk -F ":" '$3<5{print $1,$3}' /etc/passwd	#输出第3个字段的值小于5的第13个字段内容
awk -F ":" '!($3<200){print}' /etc/passwd              #输出第3个字段的值不小于200的行
awk 'BEGIN {FS=":"};{if($3>=1000){print}}' /etc/passwd    #输出第3个字段的值不小于200的行,先处理完BEGIN的内容,再打印文本里面的内容
#($1>$2)?$1:$2三元运算符,如果第1个字段的值大于第2个字段的值,则把第1个字段的值赋给max,否则第2个字段的值赋给max
awk -F ":" '{max=($1>$2)?$1:$2;{print max}}' ten	
awk -F ":" '{print NR,$0}' /etc/passwd               #输出每行内容和行号,每处理完一条记录,NR值加1
awk -F ":" '$7~"/bash"{print $1}' /etc/passwd   #输出以冒号分隔且第7个字段中包含/bash的行的第1个字段
awk -F ":" '($1~"root")&&(NF==7){print $1,$2}' /etc/passwd    #输出第1个字段中包含root且有7个字段的行的第12个字段
awk -F ":" '($7!="/bin/bash")&&($7!="/sbin/nologin"){print}' /etc/passwd    #输出第7个字段既不为/bin/bash,也不为/sbin/nologin的所有行 

例 

使用-F指定分隔符

将内建变量FS重新赋值

内建变量FS表示列分隔符,默认为空格或制表位。重新赋值可重新指定分隔符

!取反

打印UID大于500的用户和小于500的用户

使用if语句

使用if语句,内部条件要加(),外部要加{}

三元运算符

格式

(条件表达式)?(A表达式或者值):(B表达式或者值)

条件表达式成立(为真)时,会取冒号前面的值A。
条件表达式不成立(为假)时,会取冒号后面的值B

NFNF、n~、n! 、n!~、n==、$n!=

$NF         //代表最后一个字段
 ​
 ~ 表示包含,!~ 表示不包含,== 表示等于,!= 表示不等于
 ​
 $n> < ==      //用于对比数值
 $n~"字符串"    //代表第n个字段 包含 某个字符串的作用
 $n!~"字符串"   //代表第n个字段 不包含 某个字符串的作用
 $n=="字符串"   //代表第n个字段 为 某个字符串的作用
 $n!="字符串"   //代表第n个字段 不为 某个字符串的作用

当第个7字段包含“ba"字符串时,打印该行的第1个字段和最后一个字段

第6个字段包含字符串"root",且最后一个字段包含字符串"bash"时,输出第1个字段、第3个字段、最后一个字段。

RS指定分隔符

awk从文件中读取资料时,将根据RS的定义把资料切割成许多条记录, 而awk一次仅读入一条记录进行处理。内置变量RS的预设值是"\n"。

指定冒号作为分隔符,打印行号和整行内容

通过管道双引号调用shell命令

echo $PATH | awk 'BEGIN{RS=":"};END{print NR}'    #统计以冒号分隔的文本段落数,END{}语句块中,往往会放入打印结果等语句
awk -F: '/bash$/{print | "wc -l"}' /etc/passwd    #调用 wc -l 命令统计 以bash结尾 的用户个数
grep -c "bash$" /etc/passwd                       #同上
free -m | awk '/Mem:/ {print int($3/($3+$4)*100)}'      #查看当前内存使用百分比
top -b -n 1 | grep Cpu | awk -F ',' '{print $4}' | awk '{print $1}'    #查看当前CPU空闲率,(-b -n 1 表示只需要1次的输出结果)
#显示上次系统重启时间,等同于uptime;second ago为显示多少秒前的时间,+"%F %H:%M:%S"等同于+"%Y-%m-%d %H:%M:%S"的时间格式
date -d "$(awk -F "." '{print $1}' /proc/uptime) second ago" +"%F %H:%M:%S"
awk 'BEGIN {while ("w" | getline) n++ ; {print n-2}"%"}'   #调用w命令,并用来统计在线用户数
awk 'BEGIN {"hostname" | getline ; {print $0}}'           #调用 hostname,并输出当前的主机名 

统计行数

使用内置变量NR,打印最后一行行号

处理完文本后,打印行号,这个行号就是最后一行的行号,也就是行数。(这种方式只适用于输出所有行的情况,即只能统计全文本有多少行)

统计内存使用率

过滤出CPU空闲率

top命令可以查看CPU的使用情况

显示上次系统重启时间