awk
原理
-
逐行读取文本,默认以空格或tab键为分隔符进行分隔,将分隔所得的各个字段保存到内建变量中,并按模式或者条件执行编辑命令。
-
awk倾向于将一行分成多个"字段"然后再进行处理。
-
awk信息的读入也是逐行读取的,执行结果可以通过print的功能将字段数据打印显示。
-
使用awk命令的过程中,可以使用逻辑操作符"&&"表示"与"、"|"表示"或"、"!"表示"非",还可以进行简单的数学运算,如+、-、*、/、%、^分别表示加、减、乘、除、取余和乘方。
格式
awk 选项 '模式或条件 {操作}' 文件 1 文件 2 …
awk -f 脚本文件 文件 1 文件 2 …
- 注意一定是单引号:'模式或条件 {操作}'
- { }外指定条件,{ }内指定操作。
- 用逗号指定连续的行,用 || 指定不连续的行。&&表示”且“。
- 内建变量,不能用双引号括起来,不然系统会把它当成字符串。
常见的内建变量
FS :列分割符。指定每行文本的字段分隔符,默认为空格或制表位。与"-F"作用相同
NF :当前处理的行的字段个数。
NR :当前处理的行的行号(序数)。
$0 :当前处理的行的整行内容。
$n :当前处理行的第n个字段(第n列)。
FILENAME :被处理的文件名。
RS :行分隔符。awk从文件上读取资料时,将根据RS的定义把资料切割成许多条记录,而awk一次仅读入一条记录,以进行处理。预设值是’\n’
按行输出文本
awk '{print}' six #输出所有内容
awk '{print $0}' six #输出所有内容
awk 'NR==1;NR==3{print}' six #输出第1行和第3行
awk 'NR==1,NR==3{print}' six #输出第 1~3 行内容
awk '(NR>=1)&&(NR<=3){print}' six #输出第 1~3 行内容
awk '(NR%2)==1{print}' six #输出所有奇数行的内容
awk '(NR%2)==0{print}' six #输出所有偶数行的内容
awk '/^root/{print}' /etc/passwd #输出以 root 开头的行
awk '/nologin$/{print}' /etc/passwd #输出以 nologin 结尾的行
#统计以/bin/bash 结尾的行数,等同于 grep -c "/bin/bash$" /etc/passwd
awk 'BEGIN {x=0};/\/bin\/bash$/{x++};END {print x}' /etc/passwd
BEGIN模式表示,在处理指定的文本之前,需要先执行BEGIN模式中指定的动作;awk再处理指定的文本,之后再执行END模式中指定的动作,END{}语句块中,往往会放入打印结果等语句
例
输出所有内容
打印行号和整行内容
使用NR指定行
打印1到3行。逗号表示连续的行内容。&&表示”且“
使用|| 打印不连续的行
$n当前处理行的第n个字段
获取ip地址
通过文本模式(匹配字符串)过滤出行
和正则表达式结合
输出包含root的行
输出以root开始的行,以bash结尾的行
BEGIN模式
格式
awk 'BEGIN{...};{...};END{...}' 文件
在awk处理指定的文本之前,需要先执行BEGIN{...}模式里的命令操作;
中间的{...} 是真正用于处理文件的命令操作;
在awk处理完文件后才会执行END{...}模式里的命令操作。END{ }语句块中,往往会放入打印结果等语句。
例
统计以bash结尾的行
按字段输出内容
awk -F ":" '{print $1}' /etc/passwd #输出每行中以“:”分隔的第1个字段
awk -F ":" '{print $1,$3,$5}' /etc/passwd #输出每行中的第1、3、5个字段
awk -F ":" '$3<5{print $1,$3}' /etc/passwd #输出第3个字段的值小于5的第1、3个字段内容
awk -F ":" '!($3<200){print}' /etc/passwd #输出第3个字段的值不小于200的行
awk 'BEGIN {FS=":"};{if($3>=1000){print}}' /etc/passwd #输出第3个字段的值不小于200的行,先处理完BEGIN的内容,再打印文本里面的内容
#($1>$2)?$1:$2三元运算符,如果第1个字段的值大于第2个字段的值,则把第1个字段的值赋给max,否则第2个字段的值赋给max
awk -F ":" '{max=($1>$2)?$1:$2;{print max}}' ten
awk -F ":" '{print NR,$0}' /etc/passwd #输出每行内容和行号,每处理完一条记录,NR值加1
awk -F ":" '$7~"/bash"{print $1}' /etc/passwd #输出以冒号分隔且第7个字段中包含/bash的行的第1个字段
awk -F ":" '($1~"root")&&(NF==7){print $1,$2}' /etc/passwd #输出第1个字段中包含root且有7个字段的行的第1、2个字段
awk -F ":" '($7!="/bin/bash")&&($7!="/sbin/nologin"){print}' /etc/passwd #输出第7个字段既不为/bin/bash,也不为/sbin/nologin的所有行
例
使用-F指定分隔符
将内建变量FS重新赋值
内建变量FS表示列分隔符,默认为空格或制表位。重新赋值可重新指定分隔符
!取反
打印UID大于500的用户和小于500的用户
使用if语句
使用if语句,内部条件要加(),外部要加{}
三元运算符
格式
(条件表达式)?(A表达式或者值):(B表达式或者值)
条件表达式成立(为真)时,会取冒号前面的值A。
条件表达式不成立(为假)时,会取冒号后面的值B。
例
n~、n==、$n!=
$NF //代表最后一个字段
~ 表示包含,!~ 表示不包含,== 表示等于,!= 表示不等于
$n> < == //用于对比数值
$n~"字符串" //代表第n个字段 包含 某个字符串的作用
$n!~"字符串" //代表第n个字段 不包含 某个字符串的作用
$n=="字符串" //代表第n个字段 为 某个字符串的作用
$n!="字符串" //代表第n个字段 不为 某个字符串的作用
例
当第个7字段包含“ba"字符串时,打印该行的第1个字段和最后一个字段
第6个字段包含字符串"root",且最后一个字段包含字符串"bash"时,输出第1个字段、第3个字段、最后一个字段。
RS指定分隔符
awk从文件中读取资料时,将根据RS的定义把资料切割成许多条记录, 而awk一次仅读入一条记录进行处理。内置变量RS的预设值是"\n"。
例
指定冒号作为分隔符,打印行号和整行内容
通过管道双引号调用shell命令
echo $PATH | awk 'BEGIN{RS=":"};END{print NR}' #统计以冒号分隔的文本段落数,END{}语句块中,往往会放入打印结果等语句
awk -F: '/bash$/{print | "wc -l"}' /etc/passwd #调用 wc -l 命令统计 以bash结尾 的用户个数
grep -c "bash$" /etc/passwd #同上
free -m | awk '/Mem:/ {print int($3/($3+$4)*100)}' #查看当前内存使用百分比
top -b -n 1 | grep Cpu | awk -F ',' '{print $4}' | awk '{print $1}' #查看当前CPU空闲率,(-b -n 1 表示只需要1次的输出结果)
#显示上次系统重启时间,等同于uptime;second ago为显示多少秒前的时间,+"%F %H:%M:%S"等同于+"%Y-%m-%d %H:%M:%S"的时间格式
date -d "$(awk -F "." '{print $1}' /proc/uptime) second ago" +"%F %H:%M:%S"
awk 'BEGIN {while ("w" | getline) n++ ; {print n-2}"%"}' #调用w命令,并用来统计在线用户数
awk 'BEGIN {"hostname" | getline ; {print $0}}' #调用 hostname,并输出当前的主机名
例
统计行数
使用内置变量NR,打印最后一行行号
处理完文本后,打印行号,这个行号就是最后一行的行号,也就是行数。(这种方式只适用于输出所有行的情况,即只能统计全文本有多少行)
统计内存使用率
过滤出CPU空闲率
top命令可以查看CPU的使用情况