熟练掌握Shell编程,一篇就够

1,476 阅读56分钟

1. Shell脚本入门

Shell介绍

Shell是系统的用户界面,提供了用户与内核进行交互操作的一种接口。 它接收用户输入的命令并把它送入内核去执行 。 实际上Shell是一个命令解释器,它解释由用户输入的命令并且把它们送到内核。 不仅如此,Shell有自己的编程语言用于对命令的编辑,它允许用户编写由shell命令组成的程序。

1 shell是外壳的意思,就是操作系统的外壳。我们可以通过shell命令来操作和控制操作系统,比如Linux中的Shell命令就包括ls、cd、pwd等等。总结来说,Shell是一个命令解释器,它通过接受用户输入的Shell命令来启动、暂停、停止程序的运行或对计算机进行控制。

shell 是一个应用程序,它连接了用户和 Linux 内核,让用户能够更加高效、安全、低成本地使用 Linux 内核,这就是 Shell 的本质。

Shell脚本

Shell脚本就是由Shell命令组成的执行文件,将一些命令整合到一个文件中,进行处理业务逻辑,脚本不用编译即可运行。它通过解释器解释运行,所以速度相对来说比较慢。

Shell脚本中最重要的就是对shell命令的使用与组合,再使用shell脚本支持的一些语言特性,完成想要的功能。

Shell的运行过程

image-20200313223530826.png

当用户下达指令给该操作系统的时候,实际上是把指令告诉shell,经过shell解释,处理后让内核做出相应的动作。 系统的回应和输出的信息也由shell处理,然后显示在用户的屏幕上。

Shell解析器

查看linux系统CentOS支持的shell解析器

cat /etc/shells

效果

[root@wallis-service ~]# cat /etc/shells
/bin/sh
/bin/bash
/usr/bin/sh
/usr/bin/bash
[root@wallis-service ~]# 

解析器类型

解析器类型介绍
/bin/shBourne Shell,是UNIX最初使用的shell;
/bin/bashBourne Again Shell它是Bourne Shell的扩展,简称bash,是LinuxOS默认shell,有灵活和强大的编辑接口,同时又很友好的用户界面,交互性很强;
/sbin/nologin未登录解析器, shell设置为/sbin/nologin 是用于控制用户禁止登陆系统的, 有时候有些服务,比如邮件服务,大部分都是用来接收主机的邮件而已,并不需要登陆
/bin/dashdash(Debian Almquist Shell),也是一种 Unix shell。它比 Bash 小,只需要较少的磁盘空间,但是它的对话性功能也较少,交互性较差。
/bin/cshC Shell是C语言风格Shell
/bin/tcsh是C Shell的一个扩展版本。

CentOS的默认解析器是bash

echo $SHELL

含义: 打印输出当前系统环境使用的Shell解析器类型

echo 用于打印输出数据到终端

$SHELL 是全局共享的读取解析器类型环境变量, 全局环境变量时所有的Shell程序都可以读取的变量

[root@wallis-service ~]# echo $SHELL
/bin/bash
[root@wallis-service ~]# 

Shell脚本文件编写规范

脚本文件后缀名规范

shell脚本文件就是一个文本文件, 后缀名建议使用 .sh 结尾

首行格式规范

首行需要设置Shell解析器的类型, 语法

#!/bin/bash

含义: 设置当前shell脚本文件采用bash解析器运行脚本代码

注释格式

# 单行注释

:<<!
多行注释内容1
多行注释内容2
!

脚本文件的3种常用执行方式

  1. sh解析器执行方式

    语法: sh 脚本文件

    介绍: 就是利用sh命令执行脚本文件, 本质就是使用Shell解析器运行脚本文件

  2. bash解析器执行方式

    语法: bash 脚本文件

    介绍: 就是利用bash命令执行脚本文件, 本质就是使用Shell解析器运行脚本文件

  3. 仅路径执行方式

    语法: ./脚本文件

    介绍: 执行当前目录下的脚本文件

    注意: 脚本文件自己执行需要具有可执行权限, 否则无法执行

3种执行方式的区别

sh或bash执行脚本文件方式是直接使用Shell解析器运行脚本文件, 不需要可执行权限;

仅路径方式是执行脚本文件自己, 需要可执行权限

入门小案例

已知目录/root/shell_test目录,执行batch.sh脚本,实现在/root/shell_test/目录下创建一个one.txt,在one.txt文件中增加内容“Hello Shell”。

案例实现:

# 创建脚本文件
touch /root/batch.sh
# 编辑脚本文件
vi /root/batch.sh
# 脚本内容如下
#!/bin/bash
mkdir /root/shell_test                        # 创建目录
touch /root/shell_test/one.txt                # 创建文件one.txt
echo "Hello Shell">>/root/shell_test/one.txt  # 输出数据到one.txt文件中
# 保存并退出脚本
:wq
# 运行脚本
sh /root/batch.sh
# 查看运行结果
cat /root/shell_test/one.txt

运行结果:

[root@wallis-service ~]# cat /root/shell_test/one.txt
Hello Shell
[root@wallis-service ~]# 

2. Shell变量

Shell变量介绍:

变量用于存储管理临时的数据,这些数据都是在运行内存中的。

Shell变量类型:

  1. 环境变量
  2. 自定义变量
  3. 特殊变量

2.1 环境变量

介绍

是系统提供的共享变量。是linux系统加载Shell的配置文件中定义的变量,共享给所有的Shell程序使用的。

Shell的配置文件分类

1.全局配置文件 /etc/profile /etc/profile.d/*.sh /etc/bashrc

2.个人配置文件 当前用户 ~/.bash_profile 当前用户 ~/.bashrc

一般情况下,我们都是直接针对全局配置进行操作。

环境变量分类

在Linux系统中,环境变量按照其作用范围不同大致可以分为系统级环境变量和用户级环境变量。

系统级环境变量:Shell环境加载全局配置文件中的变量共享给所有用户所有Shell程序使用, 全局共享。 用户级环境变量:Shell环境加载个人配置文件中的变量共享给当前用户的Shell程序使用, 登录用户使用。

查看当前Shell系统环境变量

env

查看Shell变量(系统环境变量+自定义变量+函数)

set

常用环境变量

变量名称含义
PATH与windows环境变量PATH功能一样,设置命令的搜索路径,以冒号为分割
HOME当前用户主目录:/root
SHELL当前shell解析器类型:/bin/bash
HISTFILE显示当前用户执行命令的历史列表文件:/root/.bash_history
PWD显示当前所在路径:/root
OLDPWD显示之前的路径
HOSTNAME显示当前主机名:wallis-service
HOSTTYPE显示主机的架构,是i386、i686、还是x86、x64等:x86_64
LANG设置当前系统语言环境:zh_CN.UTF-8

2.2 自定义变量

用户在编写shell命令或脚本的过程中自己定义的变量。

分类

  1. 自定义局部变量
  2. 自定义常量
  3. 自定义全局变量

自定义局部变量

定义在一个脚本文件中的变量, 只能在这个脚本文件中使用的变量, 就是局部变量。

定义语法

var_name=value

变量定义规则

  1. 变量名称可以有字母,数字和下划线组成, 但是不能以数字开头
  2. 等号两侧不能有空格
  3. 在bash环境中, 变量的默认类型都是字符串类型, 无法直接进行数值运算
  4. 变量的值如果有空格, 必须使用双引号括起来
  5. 不能使用Shell的关键字作为变量名称

查询变量值语法

# 语法1: 直接使用变量名查询
$var_name
# 语法2: 使用花括号(推荐使用)
${var_name}
# 区别: 花括号方式适合拼接字符串

删除变量语法

unset var_name

自定义常量

常量就是变量设置值以后不可以修改的变量, 也叫只读变量

语法

readonly var_name

演示

[root@wallis-service ~]# var3="hello world"
[root@wallis-service ~]# readonly var3
[root@wallis-service ~]# var3="heiheihei"
-bash: var3: readonly variable
[root@wallis-service ~]# 

自定义全局变量

在当前脚本文件中定义全局变量, 这个全局变量在当前Shell环境与子Shell环境中都可以使用。

语法

export var_name1

案例演示

  1. 创建demo2.sh和demo3.sh文件

    touch demo2.sh
    touch demo3.sh
    
  2. 编辑demo2.sh, 里面定义变量VAR4并设置为全局, 并里面执行demo3.sh脚本文件

    vi demo2.sh
    
    #!/bin/bash
    VAR4="Hello World"
    export VAR4
    echo "demo2.sh输出VAR4变量:${VAR4}"
    bash demo3.sh
    
  3. 编辑demo3.sh, 里面打印VAR4

    vi demo3.sh
    
    #!/bin/bash
    echo "在demo3.sh输出VAR4变量:${VAR4}"
    
  4. 执行脚本文件demo2.sh, 观察打印VAR4效果

    [root@wallis-service ~]# sh demo2.sh 
    demo2.sh输出VAR4变量:Hello World
    在demo3.sh输出VAR4变量:Hello World
    [root@wallis-service ~]# 
    
  5. 执行脚本文件后, 在交互式Shell环境打印VAR4, 观察打印VAR4效果

    [root@wallis-service ~]# echo "在父shell环境输出VAR4变量:${VAR4}"
    在父shell环境输出VAR4变量:
    [root@wallis-service ~]# 
    

结论:

全局变量在当前Shell环境与子Shell环境中可用, 父Shell环境中不可用。

2.3 特殊变量

变量含义
$0当前脚本的文件名
$n传递给脚本或函数的参数。n 是一个数字,表示第几个参数。例如,第一个参数是1,第二个参数是1,第二个参数是2。
$#传递给脚本或函数的参数个数。
$*传递给脚本或函数的所有参数。
$@传递给脚本或函数的所有参数。被双引号(" ")包含时,与 $* 稍有不同,下面将会讲到。
$?上个命令的退出状态,或函数的返回值。一般来说, 返回0代表命令执行成功, 非0代表执行失败
$$当前 Shell 进程 ID。对于 Shell 脚本,就是这些脚本所在的进程 ID。

$*$@区别

1.不使用双引号括起来, 功能一样
  $*和$@获取所有输入参数,格式为: $1 $2 ... $n
2.使用双引号括起来
  "$*"获取的所有参数拼接为一个字符串, 格式为: "$1 $2 ... $n"
  "$@"获取一组参数列表对象, 格式为: "$1" "$2" ... "$n"
  使用循环打印所有输入参数可以看出区别

循环语法

for var in 列表变量
do		# 循环开始
   命令  # 循环体
done    # 循环结束

演示

  1. 编辑demo4.sh文件

    vi demo4.sh
    
  2. 直接输出所有输入参数, 与循环方式输出所有输入参数(使用双引号包含 $*$@ )

    #!/bin/bash
    # 命令1: 打印当前脚本文件名字
    echo "当前脚本文件名称:$0"
    
    # 命令2: 打印第1个输入参数
    echo "第一个输入参数:$1"
    
    # 命令3: 打印第2个输入参数
    echo "第二个输入参数:$2"
    
    # 命令4: 打印第10个输入参数
    echo "第十个输入参数不带花括号获取:$10"
    echo "第十个输入参数带花括号获取:${10}"
    
    # 命令5 打印所有输入参数的个数
    echo "所有输入参数个数:${#}"
    
    
    # 增加命令: 实现直接输出所有输入后参数
    echo '使用$*直接输出:'$*
    echo '使用$@直接输出:'$@
    
    # 增加命令: 使用循环打印输出所有输入参数
    echo '循环遍历输出$*所有参数'
    for item in "$*"
    do
       echo $item
    done
    echo '循环遍历输出$@所有参数'
    for item in "$@"
    do
       echo $item
    done
    
  3. 运行观察区别

    [root@wallis-service ~]# sh demo4.sh hello world shell
    当前脚本文件名称:demo4.sh
    第一个输入参数:hello
    第二个输入参数:world
    第十个输入参数不带花括号获取:hello0
    第十个输入参数带花括号获取:
    所有输入参数个数:3
    使用$*直接输出:hello world shell
    使用$@直接输出:hello world shell
    循环遍历输出$*所有参数
    hello world shell
    循环遍历输出$@所有参数
    hello
    world
    shell
    [root@wallis-service ~]# 
    

2.4 自定义系统环境变量

全局配置文件/etc/profile应用场景

当前用户进入Shell环境初始化的时候会加载全局配置文件/etc/profile里面的环境变量, 供给所有Shell程序使用。

以后只要是所有Shell程序或命令使用的变量, 就可以定义在这个文件中。

创建环境变量步骤

  1. 编辑/etc/profile全局配置文件

    # 增加命令: 定义变量VAR1=VALUE1 并导出为环境变量
    # 扩展: vi里面的命令模式使用G快速定位到文件末尾位置, 使用gg定位到文件首行位置
    

    编辑/etc/profile文件

    vi /etc/profile
    
    # 创建环境变量
    VAR1=VALUE1
    export VAR1
    
  2. 重载配置文件/etc/profile, 因为配置文件修改后要立刻加载里面的数据就需要重载, 语法

    source /etc/profile
    
  3. 在Shell环境中读取系统级环境变量VAR1

    echo $VAR1
    
    [root@wallis-service ~]# echo $VAR1
    VALUE1
    [root@wallis-service ~]# 
    

2.5 加载流程介绍与测试

登录Shell与非登录Shell环境

类型名称含义
shell登录环境需要用户名、密码登录之后才能进入的shell
shell非登录环境直接不用输入用户名和密码就可以打开的shell
或调用子Shell时使用的工作环境

注意:不同的工作环境加载环境变量流程不一样

环境变量初始化流程

image-20200608181518841.png

2.6 识别和切换Shell环境

识别环境

使用$0语法

echo $0

输出 -bash 代表:shell登录环境

输出 bash 代表: shell非登录环境

注意:这个 $0 环境变量如果用在子shell中(shell脚本文件)输出Shell脚本本身的文件名

bash命令语法

bash

bash命令:用于切换为Shell非登录环境

退出环境

logout命令语法

logout

logout命令: 用于退出Shell登录环境

exit命令语法

exit

exit命令: 用于退出Shell登录或非登录环境

切换环境方式1:直接登录系统

介绍

直接在虚拟机上使用用户名与密码登录linux系统或使用客户端直接连接远程linux系统。

[root@wallis-service ~]# echo $0
-bash
[root@wallis-service ~]# 

登录后,加载Shell登录环境变量

切换环境方式2:su切换用户登录

命令

语法1

su 用户名 --login 
或
su 用户名 -l
 # 切换到指定用户, 加载Shell登录环境变量

语法2

su 用户名  
# 切换到指定用户,  加Shell非登录环境变量

切换环境方式3:bash切换

命令

语法1:

bash  # 加载【Shell非登录环境】

语法2:

bash -l  Shell脚本文件 /  bash --login shell脚本文件
sh -l shell脚本文件 / sh --login shell脚本文件
# 先加载【Shell登录环境】然后运行指定Shell脚本文件

2.7 Shell字符串变量

介绍

字符串(String)就是一系列字符的组合。字符串是 Shell 编程中最常用的数据类型之一(除了数字和字符串,也没有其他类型了)

字符串的3种格式

  1. 单引号方式
  2. 双引号方式, 推荐
  3. 不用引号方式

3种格式的区别

  1. 使用单引号 '' 的字符串:

    任何字符都会原样输出,在其中使用变量是无效的。

  2. 由双引号" "包围的字符串:

    其中包含了变量,那么该变量会被解析得到值,而不是原样输出。

    字符串中还可以出现双引号的子字符串,但是需要转义。

  3. 不被引号包围的字符串

    不被引号包围的字符串中出现变量时也会被解析,这一点和双引号" "包围的字符串一样。

    字符串中不能出现空格,否则空格后边的字符串会作为其他变量或者命令解析。

获取字符串的长度

${#字符串变量名}

字符串拼接方式

  1. 无符号拼接

  2. 双引号拼接

  3. 混合拼接

20211220174525.png

字符串截取语法

格式说明
${变量名:start:length}从 string 字符串的左边第 start 个字符开始,
向右截取 length 个字符。
${变量名:start}从 string 字符串的左边第 start 个字符开始截取,直到最后。
${变量名:0-start:length}从 string 字符串的右边第 start 个字符开始,
向右截取 length 个字符。
${变量名:0-start}从 string 字符串的右边第 start 个字符开始截取,直到最后。
${变量名#*chars}从 string 字符串第一次出现 *chars 的位置开始,
截取 *chars 右边的所有字符。
${变量名##*chars}从 string 字符串最后一次出现 *chars 的位置开始,
截取 *chars 右边的所有字符。
${变量名%chars*}从 string 字符串最后第一次出现 chars* 的位置开始,
截取 chars* 左边的所有字符。
${变量名%%chars*}从 string 字符串第一次出现 chars* 的位置开始,
截取 chars* 左边的所有字符

2.8 Shell索引数组变量

介绍

Shell 支持数组(Array), 数组是若干数据的集合,其中的每一份数据都称为数组的元素。

注意Bash Shell 只支持一维数组,不支持多维数组。

数组的定义

在 Shell 中,用括号( )来表示数组,数组元素之间用空格来分隔. 语法为:

array_name=(item1  item2 ...)  # 方式1
array_name=([索引下标1]=item1  [索引下标2]=item2  ...)  # 方式2

注意,赋值号 = 两边不能有空格

示例

1.定义数字存储29,100,13,8,91,44

nums=(29 100 13 8 91 44)

2.Shell 是弱类型的,它并不要求所有数组元素的类型必须相同

arr=(20 56 "http://www.baidu.com/")

Shell数组元素定义后不是固定的, 定义后还可以赋值

arr[6]=100

3.可以给指定元素赋值初始化

arr2=([0]=1 [2]=100 [4]=aa)

由于上面只赋值了3个元素, 所以数组的长度是3

数组的获取

1.通过下标获取元素值,index从0开始

${arr[index]}

注意使用{ }

2.获取值同时复制给其他变量

item=${arr[index]}

3.使用 @* 可以获取数组中的所有元素

${arr[@]}
${arr[*]}

4.获取数组的长度或个数

${#arr[@]}
${#arr[*]}

5.获取数组指定元素的字符程度

${#arr[索引]}

数组的拼接

所谓 Shell 数组拼接(数组合并),就是将两个数组连接成一个数组

语法

使用 @* 获取数组所有元素之后进行拼接

array_new=(${array1[@]} ${array2[@]} ...)
array_new=(${array1[*]} ${array2[*]} ...)

数组的删除

删除数组指定元素数据和删除整个数组数据

语法

删除数组指定元素数据

unset array_name[index]

删除整个数组

unset array_name

3.Shell内置命令

Shell 内置命令,就是由 Bash Shell 自身提供的命令,而不是文件系统中的可执行文件。

使用type 来确定一个命令是否是内置命令:

type 命令

20211221182304.png

通常来说,内置命令会比外部命令执行得更快,执行外部命令时不但会触发磁盘 I/O,还需要 fork 出一个单独的进程来执行,执行完成后再退出。而执行内置命令相当于调用当前 Shell 进程的一个函数, 还是一个进程, 减少了上下文切换。

3.1 内置命令列表

命令说明
:扩展参数列表,执行重定向操作
.读取并执行指定文件中的命令(在当前 shell 环境中)
alias为指定命令定义一个别名
bg将作业以后台模式运行
bind将键盘序列绑定到一个 readline 函数或宏
break退出 for、while、select 或 until 循环
builtin执行指定的 shell 内建命令
caller返回活动子函数调用的上下文
cd将当前目录切换为指定的目录
command执行指定的命令,无需进行通常的 shell 查找
compgen为指定单词生成可能的补全匹配
complete显示指定的单词是如何补全的
compopt修改指定单词的补全选项
continue继续执行 for、while、select 或 until 循环的下一次迭代
declare声明一个变量或变量类型。
dirs显示当前存储目录的列表
disown从进程作业表中刪除指定的作业
echo将指定字符串输出到 STDOUT
enable启用或禁用指定的内建shell命令
eval将指定的参数拼接成一个命令,然后执行该命令
exec用指定命令替换 shell 进程
exit强制 shell 以指定的退出状态码退出
export设置子 shell 进程可用的变量
fc从历史记录中选择命令列表
fg将作业以前台模式运行
getopts分析指定的位置参数
hash查找并记住指定命令的全路径名
help显示帮助文件
history显示命令历史记录
jobs列出活动作业
kill向指定的进程 ID(PID) 发送一个系统信号
let计算一个数学表达式中的每个参数
local在函数中创建一个作用域受限的变量
logout退出登录 shell
mapfile从 STDIN 读取数据行,并将其加入索引数组
popd从目录栈中删除记录
printf使用格式化字符串显示文本
pushd向目录栈添加一个目录
pwd显示当前工作目录的路径名
read从 STDIN 读取一行数据并将其赋给一个变量
readarray从 STDIN 读取数据行并将其放入索引数组
readonly从 STDIN 读取一行数据并将其赋给一个不可修改的变量
return强制函数以某个值退出,这个值可以被调用脚本提取
set设置并显示环境变量的值和 shell 属性
shift将位置参数依次向下降一个位置
shopt打开/关闭控制 shell 可选行为的变量值
source读取并执行指定文件中的命令(在当前 shell 环境中)
suspend暂停 Shell 的执行,直到收到一个 SIGCONT 信号
test基于指定条件返回退出状态码 0 或 1
times显示累计的用户和系统时间
trap如果收到了指定的系统信号,执行指定的命令
type显示指定的单词如果作为命令将会如何被解释
typeset声明一个变量或变量类型。
ulimit为系统用户设置指定的资源的上限
umask为新建的文件和目录设置默认权限
unalias刪除指定的别名
unset刪除指定的环境变量或 shell 属性
wait等待指定的进程完成,并返回退出状态码

3.2 alias内置命令

alias 用于给命令创建别名。若该命令且不带任何参数,则显示当前 Shell 进程中的所有别名列表。

[root@wallis-service ~]# alias
alias cp='cp -i'
alias egrep='egrep --color=auto'
alias fgrep='fgrep --color=auto'
alias grep='grep --color=auto'
alias l.='ls -d .* --color=auto'
alias ll='ls -l --color=auto'
alias ls='ls --color=auto'
alias mv='mv -i'
alias rm='rm -i'
alias which='alias | /usr/bin/which --tty-only --read-alias --show-dot --show-tilde'
[root@wallis-service ~]# 

上面是系统为了方便命令操作默认将部分命令创建为别名 ll 的命令与ls -l的效果一样, 就是因为ll是别名。

alias别名定义语法

alias 别名='命令'

alias别名删除语法

# 删除指定的别名
unalias 别名
# 删除当前Shell环境中所有的别名
unalias -a

注意: 以上2种方式删除都是临时删除当前Shell的别名, 如果想永久删除必须去配置文件中手动删除。

3.3 echo内置命令

默认输出换行语法

echo 字符串

输出不换行语法

echo -n  字符串

输出转义字符

-e 参数用于解析转义字符

echo -e '字符串中含有转义字符'

/c 用于强制清除echo的结尾换行输出

echo -e '字符串结尾加\c'

3.4 read内置命令

read 是 Shell 内置命令,用于从标准输入中读取数据并赋值给变量。如果没有进行重定向,默认就是从终端控制台读取用户输入的数据;如果进行了重定向,那么可以从文件中读取数据。

后续Shell重定向讲解

语法

read [-options] [var1 var2 ...]

options表示选项,如下表所示;var表示用来存储数据的变量,可以有一个,也可以有多个。

optionsvar都是可选的,如果没有提供变量名,那么读取的数据将存放到环境变量 REPLY 中。

options支持的参数

选项说明
-a array把读取的数据赋值给数组 array,从下标 0 开始。
-d delimiter用字符串 delimiter 指定读取结束的位置,而不是一个换行符(读取到的数据不包括 delimiter)。
-e在获取用户输入的时候,对功能键进行编码转换,不会直接显式功能键对应的字符。
-n num读取 num 个字符,而不是整行字符。
-p prompt显示提示信息,提示内容为 prompt。
-r原样读取(Raw mode),不把反斜杠字符解释为转义字符。
-s静默模式(Silent mode),不会在屏幕上显示输入的字符。当输入密码和其它确认信息的时候,这是很有必要的。
-t seconds设置超时时间,单位为秒。如果用户没有在指定时间内输入完成,那么 read 将会返回一个非 0 的退出状态,表示读取失败。
-u fd使用文件描述符 fd 作为输入源,而不是标准输入,类似于重定向。

示例

read1.sh文件内容

#!/bin/bash
read -p "请输入姓名,年龄,爱好: " name age hobby
echo "姓名:$name"
echo "年龄:$age"
echo "爱好:$hobby"

执行结果

[root@wallis-service ~]# sh read1.sh 
请输入姓名,年龄,爱好: zhangsan 18 football
姓名:zhangsan
年龄:18
爱好:football
[root@wallis-service ~]# 

3.5 exit内置命令

exit 用于退出当前 Shell 进程结束运行,并返回一个退出状态;使用$?可以接收这个退出状态.

exit 命令可以接受一个整数值作为参数,代表退出状态。如果不指定,默认状态值是 0。

一般情况下,退出状态为 0 表示成功,退出状态为非 0 表示执行失败(出错)了。

语法

正确退出语法

exit

错误退出语法

exit 非0数字  # 介于 0~255 之间的整数,其中只有 0 表示成功,其它值都表示失败

exit应用场景

1.结束当前Shell进程

2.当Shell 进程执行出错退出时,可以返回不同的状态值代表不同的错误

比如打开一个文件时,可以返回1 表示文件不存在,2 表示文件没有读取权限,3 表示文件类型不对。

3.6 declare内置命令

declare命令用于声明 shell 变量。可用来声明变量并设置变量的属性,也可用来显示shell函数。若不加上任何参数,则会显示全部的shell变量与函数(与执行set指令的效果相同)。

declare命令作用

1.declare设置变量的属性

2.查看全部Shell变量与函数

3.实现关联数组变量

不同于普通数组, 关联数组的下标是字符串, 通过字符串下标操作数据

语法

1.declare设置变量的属性语法

declare [+/-][aArxif][变量名称=设置值]

+/-  "-"可用来指定变量的属性,"+"则是取消变量所设的属性。

a 设置为普通索引数组

A 设置为key-value关联数组

r  将变量设置为只读, 也可以使用readonly

x  设置变量成为环境变量,也可以使用export

i  设置为整型变量。

f 设置为一个函数变量

2.查看全部Shell变量与函数定义语法

declare [-fF]

declare 后无参数, 查询全部Shell变量与函数定义

-f  仅查询显示函数定义

-F 仅查询显示函数名字

3.实现key-value关联数组变量语法

关联数组也称为“键值对(key-value)”数组,键(key)也即字符串形式的数组下标,值(value)也即元素值。

declare -A 关联数组变量名=([字符串key1]=值1 [字符串key2]=值2 ...)

declare也可以用于定义普通数组, -a 参数创建普通或索引数组 -A 创建关联数组

declare -a 关联数组变量名=(值1 值2 ...)

declare -a 关联数组变量名=([0]=值1 [1]=值2 ...)

获取指定key的值

${关联数组变量名[key]}

获取所有值

${关联数组变量名[*]} # 方式1
${关联数组变量名[@]} # 方式2

4.Shell运算符

4.1 expr命令

介绍

expr 是 evaluate expressions 的缩写,译为“表达式求值”。Shell expr 是一个功能强大,并且比较复杂的命令,它除了可以实现整数计算,还可以结合一些选项对字符串进行处理,例如计算字符串长度、字符串比较、字符串匹配、字符串提取等, 后续讲解。

语法

计算语法

expr 算术运算符表达式

注意: 运算表达式

获取计算结果赋值给新变量语法

result=`expr 算术运算符表达式`

演示

[root@wallis-service ~]# expr 1 + 2
3
[root@wallis-service ~]# result=`expr 1 + 2` 
[root@wallis-service ~]# echo $result
3
[root@wallis-service ~]# 

注意: 运算符表达式中每个数字与符号之间要有空格

4.2 算术运算符

算术运算符介绍

下表列出了常用的算术运算符,假定变量 a 为 1,变量 b 为 2:

运算符说明举例
+加法expr $a + $b 结果为 3
-减法expr $a - $b 结果为 -1
*乘法expr $a \* $b 结果为 2
/除法expr $b / $a 结果为 2
%取余expr $b % $a 结果为 0
=赋值a=$b 将把变量 b 的值赋给 a

四则运算中如果使用了(), 也需要转义 \( 1 + 1 \)

算术运算符演示

option1.sh脚本代码

#!/bin/bash
a=1 b=2          # 声明变量a=1和b=2
echo "a=${a} b=${b}"
echo "a + b = `expr $a + $b`"
echo "a * b = `expr $a \* $b`"
echo "a - b = `expr $a - $b`"
echo "a * b = `expr $a \* $b`"
echo "b / a = `expr $b / $a`"
echo "b % a = `expr $b % $a`"

echo -n "a == b 结果为 "
if [ $a == $b ]       # 注意变量与符号之间都要有空格
then
        echo true
else
        echo false
fi

echo -n "a != b 结果为 "
if [ $a != $b ]        # 注意变量与符号之间都要有空格
then
        echo true
else
        echo false
fi
[root@wallis-service ~]# sh option1.sh 
a=1 b=2
a + b = 3
a * b = 2
a - b = -1
a * b = 2
b / a = 2
b % a = 0
a == b 结果为 false
a != b 结果为 true
[root@wallis-service ~]# 

4.3 比较运算符

整数比较运算符

语法

下表列出了常用的比较运算符,假定变量 a 为 1,变量 b 为 2:

运算符说明举例
-eqequals 检测两个数是否相等,相等返回 0, 否则返回1。[ $a -eq $b ] 返回 1。
-nenot equals检测两个数是否不相等,不相等返回 true。[ $a -ne $b ] 返回 0。
-gtgreater than检测左边的数是否大于右边的,
是返回0, 否则1
[ $a -gt $b ] 返回 1。
-ltlower than检测左边的数是否小于右边的,
是返回0, 否则1
[ $a -lt $b ] 返回 0。
-gegreater equals检测左边的数是否大于等于右边的,
是返回0, 否则1
[ $a -ge $b ] 返回 1。
-lelower equals检测左边的数是否小于等于右边的,
是返回0, 否则1
[ $a -le $b ] 返回 0。
<检测左边的数是否小于右边的,
是返回0, 否则1
(($a<$b)) 返回0
<=检测左边的数是否小于等于右边的,
是返回0, 否则1
(($a<=$b)) 返回0
>检测左边的数是否大于右边的,
是返回0, 否则1
(($a>$b)) 返回1
>=检测左边的数是否大于等于右边的,
是返回0, 否则1
(($a>=$b)) 返回1

注意: 整数比较运算符只支持整数,不支持小数与字符串(字符串比较后续讲解),除非字符串的值是整数数字。

每个命令都有返回值, 这个后面我们会讲解退出状态再具体说明, 返回0代表成功, 返回1代表失败

演示

option2.sh脚本代码

#!/bin/bash
a=1 b=2
echo "a=${a} b=${b}"
if [ $a -eq $b ]
then
   echo "$a -eq $b : a 等于 b"
else
   echo "$a -eq $b: a 不等于 b"
fi
if [ $a -ne $b ]
then
   echo "$a -ne $b: a 不等于 b"
else
   echo "$a -ne $b : a 等于 b"
fi
if [ $a -gt $b ]
then
   echo "$a -gt $b: a 大于 b"
else
   echo "$a -gt $b: a 不大于 b"
fi
if [ $a -lt $b ]
then
   echo "$a -lt $b: a 小于 b"
else
   echo "$a -lt $b: a 不小于 b"
fi
if [ $a -ge $b ]
then
   echo "$a -ge $b: a 大于或等于 b"
else
   echo "$a -ge $b: a 小于 b"
fi
if [ $a -le $b ]
then
   echo "$a -le $b: a 小于或等于 b"
else
   echo "$a -le $b: a 大于 b"
fi

if (($a > $b))
then
   echo "$a > $b: a 大于 b"
else
   echo "$a > $b: a 不大于 b"
fi
if (($a < $b))
then
   echo "$a < $b: a 小于 b"
else
   echo "$a < $b: a 不小于 b"
fi
if (($a >= $b))
then
   echo "$a >= $b: a 大于或等于 b"
else
   echo "$a >= $b: a 小于 b"
fi
if (($a <= $b))
then
   echo "$a <= $b: a 小于或等于 b"
else
   echo "$a <= $b: a 大于 b"
fi

运行效果

[root@wallis-service ~]# sh option2.sh  
a=1 b=2
1 -eq 2: a 不等于 b
1 -ne 2: a 不等于 b
1 -gt 2: a 不大于 b
1 -lt 2: a 小于 b
1 -ge 2: a 小于 b
1 -le 2: a 小于或等于 b
1 > 2: a 不大于 b
1 < 2: a 小于 b
1 >= 2: a 小于 b
1 <= 2: a 小于或等于 b
[root@wallis-service ~]# 

字符串比较运算符

介绍

可以比较2个变量, 变量的类型可以为数字(整数,小数)与字符串

语法

下表列出了常用的字符串运算符,假定变量 a 为 "abc",变量 b 为 "efg":

字符串比较可以使用 [[]][] 2种方式

运算符说明举例
== 或 =相等。用于比较两个字符串或数字,相同则返回 0。可以使用=[ $a == $b ] 返回1
[ $a = $b ] 返回 1
[[ $a == $b ]] 返回1
[[ $a = $b ]] 返回1
!=不相等。用于比较两个字符串或数字,不相同则返回 0。[ $a != $b ] 返回 0
[[ $a != $b ]] 返回 0
<小于, 用于比较两个字符串或数字, 小于返回0, 否则返回1[ $a \< $b ] 返回 0
[[ $a < $b ]] 返回 0
大于, 用于比较两个字符串或数字, 大于返回0, 否则返回1[ $a \> $b ] 返回 1
[[ $a > $b ]] 返回 1
-z检测字符串长度是否为0,为0返回 true。[ -z $a ] 返回 1。
-n检测字符串长度是否不为 0,不为 0 返回 true。[ -n "$a" ] 返回 0。
$检测字符串是否不为空,不为空返回 0 ,否则返回1。[ $a ] 返回 0。

字符串比较没有 <= 可以通过 [[ "a" < "b" && "a" = "b" ]]

演示

option3.sh脚本代码

#!/bin/bash

a="hello" b="world" c=1 d=2
echo "a=${a},b=${b},c=${c},d=${d}"

if [ $a = $b ]
then
   echo "$a = $b : a 等于 b"
else
   echo "$a = $b: a 不等于 b"
fi

if [ $a != $b ]
then
   echo "$a != $b : a 不等于 b"
else
   echo "$a != $b: a 等于 b"
fi

if [[ $a > $b ]]
then
   echo "$a > $b : a 大于 b"
else
   echo "$a > $b: a 不大于 b"
fi

if [ $a \> $b ]
then
   echo "$a > $b : a 大于 b"
else
   echo "$a > $b: a 不大于 b"
fi

if [[ $c > $d ]]
then
   echo "$c > $d : c 大于 d"
else
   echo "$c > $d: c 不大于 d"
fi

if [ -z $a ]
then
   echo "-z $a : 字符串长度为 0"
else
   echo "-z $a : 字符串长度不为 0"
fi

if [ -n "$a" ]
then
   echo "-n $a : 字符串长度不为 0"
else
   echo "-n $a : 字符串长度为 0"
fi

if [ $a ]
then
   echo "$a : 字符串不为空"
else
   echo "$a : 字符串为空"
fi

运行效果

[root@wallis-service ~]# sh option3.sh  
a=hello,b=world,c=1,d=2
hello = world: a 不等于 b
hello != world : a 不等于 b
hello > world: a 不大于 b
hello > world: a 不大于 b
1 > 2: c 不大于 d
-z hello : 字符串长度不为 0
-n hello : 字符串长度不为 0
hello : 字符串不为空
[root@wallis-service ~]# 

[[]][] 的区别

区别1: word splitting的发生

区别说明

[[]] 不会有word splitting发生

[] 会有word splitting发生

word splitting介绍

会将含有空格字符串进行分拆分割后比较

示例

20211220214406.png

通过 $? 获取上一个命令的退出状态, 0代表成功, 1代表失败

区别2: 转义字符

区别说明

[[]]< 不需要转义, 格式为 [[ 字符串1 < 字符串2 ]]

[] 需要对 <,>等 转义 , 格式为 [ 字符串1 \< 字符串2 ]

小结

  1. 了解有哪些比较运算符

    整数比较运算符

    比较方式: [](())

    方式1: [ 整数1 options 整数2 ]

    options: -eq -gt -ge -lt -le -ne

    方式2: ((整数1 options 整数2))

    options: < <= > >=

    字符串,数字比较运算符

    介绍: 可以比较2个变量, 变量的类型可以为字符串, 数字(整数,小数)

    比较方式: [][[]]

    方式1: [ 变量1 options 整数2 ]

    options: <,>,==,=,!=

    <,> 需要转义

    ​ 比较含有空格的字符串, 需要使用""号括起来, 否则会分割拆分

    方式2: [[ 变量1 options 变量2]]

    options: <,>,==,=,!=

    <,> 不需要转义

  2. 推荐使用哪个比较运算符?

    [[ 表达式 ]] 即可以实现数字和字符串比较, 并且不需要转义, 不会分割

4.4 布尔运算符

介绍

运算符说明举例
!非运算,取反, 表达式为 true 则返回 false,
否则返回 true。
[ ! false ] 返回 true。
-oor 或运算,有一个表达式为 true 则返回 true。[ 表达式1 -o 表达式2 ] 返回 true。
-aand 与运算,两个表达式都为 true 才返回 true。[ 表达式1 -a 表达式2 ] 返回 false。

注意布尔运算符只能放在[] 才有效

以后常使用布尔运算符与test命令进行连接条件测试, 后续讲解

演示

option4.sh脚本代码脚本代码

#!/bin/bash
a=1 b=2

if [ $a -lt 2 -a $b -gt 10 ]
then
   echo "$a 小于 2 且 $b 大于 10 : 返回 true"   
else
   echo "$a 小于 2 且 $b 大于 10 : 返回 false"  # $b -gt 10不成立, 输出这个表达式
fi

if [ $a -lt 10 -o $b -gt 10 ]
then
   echo "$a 小于 10 或 $b 大于 10 : 返回 true"  # $a -lt 10 成立, 输出这个表达式
else
   echo "$a 小于 10 或 $b 大于 10 : 返回 false"
fi

if [ ! $a -gt $b ]
then
   echo "$a 大于 $b 取反 : 返回 true"
else
   echo "$a 大于 $b 取反 : 返回 false"   # $a -gt $b 为true , 取反为false, 输出这个表达式
fi

运行效果

[root@wallis-service ~]# sh option4.sh  
1 小于 2 且 2 大于 10 : 返回 false
1 小于 10 或 2 大于 10 : 返回 true
1 大于 2 取反 : 返回 true
[root@wallis-service ~]# 

4.5 逻辑运算符

介绍

运算符说明举例
&&逻辑的 AND[[ 表达式1 && 表达式2 ]] 返回 false
||逻辑的 OR`[[ 表达式1表达式2 ]]` 返回 true

注意: 使用&&|| 的运算符必须放在 [[]](())中才有效, 否则报错

-a-o 的运算符必须放在 [] 在才有效 或 test命令中

!可以用在[],[[]]中, 不可以在(())

演示

option5.sh脚本代码

#!/bin/bash

a=1 b=2

if [[ $a -lt 10 && $b -gt 10 ]]
then
   echo "返回 true" 
else
   echo "返回 false"  # $b -gt 10 不成立, 输出false
fi

if [[ $a -lt 10 || $b -gt 10 ]]
then
   echo "返回 true"   # $a -lt 10 成立,  输出true
else
   echo "返回 false"  
fi

运行效果

[root@wallis-service ~]# sh option5.sh  
返回 false
返回 true
[root@wallis-service ~]# 

4.6 文件测试运算符

介绍

文件测试运算符用于检测文件的各种属性。

属性检测描述如下:

操作符说明举例
-b file检测文件是否是块设备文件,如果是,则返回 true。[ -b $file ] 返回 false。
-c file检测文件是否是字符设备文件,如果是,则返回 true。[ -c $file ] 返回 false。
-d filedirectory, 检测文件是否是目录,如果是,则返回 true。[ -d $file ] 返回 false。
-f filefile, 检测文件是否是普通文件(既不是目录,也不是设备文件)
,如果是,则返回 true。
[ -f $file ] 返回 true。
-g file检测文件是否设置了 SGID 位,如果是,则返回 true。[ -g $file ] 返回 false。
-k file检测文件是否设置了粘着位(Sticky Bit),如果是,
则返回 true。
[ -k $file ] 返回 false。
-p file检测文件是否是有名管道,如果是,则返回 true。[ -p $file ] 返回 false。
-u file检测文件是否设置了 SUID 位,如果是,则返回 true。[ -u $file ] 返回 false。
-r fileread,检测文件是否可读,如果是,则返回 true。[ -r $file ] 返回 true。
-w filewrite,检测文件是否可写,如果是,则返回 true。[ -w $file ] 返回 true。
-x fileexecute, 检测文件是否可执行,如果是,则返回 true。[ -x $file ] 返回 true。
-s filesize, 检测文件是否为空(文件大小是否大于0)
,不为空返回 true。
[ -s $file ] 返回 true。
-e fileexists, 检测文件(包括目录)是否存在,如果是,
则返回 true。
[ -e $file ] 返回 true。
file1 -nt file2new than(nt), file1是否比file2新[ file1 -nt file2 ]
file1 -ot file2old than(ot), file1是否比file2旧[ file1 -ot file2 ]

其他检查符:

  • -S: 判断某文件是否 socket。
  • -L: link, 检测文件是否存在并且是一个符号链接。

语法

[ options 文件路径字符串]
或
[[ options 文件路径字符串 ]]

演示

option6.sh脚本代码

#!/bin/bash

file="/root/option1.sh"
if [ -w $file ]
then
   echo "文件可写"
else
   echo "文件不可写"
fi
if [ -r $file ]
then
   echo "文件可读"
else
   echo "文件不可读"
fi
if [ -x $file ]
then
   echo "文件可执行"
else
   echo "文件不可执行"
fi
if [ -f $file ]
then
   echo "文件是普通文件"
else
   echo "文件是特殊文件"
fi
if [ -s $file ]
then
   echo "文件不是空"
else
   echo "文件是空"
fi
if [ -e $file ]
then
   echo "文件存在"
else
   echo "文件不存在"
fi
if [ -d $file ]
then
   echo "文件是目录"
else
   echo "文件不是目录"
fi

file2="/root/option2.sh"
if [ file -nt file2 ]
then
   echo "option1.sh文件比option2.sh文件新"
else
   echo "option1.sh文件不比option2.sh文件新"
fi

运行效果

[root@wallis-service ~]# sh option6.sh 
文件可写
文件可读
文件不可执行
文件是普通文件
文件不是空
文件存在
文件不是目录
option1.sh文件不比option2.sh文件新
[root@wallis-service ~]# 

option1.sh文件不可执行, 因为没有可执行权限

查看option1.sh文件权限

20211220215842.png

给option1.sh添加执行权限

微信截图_20211220220013.png

重新执行option6.sh

微信截图_20211220220120.png

5. Shell整数计算命令

5.1 expr命令详解

介绍

expr (evaluate expressions 的缩写),译为“表达式求值”。Shell expr 是一个功能强大,并且比较复杂的命令,它除了可以实现整数计算,还可以结合一些选项对字符串进行处理,例如计算字符串长度、字符串比较、字符串匹配、字符串提取等.

求值表达式(上文已提及)

计算语法

expr 算术运算符表达式
# 例如: expr 1 + 1  返回: 2
# 例如: expr \( 10 + 10 \) \* 2 + 100 返回:140

获取计算结果赋值给新变量语法

result=`expr 算术运算符表达式`
# 例如: result=`expr 1 + 1`  输出result得到结果: 2

字符串语法

计算字符串的长度语法

expr length 字符串
# 例如: expr length "hello"  返回: 5

截取字符串语法

expr substr 字符串 start end
# start 截取字符串的起始位置, 从1开始
# end 截取字符串的结束位置, 包含这个位置截取
# 例如 expr substr "hello" 1 2  返回: he

获取第一个字符在字符串中出现的位置语法

expr index 被查找字符串  需要查找的字符
# 例如 expr index "hello" e  会返回: 2 

正则表达式匹配1语法

expr match 字符串 正则表达式
# 正则表达式默认带有^ ,  代表以什么开头
# 返回值为符合匹配字符的长度, 否则返回为0
# 例如: expr match "hello" ".*o"  会返回: 5
# 正则表达式通配符"."代表任意一个字符
# 正则表达式通配符"*"代表签名的字符可以出现0到多次
# ".*o" 含义为匹配字符串中o前面的字符串长度 

正则表表达式匹配2语法, 功能与语法1一样

expr 字符串 : 正则表达式
# 正则表达式默认带有^ ,  代表以什么开头
# 返回值为符合匹配字符的长度, 否则返回为0
# 例如: expr "hello" : ".*o"   会返回: 5

5.2 (())命令详解

介绍

双小括号 (( )) , 用于进行数学运算表达式的执行 , 将数学运算表达式放在(())之间。

可以使用$获取 (( )) 表达式命令的结果,这和使用$获得变量值是一样的。

语法

((表达式))

用法

运算操作符/运算命令说明
((a=1+6))
((b=a-1))
((c=a+b))
这种写法可以在计算完成后给变量赋值。以 ((b=a-1)) 为例,
即将 a-1 的运算结果赋值给变量 c。 注意,使用变量时不用加$前缀,
(( )) 会自动解析变量名。
a=$((1+6)
b=$((a-1))
c=$((a+b))
可以在 (( )) 前面加上$符号获取 (( )) 命令的执行结果,
也即获取整个表达式的值。以 c=$((a+b)) 为例,即将 a+b 这个
表达式的运算结果赋值给变量 c。 注意,如果 c=((a+b)) 这样的写
法是错误的,不加$就不能取得表达式的结果。
((a>7 && b==c))(( )) 也可以进行逻辑运算,在 if 语句中常会使用逻辑运算。
echo $((a+10))需要立即输出表达式的运算结果时,可以在 (( )) 前面加$符号。
((a=3+5, b=a+10))对多个表达式同时进行计算, 多表表达式使用","号隔开

注意: 符号之间有无空格都可以 , (( a = 1 + 6 )) 等价于 ((a=1+6))

5.3 let命令详解

介绍

let 命令和双小括号 (( )) 在数字计算方面功能一样. 但是没有(())功能强大, let只能用于赋值计算, 不能直接输出, 不可以条件判断一起使用

语法

let 赋值表达式

注意

  1. 语法功能等价于((表达式))

  2. 多个表达式之间使用空格, 不是","号

  3. 对于类似let a+b这样的写法,Shell 虽然计算了 a+b 的值,但却将结果丢弃, 如果 echo let a+b 会直接输出字符串 a+b ;若不想这样,可以使用let sum=a+b将 a+b 的结果保存在变量 sum 中。

输出建议使用(())

5.4 $[]命令详解

介绍

和 (())、let 命令类似,$[] 也只能进行整数运算。但是只能对单个表达式的计算求值与输出

语法

$[表达式]
  1. $[] 会对表达式进行计算,并取得计算结果

  2. 表达式内部不可以赋值给变量

5.5 bc命令详解

介绍

Bash shell内置了对整数运算的支持,但是并不支持浮点运算,而 linux bc (basic calculator)命令可以很方便的进行浮点运算. bc命令是Linux简单的计算器,能进行进制转换与计算。能转换的进制包括十六进制、十进制、八进制、二进制等。可以使用的运算符号包括(+)加法、(-)减法、(*)乘法、(/)除法、(^)指数、(%)余数等

bc命令

语法

bc [options] [参数]

options

选项说明
-hhelp,帮助信息
-vversion,显示命令版本信息
-lmathlib, 使用标准数学库, 例如使用内置函数就需要使用这个参数
-iinteractive, 强制交互
-wwarn, 显示 POSIX 的警告信息
-sstandard, 使用 POSIX 标准来处理
-qquiet, 不显示欢迎信息

默认使用bc命令后回车会有很多欢迎信息, 可以使用 bc -q 回车后不会有欢迎信息

参数

文件: 指定包含计算任务的文件。

示例:bc执行计算任务的文件

创建task.txt文件, 编辑文件内容(一个计算表达式一行)

108*67+12345
58+2007*11

执行命令

20211220222038.png

可以使用 quit 命令退出bc

内置变量

变量名作 用
scale指定精度,也即小数点后的位数, 对计算结果指定保留小数;默认为 0,也即不使用小数部分。
ibase指定输入的数字的进制,默认为十进制。
obase指定输出的数字的进制,默认为十进制。
last 或者 .获取最近计算打印结果的数字

内置数学函数

函数名作用
s(x)计算 x 的正弦值,x 是弧度值。
c(x)计算 x 的余弦值,x 是弧度值。
a(x)计算 x 的反正切值,返回弧度值。
l(x)计算 x 的自然对数。
e(x)求 e 的 x 次方。
j(n, x)贝塞尔函数,计算从 n 到 x 的阶数。

作用

通常在linux下bc当计算器用, 具体有3个用法

  1. bc中互动式的数学运算
  2. shell中非互动式的管道运算
  3. shell中非互动式的输入重定向运算

示例:bc中互动式的数学运算

介绍

使用 bc -q 命令,回车即可, 直接进行计算器进行运算

演示

20211220222454.png

退出bc使用 quit

示例:shell中非互动式的管道运算

介绍

在 Shell 脚本中,我们可以借助管道使用 bc 计算器。

借助管道使用 bc 计算器语法

直接进行bc的表达式计算输出

echo "expression" | bc [options]

"expression" 表达式必须复合bc命令要求的公式

"expression" 表达式里面可以引用shell变量

例如: Shell变量 a=2 在表达式里面引用的语法: $a

将bc计算结果赋值给Shell变量

# 第一种方式
var_name=`echo "expression" | bc [options]`

# 第二种方式
var_name=$(echo "expression" | bc [options])

$() 与 `` 功能一样, 都是执行里面的命令

区别

​ `` 是所有linux系统支持的方式, 兼容性较好, 但是容易与引号产生混淆

​ $() 不是所有linux系统都支持的方式, 兼容性较差, 但是不容易产生混淆

演示

[root@wallis-service ~]# echo "9*9"|bc
81
[root@wallis-service ~]# result=$(echo "4+9"|bc)
[root@wallis-service ~]# echo $result
13
[root@wallis-service ~]# 

引用shell变量进行计算

[root@wallis-service ~]# a=2
[root@wallis-service ~]# echo "scale=2;b=$a+2;e(b)"|bc -l
54.59
[root@wallis-service ~]# 

注意 b是bc中定义的新变量, 与shell变量没有任何关系, 所以不可以在shell中获取b变量

进制转换

[root@wallis-service ~]# a=111
[root@wallis-service ~]# b=$(echo "ibase=2;$a"|bc)
[root@wallis-service ~]# echo $b
7
[root@wallis-service ~]# 

示例:shell中非互动式的输入重定向运算

介绍

将计算表达式输出给bc去执行, 特点类似于文件中输入,可以输入多行表达式, 更加清晰

语法

# 第一种方式
var_name=`bc [options] << EOF
第一行表达式1
第二行表达式2
...
EOF
`

# 第二种方式
var_name=$(bc [options] << EOF
第一行表达式1
第二行表达式2
...
EOF
)

var_name 这是Shell变量的名字

bc 执行bc的命令

EOF..EOF 输入流的多行表达式

含义: 将EOF中间多行表达式输入给到bc去执行, j将bc执行的结果给到Shell变量var_name

演示

[root@wallis-service ~]# a=100
[root@wallis-service ~]# b=$(bc << EOF
> ibase=10;
> obase=2;
> $a
> EOF
> )
[root@wallis-service ~]# echo $b
1100100
[root@wallis-service ~]#

如果有大量的数学计算,那么使用输入重定向就比较方便,因为数学表达式可以换行,写起来更加清晰。

6. 流程控制语句

6.1 流程控制语句:if else语句

介绍

if条件判断逻辑控制语句

if语法

多行写法语法

if  条件
then
    命令
fi

可以将if语句放入一行语法

if 条件; then 命令; fi

if else 语法

if  条件
then
   命令
else
   命令
fi

if elif else 语法

if  条件1
then
   命令1
elif 条件2
then
    命令2
elif 条件3
then
    命令3
……
else
   命令N
fi

6.2 if条件判断句的退出状态

介绍

linux任何命令的的执行都会有一个退出状态, 无论是内置命令还是外部文件命令. 还是自定义的 Shell 函数,当它退出(运行结束)时,都会返回一个比较小的整数值给调用(使用)它的程序,这就是命令的退出状态

大多数命令状态0代表成功, 非0代表失败. 也有特殊的命令,比如 diff 命令用来比较两个文件的不同,对于“没有差别”的文件返回 0,对于“找到差别”的文件返回 1,对无效文件名返回 2

Shell 中,有多种方式取得命令的退出状态,其中 $? 是最常见的一种.

退出状态和逻辑运算符的组合

Shell if 语句使用逻辑运算符将多个退出状态组合起来,这样就可以一次判断多个条件了。

运算符使用格式说明
&& 或 -a条件1 && 条件2逻辑与运算符,当 条件1 和 条件2 同时成立时,
整个表达式才成立。 如果检测到 条件1 的退出状态为 0,
就不会再检测 条件2 了,因为不管 条件2 的退出状态是什么,
整个表达式必然都是不成立的,检测了也是多此一举。
|| 或 -o条件1 || 条件2逻辑或运算符,条件1 和 条件2 两个表
达式中只要有一个成立,整个表达式就成立。 如果检
测到 条件1 的退出状态为 1,就不会再检测 条件2 了,因为
不管 条件2 的退出状态是什么,整个表达式必然都是成立的,
检测了也是多此一举。
!!条件逻辑非运算符,相当于“取反”的效果。如果 条件 成立,那么整
个表达式就不成立;如果 条件 不成立,那么整个表达式就成立。

6.3 Shell内置命令:test

介绍

Shell中的 test 命令用于检查某个条件是否成立,它可以进行数值、字符和文件三个方面的测试。

功能与[]一样

整数比较测试

语法

if test 数字1 options 数字2 
then  
...
fi

options具体如下

参数说明
-eq等于则为真
-ne不等于则为真
-gt大于则为真
-ge大于等于则为真
-lt小于则为真
-le小于等于则为真

字符串比较测试

语法

参数说明
= 或 ==等于, 等于返回0代表成功,否则返回1代表失败
!=不等于
\<小于
\>大于
-z 字符串字符串的长度为零则为真
-n 字符串字符串的长度不为零则为真

文件测试

语法

参数说明
-e 文件名exists, 如果文件存在则为真
-r 文件名read,如果文件存在且可读则为真
-w 文件名write,如果文件存在且可写则为真
-x 文件名execute,如果文件存在且可执行则为真
-s 文件名string,如果文件存在且至少有一个字符则为真
-d 文件名directory,如果文件存在且为目录则为真
-f 文件名file,如果文件存在且为普通文件则为真
-c 文件名character,如果文件存在且为字符型特殊文件则为真
-b 文件名如果文件存在且为块特殊文件则为真

6.4 流程控制语句:case语句

介绍

Shell case语句为多选择语句。可以用case语句匹配一个值与一个模式,如果匹配成功,执行相匹配的命令;

当分支较多,并且判断条件比较简单时,使用 case in 语句就比较方便了。

语法

case 值 in
匹配模式1)
    命令1
    命令2
    ...
    ;;
匹配模式2)
    命令1
    命令2
    ...
    ;;
*)
    命令1
    命令2
    ...
    ;;
esac

每一匹配模式必须以右括号结束。取值可以为变量或常数。匹配发现取值符合某一模式后,其间所有命令开始执行直至 ;;(类似break, 不可以替代否则语法报错)。取值将检测匹配的每一个模式。一旦模式匹配,则执行完匹配模式相应命令后不再继续其他模式。如果无一匹配模式,使用星号 * 捕获该值,再执行后面的命令。

case、in 和 esac 都是 Shell 关键字, esac就是case的反写在这里代表结束case

匹配模式: 可以是一个数字、一个字符串,甚至是一个简单正则表达式。

简单正则表达式支持如下通配符

格式说明
*表示任意字符串。
[abc]表示 a、b、c 三个字符中的任意一个。比如,[15ZH] 表示 1、5、Z、H 四个字符中的任意一个。
[m-n]表示从 m 到 n 的任意一个字符。比如,[0-9] 表示任意一个数字,[0-9a-zA-Z] 表示字母或数字。
|表示多重选择,类似逻辑运算中的或运算。比如,abc | xyz 表示匹配字符串 "abc" 或者 "xyz"。

演示

control6.sh脚本代码

#!/bin/bash
read -p "请输入一个0~7的数字:" number
case $number in
1)
    echo "星期一"
	;;
2)
    echo "星期二"
    ;;
3)
    echo "星期三"
    ;;
4)
    echo "星期四"
    ;;
5)
    echo "星期五"
    ;;
6)
    echo "星期六"
    ;;
0|7)
    echo "星期日"
    ;;
*)
    echo "您输入的数字无效"
    ;; 
esac

运行效果

[root@wallis-service ~]# sh control6.sh 
请输入一个0~7的数字:0
星期日
[root@wallis-service ~]# sh control6.sh 
请输入一个0~7的数字:4
星期四
[root@wallis-service ~]# sh control6.sh 
请输入一个0~7的数字:7
星期日
[root@wallis-service ~]# sh control6.sh 
请输入一个0~7的数字:8
您输入的数字无效
[root@wallis-service ~]# 

6.5 流程控制:while语句

介绍

while用于循环执行一系列命令

语法

多行写法

while 条件
do
	命令1
	命令2
	...
	continue; # 结束当前这一次循环, 进入下一次循环
	break; # 结束当前循环
done

一行写法

while 条件; do 命令; done;

演示

control7.sh脚本文件代码: 输出指定多少次的hello world

#!/bin/bash
read -p "请输入一个数字:" number
i=0
while [[ $i < $number ]]
do
  echo "hello world"
  ((i++))
done

运行效果

[root@wallis-service ~]# sh control7.sh 
请输入一个数字:6
hello world
hello world
hello world
hello world
hello world
hello world
[root@wallis-service ~]# 

无限循环

while :
do
    command
done

while true
do
    command
done

6.6 流程控制:until语句

介绍

until 也是循环结构语句, until 循环与 while 循环在处理方式上刚好相反, 循环条件为false会一直循环, 条件为true停止循环.

语法

until 条件
do
    命令
done

条件如果返回值为1(代表false),则继续执行循环体内的语句,否则跳出循环。

演示

control8.sh脚本代码

#!/bin/bash
read -p "请输入一个数字:" number
i=0
until [[ ! $i < $number ]]
do
  echo "hello world"
  ((i++))
done

运行效果

[root@wallis-service ~]# sh control8.sh 
请输入一个数字:5
hello world
hello world
hello world
hello world
hello world
[root@wallis-service ~]#

6.7 流程控制:for语句

介绍

Shell支持for循环, 与其他编程语言类似.

循环方式1

语法

多行写法

for var in item1 item2 ... itemN
do
    命令1
    命令2
    ...
done

一行写法

for var in item1 item2 ... itemN; do 命令1; 命令2…; done;

var是循环变量

item1 item2 ... itemN 是循环的范围

演示

control9.sh脚本代码

#!/bin/bash
for i in 1 2 3 4 5
do
 echo "hello world"
done

运行效果

[root@wallis-service ~]# sh control9.sh 
hello world
hello world
hello world
hello world
hello world
[root@wallis-service ~]# 

循环方式2

语法

多行写法

for var in {start..end}
do
	命令
done

start: 循环范围的起始值,必须为整数

end: 循环范围的结束值, 必须为整数

一行写法

for var in {start..end}; do 命令; done

演示

循环1到5并打印

for i in {1..5}; do echo $i; done

效果

[root@wallis-service ~]# for i in {1..5}; do echo $i; done
1
2
3
4
5
[root@wallis-service ~]# 

循环方式3

语法

多行写法

for((i=start;i<=end;i++))
do
	命令
done

一行写法

for((i=start;i<=end;i++)); do 命令; done

演示

[root@wallis-service ~]# for((i=0;i<=3;i++)); do echo "hello shell"; done
hello shell
hello shell
hello shell
hello shell
[root@wallis-service ~]#

无限循环

for((;;)); do 命令; done

6.8 流程控制:select语句

介绍

select in 循环用来增强交互性,它可以显示出带编号的菜单,用户输入不同的编号就可以选择不同的菜单,并执行不同的功能. select in 是 Shell 独有的一种循环,非常适合终端(Terminal)这样的交互场景, 其他语言没有;

语法

select var in menu1 menu2 ...
do
    命令
done

注意: select 是无限循环(死循环),输入空值,或者输入的值无效,都不会结束循环,只有遇到 break 语句,或者按下 Ctrl+D 组合键才能结束循环。

执行命令过程中: 终端会输出 #? 代表可以输入选择的菜单编号

演示1

脚本代码

#!/bin/bash
echo "你的爱好是什么?"
select hobby in "编程" "游戏" "篮球" "游泳"
do
	echo $hobby
    break
done
echo "你的爱好是:${hobby}"

运行效果

[root@wallis-service ~]# sh control10.sh 
你的爱好是什么?
1) 编程
2) 游戏
3) 篮球
4) 游泳
#? 4
游泳
你的爱好是:游泳
[root@wallis-service ~]#

演示2

脚本文件代码

#!/bin/bash
echo "你的爱好是什么"
select hobby in "编程" "游戏" "篮球" "游泳"
do
    case $hobby in
        "编程")
            echo "编程,多敲代码"
            break
            ;;
        "游戏")
            echo "少玩游戏"
            break
            ;;
        "篮球"|"游泳")
            echo "运动有利健康"
            break
            ;;
        *)
            echo "输入错误,请重新输入"
    esac
done

运行效果

[root@wallis-service ~]# sh control11.sh 
你的爱好是什么
1) 编程
2) 游戏
3) 篮球
4) 游泳
#? 4
运动有利健康
[root@wallis-service ~]# 

7. Shell函数

7.1 系统函数

函数介绍

Shell编程和其他编程语言一样, 有函数, 函数是由若干条shell命令组成的语句块,实现Shell脚本代码重用和模块化编程。

函数分类

  1. 系统函数
  2. 自定义函数

系统函数介绍

系统自带提供的函数, 可以直接使用.

basename系统函数

介绍

basename函数用于获取文件名的函数, 根据给出的文件路径截取出文件名

语法

basename [string / pathname] [suffix]  

根据指定字符串或路径名进行截取文件名, 比如: 根据路径"/one/two/aa.txt", 可以截取出aa.txt

suffix: 用于截取的时候去掉指定的后缀名.

演示

[root@wallis-service ~]# basename ./control11.sh
control11.sh
[root@wallis-service ~]# basename ./control11.sh .sh
control11
[root@wallis-service ~]#

dirname系统函数

介绍

从指定的文件绝对路径, 去除文件名,返回剩下的前缀目录路径

语法

dirname 文件绝对路径

演示

[root@wallis-service ~]# dirname control11.sh 
.
[root@wallis-service ~]# dirname /root/control11.sh 
/root
[root@wallis-service ~]# dirname $(pwd)/control11.sh
/root
[root@wallis-service ~]# 

7.2 自定义函数

介绍

开发人员可以通过自定义开发函数,实现代码重用.

语法

# 函数的定义
[ function ] funname ()
{
    命令
    [return 返回值]

}

# 调用函数
funname 传递参数1 传递参数2 ...
  1. 可以带function fun() 定义,也可以直接fun() 定义,不带任何参数。

  2. 参数返回,可以显示加:return 返回,如果不加,将以最后一条命令运行结果,作为返回值。 return后跟数值n(0~255)

注意

必须在调用函数地方之前,先声明函数,shell脚本是逐行运行, 只要先运行了函数, 后面才可以时使用函数

示例:无参无返回值函数

fun1.sh文件脚本代码

#!/bin/bash
demo()
{
    echo "执行了函数"
}

# 调用函数
demo

运行效果

[root@wallis-service ~]# sh fun1.sh 
执行了函数
[root@wallis-service ~]#

示例:无参有返回值函数

fun2.sh文件脚本代码

#!/bin/bash
sum()
{
    echo "求两个数的和..."
    read -p "输入第一个数字: " n1
    read -p "输入第二个数字: " n2
    echo "两个数字分别为 $n1 和 $n2 "
    return $(($n1+$n2))
}

# 调用函数
sum
echo "两个数字的和为: $? "  # 获取函数返回值

运行效果

[root@wallis-service ~]# sh fun2.sh 
求两个数的和...
输入第一个数字: 9
输入第二个数字: 7
两个数字分别为 9 和 7 
两个数字的和为: 16 
[root@wallis-service ~]#

示例:有参函数

介绍

在Shell中,调用函数时可以向其传递参数。在函数体内部,通过 $n 的形式来获取参数的值,例如,$1 表示第一个参数,$2 表示第二个参数...

其他参数介绍

参数处理说明
$#传递到脚本或函数的参数个数
$*以一个单字符串显示所有向脚本传递的参数
$$脚本运行的当前进程ID号
$!后台运行的最后一个进程的ID号
$@与$*相同,但是使用时加引号,并在引号中返回每个参数。
$?显示最后命令的退出状态。0表示没有错误,其他任何值表明有错误。

演示

fun3.sh文件脚本代码

#!/bin/bash
funParam(){
    echo "第一个参数为 $1 !"
    echo "第二个参数为 $2 !"
    echo "第十个参数为 $10 !"
    echo "第十个参数为 ${10} !"
    echo "第十一个参数为 ${11} !"
    echo "参数总数有 $# 个!"
    echo "作为一个字符串输出所有参数 $* !"
}
# 调用函数
funParam 1 2 3 4 5 6 7 8 9 10 22

运行效果

[root@wallis-service ~]# sh fun3.sh 
第一个参数为 1 !
第二个参数为 2 !
第十个参数为 10 !
第十个参数为 10 !
第十一个参数为 22 !
参数总数有 11 个!
作为一个字符串输出所有参数 1 2 3 4 5 6 7 8 9 10 22 !
[root@wallis-service ~]# 

Shell程序与函数的区别

区别

函数和shell程序比较相似,区别在于: Shell 程序(内置命令和外部脚本文件), 外部脚本文件是在子Shell中运行, 会开启独立的进程运行 Shell函数在当前Shell的进程中运行

演示

fun4.sh脚本文件代码

#!/bin/bash
demo(){
        echo "函数中打印当前进程ID:$$"
}

echo "当前脚本文件(Shell程序)打印当前进程ID:$$"
# 调用函数
demo

运行效果

[root@wallis-service ~]# sh fun4.sh 
当前脚本文件(Shell程序)打印当前进程ID:23511
函数中打印当前进程ID:23511
[root@wallis-service ~]# 

8.Shell重定向

重定向介绍

标准输入介绍

从键盘读取用户输入的数据,然后再把数据拿到Shell程序中使用;

标准输出介绍

Shell程序产生的数据,这些数据一般都是呈现到显示器上供用户浏览查看;

默认输入输出文件

每个 Unix/Linux 命令运行时都会打开三个文件, 文件如下

文件名类型文件描述符(file description, fd)功能
stdin(standard input)
标准输入文件
0获取键盘的输入数据
stdout(standard output)
标准输出文件
1将正确数据输出到显示器上
stderr(standard error)
标准错误输出文件
2将错误信息输出到显示器上

每个文件都有一个唯一的 文件描述符fd, 后面会通过唯一 文件描述符fd 操作对应的信息

Shell程序操作输入输出时用到这3个文件

  1. Shell程序默认会从stdin文件中读取输入数据
  2. Shell程序默认会向stdout文件输出正确数据
  3. Shell程序默认会项stderr文件中输出错误信息

这3个文件用于临时传输数据使用

重定向输入输出介绍

  1. 标准输入是数据默认从键盘流向程序,如果改变了它的方向,数据就从其它地方流入,这就是输入重定向。

  2. 标准输出是数据默认从程序流向显示器,如果改变了它的方向,数据就流向其它地方,这就是输出重定向。

    Linux Shell 重定向分为两种,一种输入重定向,一种是输出重定向;

重定向的作用

输出重定向是指命令的结果不再输出到显示器上,而是输出到其它地方,一般是文件中。这样做的最大好处就是把命令的结果保存起来,当我们需要的时候可以随时查询。

重定向语法

命令说明
命令 > file将正确数据重定向输出到 file 文件中, 覆盖方式
命令 < file将输入重定向从 file 文件中读取数据
命令 >> file将正确数据重定向输出到 file 文件中, 追加方式
命令 < file1 > file2从file文件读取数据, 输出数据到file2文件中
命令 fd> file根据指定的文件描述符fd 将数据重定向输出到 file 文件中, 覆盖方式
命令 fd>> file根据指定的文件描述符fd 将数据重定向输出到 file 文件中, 追加方式
命令 > file fd1>& fd2将 fd1 和 fd2 文件描述符合并 输出到文件。
fd1<& fd2将 fd1 和 fd2 文件描述符合并 从文件读取输入.
<< tag读取终端输入数据, 将开始标记 tag 和结束标记 tag 之间的内容作为输入。
标记名tag可以任意

在输出重定向中,>代表的是覆盖输出,>>代表的是追加输出。

fd是文件描述符

​ 0 通常是标准输入(STDIN),

​ 1 是标准输出(STDOUT),

​ 2 是标准错误输出(STDERR)。

fd> 或 fd>> 中间不可以有空格

输出示例:正确信息重定向输出

创建文件redirect1.txt

touch redirect1.txt

执行echo命令重定向输出到redirect1.txt文件中

echo "hello world" >> redirect1.txt
[root@wallis-service ~]# touch redirect1.txt 
[root@wallis-service ~]# echo "hello world" >> redirect1.txt
[root@wallis-service ~]# cat redirect1.txt 
hello world
[root@wallis-service ~]# 

输出示例:错误信息重定向输出

预览错误消息

ls java
[root@wallis-service ~]# ls java
ls: cannot access java: No such file or directory
[root@wallis-service ~]#

没有java目录所以报错

将错误消息输出到error.log文件中

ls java 2> redirect2.txt

2 是标准错误输出(STDERR), 注意

> 覆盖方式输出

2> 注意2与>符号之间不能有空格

运行效果

[root@wallis-service ~]# ls java 2> redirect2.txt
[root@wallis-service ~]# cat redirect2.txt 
ls: cannot access java: No such file or directory
[root@wallis-service ~]# 

输出示例:正确和错误信息同时输出

将正确信息与错误信息都保存到一个文件中

echo "hello world" > redirect2.txt 2>&1

数字 1 代表正确输出的结果输出到文件中 数字 2 代表错误结果输出到文件中

2>& 1 将正确和错误都输出到文件中. 2>& 中间不能有空格, 写法有2种

​ 合并第一种写法: 2>& 1

​ 合并第二种写法: 2>&1

运行效果

[root@wallis-service ~]# vi test.sh
[root@wallis-service ~]# cat test.sh
#!/bin/bash

echo "hello world"
ls java
[root@wallis-service ~]# sh test.sh > redirect2.txt 2>&1
[root@wallis-service ~]# cat redirect2.txt 
hello world
ls: cannot access java: No such file or directory
[root@wallis-service ~]#

输入示例:统计文件数据行数

wc命令介绍

Linux wc 命令可以用来对文本进行统计,包括单词个数、行数、字节数

wc命令语法

wc  [options]  [文件名]

options有如下:

选项含义
-ccharacter, 统计字节数
-wword, 统计单词数
-lline, 统计行数

演示

统计文件redirect2.txt中数据行数

wc -l < redirect2.txt

运行效果

[root@wallis-service ~]# wc -l < redirect2.txt
2
[root@wallis-service ~]# wc -l redirect2.txt
2 redirect2.txt
[root@wallis-service ~]#

输入示例:逐行读取文件数据

循环读取文件每一行数据

while read str; do echo $str; done < redirect2.txt

运行效果

[root@wallis-service ~]# while read str; do echo $str; done < redirect2.txt
hello world
ls: cannot access java: No such file or directory
[root@wallis-service ~]# 

输入示例:读取终端输入数据的行数

[root@wallis-service ~]# wc -l <<END
> AA
> BB
> CC
> END
3
[root@wallis-service ~]#

9.Shell好用的工具,cut sed awk sort

9.1 Shell好用的工具: cut

介绍

cut 译为“剪切, 切割” , 是一个强大文本处理工具,它可以将文本按列进行划分的文本处理。cut命令逐行读入文本,然后按列划分字段并进行提取、输出等操作。

语法

cut [options]  filename

options参数说明

选项参数功能
-f 提取范围列号,获取第几列
-d 自定义分隔符自定义分隔符,默认为制表符。
-c 提取范围以字符为单位进行分割
-b 提取范围以字节为单位进行分割。这些字节位置将忽略多字节字符边界,除非也指定了 -n 标志。
-n与“-b”选项连用,不分割多字节字符;

提取范围说明

提取范围说明
n-提取指定第n列或字符或字节后面所有数据
n-m提取指定第n列或字符或字节到第m列或字符或字节中间的所有数据
-m提取指定第m列或字符或字节前面所有数据
n1,n2,...提取指定枚举列的所有数据

示例:切割提取指定列数据

cut1.txt文件数据准备

touch cut1.txt

编辑文件添加内容

AA  hello 11 XXXX
BB  world 22 XXXX
CC  Shell 33 XXXX
DD  it 44 XXXXXXX

提取文件中第一列数据

[root@wallis-service ~]# cut cut1.txt -d " " -f 1
AA
BB
CC
DD
[root@wallis-service ~]# 

提取文件中第一列,第三列, 枚举查找

[root@wallis-service ~]# cut cut1.txt -d " " -f 1,3
AA hello
BB world
CC Shell
DD it
[root@wallis-service ~]# 

提取文件中第二列,第三列,第四列, 范围查找

[root@wallis-service ~]# cut cut1.txt -d " " -f 2-4
 hello 11 XXXX
 world 22 XXXX
 Shell 33 XXXX
 it 44 XXXXXXX
[root@wallis-service ~]# 

提取文件中第一列后面所有列的数据

[root@wallis-service ~]# cut cut1.txt -d " "  -f 2- 
 hello 11 XXXX
 world 22 XXXX
 Shell 33 XXXX
 it 44 XXXXXXX
[root@wallis-service ~]# 

示例:切割提取指定字符数据

提取每行前3个字符

[root@wallis-service ~]# cut cut1.txt -c1-3
AA 
BB 
CC 
DD 
[root@wallis-service ~]# 

提取每行第4个字符以后的数据

[root@wallis-service ~]# cut cut1.txt -c 4-
 hello 11 XXXX
 world 22 XXXX
 Shell 33 XXXX
 it 44 XXXXXXX
[root@wallis-service ~]# 

提取每行第3个字符前面所有字符

[root@wallis-service ~]# cut cut1.txt -c -3
AA 
BB 
CC 
DD 
[root@wallis-service ~]# 

示例:切割提取指定字节数据

提取字符串"abc你好世界" 前3个字节

[root@wallis-service ~]# echo "abc你好世界" | cut -b -3
abc
[root@wallis-service ~]# 

提取字符串"abc你好世界" 前4个字节

[root@wallis-service ~]# echo "abc你好世界" | cut -b -4
abc;root@wallis-service:~[root@wallis-service ~]# 

提取字符串"abc你好世界" 前6个字节

echo "abc你好世界" | cut -b -6
# 由于linux系统默认utf-8码表, 所以一个汉字占3个字节

运行效果

[root@wallis-service ~]# echo "abc你好世界" | cut -b -6
abc你
[root@wallis-service ~]# 

提取字符串"abc你好世界" 前4个字节, 就可以将汉字 "你"输出,

echo "abc你好世界" | cut -nb -4
#  -n 取消多字节字符分割直接输出

运行效果

[root@wallis-service ~]# echo "abc你好世界" | cut -nb -4
abc你
[root@wallis-service ~]# 

示例:切割提取指定单词数据

在cut1.txt文件中切割出"hello"

[root@wallis-service ~]# cat cut1.txt | grep hello | cut -d " " -f 3
hello
[root@wallis-service ~]# 

示例:切割提取bash进程的PID号

命令(最后的7不一定,因为user和pid中间的空格个数不固定)

[root@wallis-service ~]# ps -aux | grep 'bash' | head -n 1 | cut -d " " -f 7
9749
[root@wallis-service ~]# 

示例:切割提取IP地址

[root@wallis-service ~]# ifconfig | grep broadcast | cut -d " " -f 10
172.17.0.1
172.21.211.61
[root@wallis-service ~]# 

小结

cut的作用

一个强大文本处理工具,它可以将文本按列进行划分的文本处理。cut命令逐行读入文本,然后按列划分字段并进行提取、输出等操作。

cut切割提取列

cut 文件或数据 -d 分隔符切割 -f 提取第X列

cut切割提取字符

cut 文件或数据 -c 提取字符范围

cut切割提取字节

cut 文件或数据 -nb 提取直接范围

9.2 Shell好用的工具:sed

介绍

sed (stream editor, 流编辑器) 是Linux下一款功能强大的非交互流式文本编辑器(vim是交互式文本编辑器),可以对文本文件的每一行数据匹配查询之后进行增、删、改、查等操作,支持按行、按字段、按正则匹配文本内容,灵活方便,特别适合于大文件的编辑.

sed是一种流编辑器,它一次处理一行内容, 将这行放入缓存(存取空间称为:模式空间),然后才对这行进行处理,处理完后,将缓存区的内容发送到终端。

sed处理数据原理

WX20211222-203533@2x.png

语法

sed [选项参数] [模式匹配/sed程序命令] [文件名]

# 模式匹配,sed会读取每一行数据到模式空间中, 之后判断当前行是否符合模式匹配要求,符合要求就会
#    执行sed程序命令, 否则不会执行sed程序命令;如果不写匹配模式,那么每一行都会执行sed程序命令

选项参数说明

选项参数功能
-e直接在指令列模式上进行sed的动作编辑。它告诉sed将下一个参数解释为一个sed指令,只有当命令行上给出多个sed指令时才需要使用-e选项;一行命令语句可以执行多条sed命令
-i直接对内容进行修改,不加-i时默认只是预览,不会对文件做实际修改
-f后跟保存了sed指令的文件
-n取消默认输出,sed默认会输出所有文本内容,使用-n参数后只显示处理过的行
-r ruguler 使用扩展正则表达式,默认情况sed只识别基本正则表达式 *

sed程序命令功能描述

命令功能描述
aadd新增,a的后面可以接字串,在下一行出现
cchange更改, 更改匹配行的内容
ddelete删除, 删除匹配的内容
iinsert插入, 向匹配行前插入内容
pprint打印, 打印出匹配的内容,通常与-n选项合用
ssubstitute替换, 替换掉匹配的内容
=用来打印被匹配的行的行号
n读取下一行,遇到n时会自动跳入下一行

特殊符号

命令功能描述
!就像一个sed命令,放在限制条件后面, 对指定行以外的所有行应用命令(取反)
{sed命令1;sed命令2}多个命令操作同一个的行

数据准备

sed.txt文件内容

ABC
hello hello
world
123
hello

示例:向文件中添加数据

演示1: 指定行号的前或后面添加数据

向第三行后面添加hello

 sed '3ahello' sed.txt

3 , 代表第三行

a, 代表在后面添加, 出现在下一行

注意这里没有修改源文件

运行效果

[root@wallis-service ~]# sed '3ahello' sed.txt
ABC
hello hello
world
hello
123
hello
[root@wallis-service ~]# cat sed.txt
ABC
hello hello
world
123
hello
[root@wallis-service ~]# 

向第三行前面添加hello

 sed '3ihello' sed.txt

3 , 代表第三行

i, 代表在前面添加, 出现在上一行

注意这里没有修改源文件

运行效果

[root@wallis-service ~]#  sed '3ihello' sed.txt
ABC
hello hello
hello
world
123
hello
[root@wallis-service ~]# cat sed.txt 
ABC
hello hello
world
123
hello
[root@wallis-service ~]# 

演示2: 指定内容前或后面添加数据

向内容 hello 后面添加 shell ,如果文件中有多行包括 hello,则每一行后面都会添加

sed '/hello/ashell' sed.txt

运行效果

[root@wallis-service ~]# sed '/hello/ashell' sed.txt
ABC
hello hello
shell
world
123
hello
shell
[root@wallis-service ~]# cat sed.txt 
ABC
hello hello
world
123
hello
[root@wallis-service ~]# 

演示3: 在最后一行前或后添加hello

在最后一行后面添加hello

sed '$ahello' sed.txt

$a: 最后一行后面添加

运行效果

[root@wallis-service ~]# sed '$ahello' sed.txt
ABC
hello hello
world
123
hello
hello
[root@wallis-service ~]# cat sed.txt 
ABC
hello hello
world
123
hello
[root@wallis-service ~]# 

在最后一行前面添加hello

sed '$ihello' sed.txt

$i: 最后一行前面添加

运行效果

[root@wallis-service ~]# sed '$ihello' sed.txt
ABC
hello hello
world
123
hello
hello
[root@wallis-service ~]# cat sed.txt 
ABC
hello hello
world
123
hello
[root@wallis-service ~]# 

示例: 删除文件中的数据

演示1: 删除第2行

命令

sed  '2d' sed.txt
# d 用于删除
# 2d 删除第2行

运行效果

[root@wallis-service ~]# sed  '2d' sed.txt
ABC
world
123
hello
[root@wallis-service ~]# cat sed.txt 
ABC
hello hello
world
123
hello
[root@wallis-service ~]# 

命令: 删除第1行,第4行数据

sed '1d;4d' sed.txt

运行效果

[root@wallis-service ~]# sed '1d;4d' sed.txt
hello hello
world
hello
[root@wallis-service ~]# cat sed.txt 
ABC
hello hello
world
123
hello
[root@wallis-service ~]# 

演示2: 删除奇数行

从第一行开始删除,每隔2行就删掉一行

sed '1~2d' sed.txt
# 1~2 从第1行开始, 每隔2行

运行效果

[root@wallis-service ~]# sed '1~2d' sed.txt
hello hello
123
[root@wallis-service ~]# cat sed.txt 
ABC
hello hello
world
123
hello
[root@wallis-service ~]# 

演示3: 删除指定范围的多行数据

删除从第1行到第3行的数据

sed '1,3d' sed.txt
# 1,3  从指定第1行开始到第3行结束

运行效果

[root@wallis-service ~]# sed '1,3d' sed.txt
123
hello
[root@wallis-service ~]# cat sed.txt 
ABC
hello hello
world
123
hello
[root@wallis-service ~]# 

演示4: 删除指定范围取反的多行数据

删除从第1行到第3行取反的数据

sed '1,3!d' sed.txt
# 1,3! 从指定第1行开始到第3行结束取反, 就是不在这个范围的行

运行效果

[root@wallis-service ~]# sed '1,3!d' sed.txt
ABC
hello hello
world
[root@wallis-service ~]# cat sed.txt 
ABC
hello hello
world
123
hello
[root@wallis-service ~]# 

演示5: 删除最后一行

命令

sed  '$d'   sed.txt

运行效果

[root@wallis-service ~]# sed  '$d'   sed.txt
ABC
hello hello
world
123
[root@wallis-service ~]# cat sed.txt 
ABC
hello hello
world
123
hello
[root@wallis-service ~]# 

演示6: 删除匹配hello的行

命令

sed '/hello/d' sed.txt

运行效果

[root@wallis-service ~]# sed '/hello/d' sed.txt
ABC
world
123
[root@wallis-service ~]# cat sed.txt 
ABC
hello hello
world
123
hello
[root@wallis-service ~]# 

演示7: 删除匹配行到最后一行

删除匹配hello行到最后一行 , 命令

sed '/hello/,$d' sed.txt
# , 代表范围匹配

运行效果

[root@wallis-service ~]# sed '/hello/,$d' sed.txt
ABC
[root@wallis-service ~]# cat sed.txt 
ABC
hello hello
world
123
hello
[root@wallis-service ~]# 

演示8: 删除匹配行及其后面一行

删除匹配hello行及其后面一行

sed '/hello/,+1d' sed.txt

运行效果

[root@wallis-service ~]# sed '/hello/,+1d' sed.txt
ABC
123
[root@wallis-service ~]# cat sed.txt 
ABC
hello hello
world
123
hello
[root@wallis-service ~]# 

演示9: 删除不匹配的行

删除不匹配 helloworld 的行

sed '/hello\|world/!d' sed.txt 

# \| 是正则表达式的或者 这里|需要转义, 所以为\|
# ! 取反

运行效果

[root@wallis-service ~]# sed '/hello\|world/!d' sed.txt 
hello hello
world
hello
[root@wallis-service ~]# cat sed.txt 
ABC
hello hello
world
123
hello
[root@wallis-service ~]# 

示例:更改文件中的数据

演示1:将文件的第一行修改为hello

命令

sed  '1chello'  sed.txt

运行效果

[root@wallis-service ~]# sed  '1chello'  sed.txt
hello
hello hello
world
123
hello
[root@wallis-service ~]# cat sed.txt 
ABC
hello hello
world
123
hello
[root@wallis-service ~]# 

演示2: 将包含hello的行修改为hi

命令

sed  '/hello/chi' sed.txt

运行效果

[root@wallis-service ~]# sed  '/hello/chi' sed.txt
ABC
hi
world
123
hi
[root@wallis-service ~]# cat sed.txt 
ABC
hello hello
world
123
hello
[root@wallis-service ~]# 

演示3: 将最后一行修改为hi

命令

sed '$chi' sed.txt

运行效果

[root@wallis-service ~]# sed '$chi' sed.txt   
ABC
hello hello
world
123
hi
[root@wallis-service ~]# cat sed.txt             
ABC
hello hello
world
123
hello
[root@wallis-service ~]# 

演示4: 将文件中的hello替换为hi

将文件中的hello替换为hi,默认只替换每行第一个hello

sed 's/hello/hi/'  sed.txt

运行效果

[root@wallis-service ~]# sed 's/hello/hi/' sed.txt 
ABC
hi hello
world
123
hi
[root@wallis-service ~]# cat sed.txt              
ABC
hello hello
world
123
hello
[root@wallis-service ~]# 

注意 's/hello/hi/' 最后一个/ 不可少

将文本中所有的hello都替换为hi, 全局替换

sed 's/hello/hi/g'  sed.txt
# g 代表匹配全局所有符合的字符
[root@wallis-service ~]# sed 's/hello/hi/g'  sed.txt
ABC
hi hi
world
123
hi
[root@wallis-service ~]# cat sed.txt 
ABC
hello hello
world
123
hello
[root@wallis-service ~]# 

演示5: 将每行中第二个匹配替换

将每行中第二个匹配的hello替换为hi 命令

sed 's/hello/hi/2' sed.txt

运行效果

[root@wallis-service ~]# sed 's/hello/hi/2' sed.txt
ABC
hello hi
world
123
hello
[root@wallis-service ~]# cat sed.txt 
ABC
hello hello
world
123
hello
[root@wallis-service ~]# 

演示6: 替换后的内容写入文件

将每行中第二个匹配的hello替换为hi , 将替换后的内容写入到sed2.txt文件中

# 第一种方式
sed -n 's/hello/hi/2pw sed2.txt' sed.txt
# w写入
# p打印, -n只是获取

# 第二种方式
sed -n 's/hello/hi/2p ' sed.txt > sed2.txt

运行效果

[root@wallis-service ~]# sed -n 's/hello/hi/2pw sed2.txt' sed.txt
hello hi
[root@wallis-service ~]# cat sed2.txt 
hello hi
[root@wallis-service ~]# sed -n 's/hello/hi/2p' sed.txt > sed2.txt  
[root@wallis-service ~]# cat sed2.txt 
hello hi
[root@wallis-service ~]# 

演示7: 正则表达式匹配替换

匹配有 h 的行,替换匹配行中 e 后的所有内容为空

sed '/h/s/e.*//g' sed.txt
# /e.*/ 表示e后的所有内容(包括e)

运行效果

[root@wallis-service ~]# sed '/h/s/e.*//g' sed.txt
ABC
h
world
123
h
[root@wallis-service ~]# cat sed.txt 
ABC
hello hello
world
123
hello
[root@wallis-service ~]# 

演示8: 每行末尾拼接test

sed 's/$/& test' sed.txt
# & 用于拼接

运行效果

[root@wallis-service ~]# sed 's/$/& test/' sed.txt
ABC test
hello hello test
world test
123 test
hello test
[root@wallis-service ~]# 

演示9: 每行行首添加注释 #

命令

sed 's/^/#/' sed.txt

运行效果

[root@wallis-service ~]# sed 's/$/& test/' sed.txt      
ABC test
hello hello test
world test
123 test
hello test
[root@wallis-service ~]# cat sed.txt 
ABC
hello hello
world
123
hello
[root@wallis-service ~]# 

示例: 查询文件或管道中的数据

需求1: 查询含有 world 的行数据

命令

sed -n '/world/p' sed.txt

运行效果

[root@wallis-service ~]# sed -n '/world/p' sed.txt
world
[root@wallis-service ~]# cat sed.txt 
ABC
hello hello
world
123
hello
[root@wallis-service ~]# 

需求2: 管道过滤查询

管道查询所有进程中含有sshd的进程信息命令

 ps -aux | sed -n '/sshd/p'

运行效果

[root@wallis-service ~]#  ps -aux | sed -n '/sshd/p'
root      2564  0.0  0.3 157592  5952 ?        Ss   20:23   0:00 sshd: root@pts/0
root      8121  0.0  0.0 117040   948 pts/0    S+   21:25   0:00 sed -n /sshd/p
root      9749  0.0  0.0   4440   100 pts/0    Ss+  Dec14   0:00 /bin/sh -c /usr/sbin/sshd && bash /usr/bin/start-zk.sh
root      9778  0.0  0.0  61360   684 ?        Ss   Dec14   0:00 /usr/sbin/sshd
root     14569  0.0  0.0 112984  1288 ?        Ss   Dec06   0:00 /usr/sbin/sshd -D
[root@wallis-service ~]# 

示例: 多个sed程序命令执行

将sed.txt文件中的第1行删除并将 hello 替换为 world

# 第一种方式, 多个sed程序命令 在每个命令之前使用 -e 参数
sed -e '1d' -e 's/hello/world/g' sed.txt 

# 第二种方式
sed  '1d;s/hello/world/g' sed.txt

运行效果

[root@wallis-service ~]# sed -e '1d' -e 's/hello/world/g' sed.txt 
world world
world
123
world
[root@wallis-service ~]# sed  '1d;s/hello/world/g' sed.txt
world world
world
123
world
[root@wallis-service ~]# cat sed.txt 
ABC
hello hello
world
123
hello
[root@wallis-service ~]# 

sed高级用法: 缓存区数据交换

模式空间与暂存空间介绍

  1. 首先需要明白, sed处理文件是逐行处理的, 即读取一行处理一行,输出一行;

  2. sed把文件读出来每一行存放的空间叫模式空间, 会在该空间中对读到的内容做相应处理;

  3. 此外sed还有一个额外的空间即暂存空间, 暂存空间刚开始里边只有个空行, 记住这一点;

  4. sed可使用相应的命令从模式空间往暂存空间放入内容或从暂存空间取内容放入模式空间;

    2个缓存空间传输数据的目的是为了更好的处理数据, 一会参考案例学习

关于缓存区sed程度命令

命令含义
h模式空间里面的内容复制到暂存空间缓存区(覆盖方式)
H模式空间里面的内容复制到暂存空间缓存区(追加方式)
g暂存空间里面的内容复制到模式空间缓存区(覆盖方式)
G暂存空间里面的内容复制到模式空间缓存区(追加方式)
x交换2个空间的内容

示例: 缓存空间数据交换

演示1: 第一行粘贴到最后1行

将模式空间第一行复制到暂存空间(覆盖方式),并将暂存空间的内容复制到模式空间中的最后一行(追加方式)

sed '1h;$G' sed.txt
# 1h 从模式空间中将第一行数据复制到暂存空间(覆盖方式)
# $G 将暂存空间中的内容复制到模式空间中最后一行(追加方式)

运行效果

[root@wallis-service ~]# sed '1h;$G' sed.txt
ABC
hello hello
world
123
hello
ABC
[root@wallis-service ~]# 

演示2: 第一行删除后粘贴到最后1行

将模式空间第一行复制到暂存空间(覆盖方式)并删除, 最后将暂存空间的内容复制到模式空间中的最后一行(追加方式)

sed '1{h;d};$G' sed.txt
# 1{h;d}对模式空间中的第一行数据同时进行复制到暂存空间(覆盖方式)和删除模式空间中的第一行数据
# 或者 sed '1h;1d;$G' sed.txt

运行效果

[root@wallis-service ~]# sed '1{h;d};$G' sed.txt
hello hello
world
123
hello
ABC
[root@wallis-service ~]# sed '1h;1d;$G' sed.txt 
hello hello
world
123
hello
ABC
[root@wallis-service ~]# 

演示3: 第一行数据复制粘贴替换其他行数据

将模式空间第一行复制到暂存空间(覆盖方式), 最后将暂存空间的内容复制到模式空间中替换从第2行开始到最后一行的每一行数据(覆盖方式)

sed '1h;2,$g' sed.txt

运行命令

[root@wallis-service ~]# sed '1h;2,$g' sed.txt
ABC
ABC
ABC
ABC
ABC
[root@wallis-service ~]# 

演示4: 将前3行数据数据复制粘贴到最后一行

将前3行数据复制到暂存空间(追加方式), 之后将暂存空间的所有内容复制粘贴到模式空间最后一行(追加方式)

sed '1,3H;$G' sed.txt

运行效果

[root@wallis-service ~]# sed '1,3H;$G' sed.txt
ABC
hello hello
world
123
hello

ABC
hello hello
world
[root@wallis-service ~]# 

示例: 给每一行添加空行

插入空行

sed G -i sed.txt
# G 每行后面添加一个空行
# -i 修改源文件

运行效果

[root@wallis-service ~]# sed G -i sed.txt
[root@wallis-service ~]# cat sed.txt 
ABC

hello hello

world

123

hello

[root@wallis-service ~]# 

示例: 删除所有的空行

命令

sed -i '/^$/d' sed.txt

运行效果

[root@wallis-service ~]# sed -i '/^$/d' sed.txt
[root@wallis-service ~]# cat sed.txt 
ABC
hello hello
world
123
hello
[root@wallis-service ~]# 

9.3 Shell好用的工具:awk

介绍

awk是一个强大的文本分析工具,相对于grep的查找,sed的编辑,awk在其对数据分析并生成报告时,显得尤为强大简单来说awk就是把文件逐行的读入,以空格为默认分隔符将每行切片,切开的部分再进行各种分析处理, 因为切开的部分使用awk可以定义变量,运算符, 使用流程控制语句进行深度加工与分析。

创始人 Alfred V. Aho、Peter J. Weinberger和Brian W. Kernighan awk由来是姓氏的首字母

语法

awk [options] 'pattern{action}' {filenames}

pattern:表示AWK在数据中查找的内容,就是匹配模式

action:在找到匹配内容时所执行的一系列命令

选项参数说明

选项参数功能
-F指定输入文件拆分分隔符
-v赋值一个用户定义变量

awk内置变量

内置变量含义
ARGC命令行参数个数
ARGV命令行参数排列
ENVIRON支持队列中系统环境变量的使用
FILENAMEawk浏览的文件名
FNR浏览文件的记录数
FS设置输入域分隔符,等价于命令行 -F选项
NF浏览记录的域的个数, 根据分隔符分割后的列数
NR已读的记录数, 也是行号
OFS输出域分隔符
ORS输出记录分隔符
RS控制记录分隔符
$n$0变量是指整条记录。$1表示当前行的第一个域,$2表示当前行的第二个域,......以此类推。
$NF$NF是number finally,表示最后一列的信息,跟变量NF是有区别的,变量NF统计的是每行列的总数

数据准备

cp /etc/passwd ./

示例 : 默认每行空格切割数据

命令

 echo "abc 123 456" | awk '{print $1"&"$2"&"$3}'

运行效果

[root@wallis-service ~]# echo "abc 123 456" | awk '{print $1"&"$2"&"$3}'
abc&123&456
[root@wallis-service ~]# 

示例: 打印含有匹配信息的行

搜索passwd文件有root关键字的所有行

awk '/root/' passwd
# '/root/' 是查找匹配模式, 没有action命令, 默认输出所有符合的行数据

运行效果

[root@wallis-service ~]# awk '/root/' passwd
root:x:0:0:root:/root:/bin/bash
operator:x:11:0:operator:/root:/sbin/nologin
[root@wallis-service ~]# 

示例: 打印匹配行中第7列数据

搜索passwd文件有root关键字的所有行, 然后以":"拆分并打印输出第7列

awk -F: '/root/{print $7}' passwd
# -F: 以':'分隔符拆分每一个列(域)数据

运行效果

[root@wallis-service ~]# awk -F: '/root/{print $7}' passwd
/bin/bash
/sbin/nologin
[root@wallis-service ~]# 

示例: 打印文件每行属性信息

统计passwd: 文件名,每行的行号,每行的列数,对应的完整行内容:

awk -F ':' '{print "文件名:" FILENAME ",行号:" NR ",列数:" NF ",内容:" $0}' passwd
# "文件名:" 用于拼接字符串

运行效果

[root@wallis-service ~]# awk -F ':' '{print "文件名:" FILENAME ",行号:" NR ",列数:" NF ",内容:" $0}' passwd
文件名:passwd,行号:1,列数:7,内容:root:x:0:0:root:/root:/bin/bash
文件名:passwd,行号:2,列数:7,内容:bin:x:1:1:bin:/bin:/sbin/nologin
文件名:passwd,行号:3,列数:7,内容:daemon:x:2:2:daemon:/sbin:/sbin/nologin
文件名:passwd,行号:4,列数:7,内容:adm:x:3:4:adm:/var/adm:/sbin/nologin
文件名:passwd,行号:5,列数:7,内容:lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin
文件名:passwd,行号:6,列数:7,内容:sync:x:5:0:sync:/sbin:/bin/sync
文件名:passwd,行号:7,列数:7,内容:shutdown:x:6:0:shutdown:/sbin:/sbin/shutdown
文件名:passwd,行号:8,列数:7,内容:halt:x:7:0:halt:/sbin:/sbin/halt
文件名:passwd,行号:9,列数:7,内容:mail:x:8:12:mail:/var/spool/mail:/sbin/nologin
文件名:passwd,行号:10,列数:7,内容:operator:x:11:0:operator:/root:/sbin/nologin
文件名:passwd,行号:11,列数:7,内容:games:x:12:100:games:/usr/games:/sbin/nologin
文件名:passwd,行号:12,列数:7,内容:ftp:x:14:50:FTP User:/var/ftp:/sbin/nologin
文件名:passwd,行号:13,列数:7,内容:nobody:x:99:99:Nobody:/:/sbin/nologin
文件名:passwd,行号:14,列数:7,内容:systemd-network:x:192:192:systemd Network Management:/:/sbin/nologin
文件名:passwd,行号:15,列数:7,内容:dbus:x:81:81:System message bus:/:/sbin/nologin
文件名:passwd,行号:16,列数:7,内容:polkitd:x:999:998:User for polkitd:/:/sbin/nologin
文件名:passwd,行号:17,列数:7,内容:sshd:x:74:74:Privilege-separated SSH:/var/empty/sshd:/sbin/nologin
文件名:passwd,行号:18,列数:7,内容:postfix:x:89:89::/var/spool/postfix:/sbin/nologin
文件名:passwd,行号:19,列数:7,内容:chrony:x:998:996::/var/lib/chrony:/sbin/nologin
文件名:passwd,行号:20,列数:7,内容:nscd:x:28:28:NSCD Daemon:/:/sbin/nologin
文件名:passwd,行号:21,列数:7,内容:tcpdump:x:72:72::/:/sbin/nologin
文件名:passwd,行号:22,列数:7,内容:mysql:x:27:27:MySQL Server:/var/lib/mysql:/bin/false
文件名:passwd,行号:23,列数:7,内容:rabbitmq:x:997:995:RabbitMQ messaging server:/var/lib/rabbitmq:/sbin/nologin
[root@wallis-service ~]# 

使用printf替代print,可以让代码阅读型更好

awk -F ':' '{printf("文件名:%5s,行号:%2s, 列数:%1s, 内容:%2s\n",FILENAME,NR,NF,$O)}' passwd
# printf(格式字符串,变量1,变量2,...)
# 格式字符串: %ns 输出字符串,n 是数字,指代输出几个字符, n不指定自动占长度
# 格式字符串: %ni 输出整数,n 是数字,指代输出几个数字
# 格式字符串: %m.nf 输出浮点数,m 和 n 是数字,指代输出的整数位数和小数位数。如 %8.2f 代表共输出 8 位数,其中 2 位是小数,6 位是整数;

运行效果

[root@wallis-service ~]# awk -F ':' '{printf("文件名:%5s,行号:%2s, 列数:%1s, 内容:%2s\n",FILENAME,NR,NF,$O)}' passwd
文件名:passwd,行号: 1, 列数:7, 内容:root:x:0:0:root:/root:/bin/bash
文件名:passwd,行号: 2, 列数:7, 内容:bin:x:1:1:bin:/bin:/sbin/nologin
文件名:passwd,行号: 3, 列数:7, 内容:daemon:x:2:2:daemon:/sbin:/sbin/nologin
文件名:passwd,行号: 4, 列数:7, 内容:adm:x:3:4:adm:/var/adm:/sbin/nologin
文件名:passwd,行号: 5, 列数:7, 内容:lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin
文件名:passwd,行号: 6, 列数:7, 内容:sync:x:5:0:sync:/sbin:/bin/sync
文件名:passwd,行号: 7, 列数:7, 内容:shutdown:x:6:0:shutdown:/sbin:/sbin/shutdown
文件名:passwd,行号: 8, 列数:7, 内容:halt:x:7:0:halt:/sbin:/sbin/halt
文件名:passwd,行号: 9, 列数:7, 内容:mail:x:8:12:mail:/var/spool/mail:/sbin/nologin
文件名:passwd,行号:10, 列数:7, 内容:operator:x:11:0:operator:/root:/sbin/nologin
文件名:passwd,行号:11, 列数:7, 内容:games:x:12:100:games:/usr/games:/sbin/nologin
文件名:passwd,行号:12, 列数:7, 内容:ftp:x:14:50:FTP User:/var/ftp:/sbin/nologin
文件名:passwd,行号:13, 列数:7, 内容:nobody:x:99:99:Nobody:/:/sbin/nologin
文件名:passwd,行号:14, 列数:7, 内容:systemd-network:x:192:192:systemd Network Management:/:/sbin/nologin
文件名:passwd,行号:15, 列数:7, 内容:dbus:x:81:81:System message bus:/:/sbin/nologin
文件名:passwd,行号:16, 列数:7, 内容:polkitd:x:999:998:User for polkitd:/:/sbin/nologin
文件名:passwd,行号:17, 列数:7, 内容:sshd:x:74:74:Privilege-separated SSH:/var/empty/sshd:/sbin/nologin
文件名:passwd,行号:18, 列数:7, 内容:postfix:x:89:89::/var/spool/postfix:/sbin/nologin
文件名:passwd,行号:19, 列数:7, 内容:chrony:x:998:996::/var/lib/chrony:/sbin/nologin
文件名:passwd,行号:20, 列数:7, 内容:nscd:x:28:28:NSCD Daemon:/:/sbin/nologin
文件名:passwd,行号:21, 列数:7, 内容:tcpdump:x:72:72::/:/sbin/nologin
文件名:passwd,行号:22, 列数:7, 内容:mysql:x:27:27:MySQL Server:/var/lib/mysql:/bin/false
文件名:passwd,行号:23, 列数:7, 内容:rabbitmq:x:997:995:RabbitMQ messaging server:/var/lib/rabbitmq:/sbin/nologin
[root@wallis-service ~]# 

示例: 打印第二行信息

打印/etc/passwd/的第二行信息

awk -F ':' 'NR==2{printf("filename:%s,%s\n",FILENAME,$0)}' passwd

运行效果

[root@wallis-service ~]# awk -F ':' 'NR==2{printf("filename:%s,%s\n",FILENAME,$0)}' passwd
filename:passwd,bin:x:1:1:bin:/bin:/sbin/nologin
[root@wallis-service ~]# 

示例: 查找以c开头的资源

awk过滤的使用, 查找当前目录下文件名以c开头的文件列表

ls -a | awk '/^c/'

运行效果

[root@wallis-service ~]# ls -a | awk '/^c/'
control10.sh
control11.sh
control6.sh
control7.sh
control8.sh
control9.sh
cut1.txt
[root@wallis-service ~]# 

示例: 打印第一列

按照":" 分割查询第一列打印输出

awk -F ':' '{print $1}' passwd

运行效果

[root@wallis-service ~]# awk -F ':' '{print $1}' passwd
root
bin
daemon
adm
lp
sync
shutdown
halt
mail
operator
games
ftp
nobody
systemd-network
dbus
polkitd
sshd
postfix
chrony
nscd
tcpdump
mysql
rabbitmq
[root@wallis-service ~]# 

示例: 打印最后1列

按照":" 分割查询最后一列打印输出

awk -F: '{print $NF}' passwd

运行效果

[root@wallis-service ~]# awk -F: '{print $NF}' passwd
/bin/bash
/sbin/nologin
/sbin/nologin
/sbin/nologin
/sbin/nologin
/bin/sync
/sbin/shutdown
/sbin/halt
/sbin/nologin
/sbin/nologin
/sbin/nologin
/sbin/nologin
/sbin/nologin
/sbin/nologin
/sbin/nologin
/sbin/nologin
/sbin/nologin
/sbin/nologin
/sbin/nologin
/sbin/nologin
/sbin/nologin
/bin/false
/sbin/nologin
[root@wallis-service ~]# 

示例: 打印倒数第二列

按照":" 分割查询倒数第二列打印输出

 awk -F: '{print $(NF-1)}' passwd
 # $(NF-N) N是几, 就是倒数第几列

运行效果

[root@wallis-service ~]# awk -F: '{print $(NF-1)}' passwd
/root
/bin
/sbin
/var/adm
/var/spool/lpd
/sbin
/sbin
/sbin
/var/spool/mail
/root
/usr/games
/var/ftp
/
/
/
/
/var/empty/sshd
/var/spool/postfix
/var/lib/chrony
/
/
/var/lib/mysql
/var/lib/rabbitmq
[root@wallis-service ~]# 

示例: 打印10到20行的第一列

获取第10到20行的第一列的信息

awk -F: '{if(NR>=10 && NR<=20) print $1}' passwd

运行效果

[root@wallis-service ~]# awk -F: '{if(NR>=10 && NR<=20) print $1}' passwd
operator
games
ftp
nobody
systemd-network
dbus
polkitd
sshd
postfix
chrony
nscd
[root@wallis-service ~]# 

示例: 多分隔符使用

"one:two/three"字符串按照多个分隔符":"或者"/" 分割, 并打印分割后每个列数据

echo "one:two/three" | awk -F '[:/]' '{printf("%s\n%s\n%s\n%s\n",$0,$1,$2,$3)}'

运行效果

[root@wallis-service ~]# echo "one:two/three" | awk -F '[:/]' '{printf("%s\n%s\n%s\n%s\n",$0,$1,$2,$3)}'
one:two/three
one
two
three
[root@wallis-service ~]# 

示例: 添加开始与结束内容

给数据添加开始与结束

echo -e  "abc\nabc" | awk 'BEGIN{print "开始..."} {print $0} END{print "结束..."}'

# BEGIN 在所有数据读取行之前执行;END 在所有数据执行之后执行。

运行效果

[root@wallis-service ~]# echo -e  "abc\nabc" | awk 'BEGIN{print "开始..."} {print $0} END{print "结束..."}'
开始...
abc
abc
结束...
[root@wallis-service ~]# 

示例 : 使用循环拼接分割后的字符串

"abc hello world 21" 使用空格分割后, 通过循环拼接在一起

 echo "abc hello     world   21" | awk -v str="" -F '[ ]+' '{for(n=1;n<=NF;n++){ str=str$n} print str }'
 
 # -v 定义变量

运行效果

[root@wallis-service ~]# echo "abc hello     world   21" | awk -v str="" -F '[ ]+' '{for(n=1;n<=NF;n++){ str=str$n} print str }'
abchelloworld21
[root@wallis-service ~]# 

示例: 操作指定数字运算

将passwd文件中的用户id增加数值1并输出

 echo "2.1" | awk -v i=1 '{print $0+i}'

运行效果

[root@wallis-service ~]# echo "2.1" | awk -v i=1 '{print $0+i}'
3.1
[root@wallis-service ~]# 

示例: 切割ip

切割IP

ifconfig | awk '/broadcast/{print}' | awk -F " " '{print $2}'

运行效果

[root@wallis-service ~]# ifconfig | awk '/broadcast/{print}' | awk -F " " '{print $2}'
172.17.0.1
172.21.211.61
[root@wallis-service ~]# 

示例: 显示空行行号

查询sed.txt中空行所在的行号

sed 'G' sed.txt | awk '/^$/{print NR}'

运行效果

[root@wallis-service ~]# sed 'G' sed.txt | awk '/^$/{print NR}'
2
4
6
8
10
[root@wallis-service ~]# 

小结

grep , sed ,awk , cut 文本字符串操作四剑客的区别

grep:用于查找匹配的行

cut: 截取数据. 截取某个文件中的列, 重点是按照列分割, 这个命令不适合截取文件中有多个空白字符的字段

sed: 增删改查数据. sed用于在文件中以行来截取数据进行增\删\改\查

awk:截取分析数据. 可以在某个文件中是以竖列来截取分析数据, 如果字段之间含有很多空白字符也可以获取需要的数据, awk是一种语言,可以深入分析文件数据

9.4 Shell好用的工具:sort

介绍

sort命令是在Linux里非常有用,它将文件进行排序,并将排序结果标准输出或重定向输出到指定文件。

语法

sort (options) 参数
选项说明
-nnumber,依照数值的大小排序
-rreverse, 以相反的顺序来排序
-t 分隔字符设置排序时所用的分隔字符, 默认空格是分隔符
-k指定需要排序的列
-d排序时,处理英文字母、数字及空格字符外,忽略其他的字符。
-f排序时,将小写字母视为大写字母
-b忽略每行前面开始出的空格字符
-o 输出文件将排序后的结果存入指定的文件
-u意味着是唯一的(unique),输出的结果是去完重了的
-m将几个排序好的文件进行合并

参数:指定待排序的文件列表

数据准备

sort.txt文本文件代码

张三 30  
李四 95  
王仔 85 
王仔 85
王仔 86
AA 85
王妞 100

示例1: 数字升序

按照“ ”空格分割后的第2列数字升序排序。

sort -t " " -k2n,2 sort.txt
# -t " " 代表使用空格分隔符拆分列
# -k 2n,2 代表根据从第2列开始到第2列结束进行数字升序, 仅对第2列排序

运行效果

[root@wallis-service ~]# sort -t " " -k2n,2 sort.txt
张三 30  
AA 85
王仔 85
王仔 85 
王仔 86
李四 95  
王妞 100
[root@wallis-service ~]# 

示例2: 数字升序去重

先按照“ ”空格分割后的, 然后,按照第2列数字升序排序, 最后对所有列去重

 sort -t " " -k2n,2 -uk1,2 sort.txt

运行效果

[root@wallis-service ~]# sort -t " " -k2n,2 -uk1,2 sort.txt
张三 30  
AA 85
王仔 85 
王仔 86
李四 95  
王妞 100
[root@wallis-service ~]# 

注意: 先排序再去重

示例3: 数字升序去重结果保存到文件

命令

sort -t " " -k2n,2 -uk1,2 -o sort2.txt sort.txt

运行效果

[root@wallis-service ~]# sort -t " " -k2n,2 -uk1,2 -o sort2.txt sort.txt
[root@wallis-service ~]# cat sort2.txt 
张三 30  
AA 85
王仔 85 
王仔 86
李四 95  
王妞 100
[root@wallis-service ~]# 

示例4: 数字降序去重

先按照“ ”空格分割后的, 然后,按照第2列数字降序排序, 最后对所有列去重

sort -t " " -k2nr,2 -uk1,2 sort.txt

运行效果

[root@wallis-service ~]# sort -t " " -k2nr,2 -uk1,2 sort.txt
王妞 100
李四 95  
王仔 86
AA 85
王仔 85 
张三 30  
[root@wallis-service ~]# 

示例5: 多列排序

数据准备sort3.txt

公司A,部门A,3
公司A,部门B,0
公司A,部门C,10
公司A,部门D,9
公司B,部门A,30
公司B,部门B,40
公司B,部门C,43
公司B,部门D,1
公司C,部门A,30
公司C,部门B,9
公司C,部门C,100
公司C,部门D,80
公司C,部门E,60

要求: 以","分割先对第一列字符串升序, 再对第3列数字降序

sort -t "," -k1,1 -k3nr,3 sort3.txt

运行效果

[root@wallis-service ~]# sort -t "," -k1,1 -k3nr,3 sort3.txt
公司A,部门C,10
公司A,部门D,9
公司A,部门A,3
公司A,部门B,0
公司B,部门C,43
公司B,部门B,40
公司B,部门A,30
公司B,部门D,1
公司C,部门C,100
公司C,部门D,80
公司C,部门E,60
公司C,部门A,30
公司C,部门B,9
[root@wallis-service ~]# 

小结

使用sort对字符串升序或降序排序

字符串升序: sort -kstart,end 文件

字符串降序: sort -kstartr,end 文件

使用sort对数字升序或降序

数字升序: sort -kstartn,end 文件

数字降序: sort -kstartnr,end 文件

使用sort对多列进行排序

sort -kstart[nr],end -kstart[nr],end ... 文件