云原生Docker篇---Docker Cgroups资源控制管理

85 阅读8分钟

一 cgroups简介

cgroups,是一个非常强大的linux内核工具,他不仅可以限制被namespace 隔离起来的资源,还可以 为资源设置权重、计算使用量、操控进程启停等等。所以cgroups (Control groups) 实现了对资源的配额和度量。

1.1 cgroups有四大功能:

  • 资源限制:可以对任务使用的资源总额进行限制。
  • 优先级分配:通过分配的cpu时间片数量以及磁盘IO带宽大小,实际上相当于控制了任务运行优先级。
  • 资源统计:可以统计系统的资源使用量,如cpu时长,内存用量等。
  • 任务控制: cgroup可以对任务 执行挂起、恢复等操作。

Docker 通过cgroup 来控制容器使用的资源配额,包括CPU、内存、磁盘三大方面,基本覆盖了常见的资源配额和使用量控制。

二 cpu时间片的概念

时间片即CPU分配给各个程序的时间,每个线程被分配一个时间段,称作它的时间片,即该进程允许运行的时间,使各个程序从表面上看是同时进行的。如果在时间片结束时进程还在运行,则CPU将被剥夺并分配给另一个进程。如果进程在时间片结束前阻塞或结束,则CPU当即进行切换。而不会造成CPU资源浪费。

在宏观上:我们可以同时打开多个应用程序,每个程序并行不悖,同时运行。但在微观上:由于只有一个CPU,一次只能处理程序要求的一部分,如何处理公平,一种方法就是引入时间片,每个程序轮流执行。

三 对CPU使用的限制

f92fd96273e57ccfe4dd44ba7a68952.jpg CPU在处理进程的时候实际上是在一个周期内,我给这个进程分配的时间,让时间分片再让CPU进行处理

CPU时间默认为100ms

如果说此时我只想单独让进程1单独享受CPU 50%的速度,那么就要分配给进程1 50ms的时间,另外两个可以平均分配剩下的50%的调度周期即50ms的时间,也可以自定义进程2使用40%,那么进程3就只能使用10%,三个进程的时间周期,加在一起必须是100ms,如果设定超过了100ms,CPU在满负荷运行的状态下,可能会出现进程卡死,或者宕机的危险

假设我们不想使用默认的时间,可以自己设置,但是三个进程的周期时间加在一起也必须是我们设定的时间范围。

在特殊的一些场景是可以超负荷运行CPU的,但是一直超负荷运行,肯定是不现实的,所以还是要在范围值内合理分配进程的使用率。

1)设置CPU的使用率上限

Linux通过CFS (Completely Fair Scheduler, 完全公平调度器)来调度各个进程对CPU的使用。CFS默认的调度周期是100ms

我们可以设置每个容器进程的调度周期,以及在这个周期内各个容器最多能使用多少CPU时间。

使用 --cpu-period 即可设置调度周期,使用 --cpu-quota 即可设置在每个周期内容器能使用的CPU时间。两者可以配合使用。

CFS周期的有效范围是1ms ~ 1s, 对应的 --cpu-period 的数值范围是 1000 ~1000000 (单位微秒)。

而容器的CPU配额必须不小于1ms,即 --cpu-quota 的值必须 >= 1000。

2)查看容器的默认CPU使用限制

image.png

image.png

如果说现在有5个容器正在同时运行,此时有一台容器没有做CPU的限制,此时这台没有做限制的容器突然出现了bog,使CPU的使用率达到了顶峰,但是别的容器也在同时在运行,这样就会是的CPU超负荷运作,会使得机器宕机。这样别的容器业务也会停止。 image.png

3)进行压力测试

image.png

image.png

image.png

image.png

4)创建容器时设置CPU使用时间限制

image.png

image.png

image.png

5)对已存在的容器进行CPU限制

image.png

image.png

6) 社会容器进程占用两个CPU使用率都达到100%

image.png

image.png

image.png

在多数情况下,如果允许容器进程完全占用两个CPU,则可以将cpu-priod设置为100000微秒(即0.1秒),cpu-quota设置为200000微秒(即0.2秒)

1. 设置CPU资源占用比(设置多个容器时才有效)

Docker 通过 --cpu-shares 指定CPU份额,默认值为1024,值为1024的倍数。

2. 创建两个容器,设置CPU资源占用比(动态分配)

image.png

image.png

image.png

image.png 压测检查 docker stats image.png

关闭一台容器 image.png 关闭两台容器 image.png

  • 可以看到在 CPU 进行时间片分配的时候,容器 a2比容器a1多一倍的机会获得 CPU 的时间片。
  • 但分配的结果取决于当时主机和其他容器的运行状态,实际上也无法保证容器a1一定能获得 CPU 时间片 比如容器a1的进程一直是空闲的,那么容器a2 是可以获取比容器a1更多的 CPUY 时间片的。极端情况下,例如主机上只运行了一个容器,即使它的 CPU 份额只有 50,它也可以独占整个主机的 CPU 资源。
  • Cgroups 只在容器分配的资源紧缺时,即在需要对容器使用的资源进行限制时,才会生效。因此,无法单纯根据某个容器的 cCPU 份额来确定有多少CPU 资源分配给它,资源分配结果取决于同时运行的其他容器的 CPU 分配和容器中进程运行情况。

3.  设置容器绑定指定的CPU(绑核)

注意:CPU编号从0开始。 编号1、3代表第二个核和第四个核 。

image.png

image.png

image.png

image.png image.png

四 对内存使用的限制

4.1 限制容器可以使用的最大内存

-m (或--memory=)选项用于限制容器可以使用的最大内存

4.2 不做限制

image.png

限制可用的swap大小,--memory-swap

注意:--memory-swap 是必须要与--memory一起使用

正常情况下,--memory-swap 的值包含容器可用内存和可用swap

所以-m 300m --memory-swap=1g 的含义为:容器可以使用300M的物理内存,并且可以使用700(1g-300M)的swap image.png 如果 --memory-swap 设置为0 或者 不设置,则容器可以使用的 swap 大小为 -m 值的两倍 image.png

image.png

如果 --memory-swap 的值和-m值相同,则容器不能使用swap

如果 --memory-swap 值为-1,它表示容器程序使用的内存受限,而可以使用的swap空间使用不受限制(宿主机有多少swap容器就可以使用多少)

image.png

五 对磁盘IO的配置控制(blkio)的限制

--device-read-bps:限制某个设备上的读速度bps ( 数据量),单位可以是kb、mb (M)或者gb。

--device-write-bps : 限制某个设备上的写速度bps ( 数据量),单位可以是kb、mb (M)或者gb。

--device-read-iops :限制读某个设备的iops (次数)

--device-write-iops :限制写入某个设备的iops ( 次数)

 --device-read-bps:限制某个设备上的读速度bps ( 数据量),单位可以是kb、mb (M)或者gb。
 例: docker run -itd --name test9 --device-read-bps /dev/sda:1M centos:7 /bin/bash
 #表示该容器每秒只能读取1M的数据量
 ​
 --device-write-bps : 限制某个设备上的写速度bps ( 数据量),单位可以是kb、mb (M)或者gb。
 例: docker run -itd --name test10 --device-write-bps /dev/sda:1mb centos:7 /bin/bash
 #表示该容器每秒只能写入1M的数据量
 ​
 --device-read-iops :限制读某个设备的iops (次数)
 --device-write-iops :限制写入某个设备的iops ( 次数)

5.1 创建容器,不限制写速度

image.png

5.2 创建容器,并限制写速度

image.png

六 清除docker占用的磁盘空间

docker system prune -a 可用于清理磁盘,删除关闭的容器、无用的数据卷和网络。

image.png

image.png

七 使用run创建容器的时候出现这个问题解决方案

报错的意思就是没有开启IP转发功能导致的 image.png

image.png

image.png

八 总结

8.1 对cpu的限制参数

docker run  --cpu-period  设置CUP周期时间

            --cpu-quota    设置单个容器的CPU使用上限

            --cpu-shares   设置容器CPU时间占用比,只在多个容器同时运行,且CPU资源紧张时有效

            --cpuset-cpus   设置容器与一个或者多个CPU绑定(0 ~ n-1,多个CPU用, 号间隔)

8.2 对内存的限制

对容器可用内存/swap做限制
docker run  -m 物理内存 [--memory-swap=总值]

8.3 对磁盘IO的限制

--device-read-bps  设备文件:1mb/1M(速度)  对容器在磁盘上读的速度做限制
--device-write-bps                     对容器在磁盘上写的速度做限制
--device-read-iops                  对容器在磁盘上读的次数做限制
---device-write-biopsps              对容器在磁盘上写的次数做限制
              
docker system prune -a  清空docker本地无用的磁盘空间