一 cgroups简介
cgroups,是一个非常强大的linux内核工具,他不仅可以限制被namespace 隔离起来的资源,还可以 为资源设置权重、计算使用量、操控进程启停等等。所以cgroups (Control groups) 实现了对资源的配额和度量。
1.1 cgroups有四大功能:
- 资源限制:可以对任务使用的资源总额进行限制。
- 优先级分配:通过分配的cpu时间片数量以及磁盘IO带宽大小,实际上相当于控制了任务运行优先级。
- 资源统计:可以统计系统的资源使用量,如cpu时长,内存用量等。
- 任务控制: cgroup可以对任务 执行挂起、恢复等操作。
Docker 通过cgroup 来控制容器使用的资源配额,包括CPU、内存、磁盘三大方面,基本覆盖了常见的资源配额和使用量控制。
二 cpu时间片的概念
时间片即CPU分配给各个程序的时间,每个线程被分配一个时间段,称作它的时间片,即该进程允许运行的时间,使各个程序从表面上看是同时进行的。如果在时间片结束时进程还在运行,则CPU将被剥夺并分配给另一个进程。如果进程在时间片结束前阻塞或结束,则CPU当即进行切换。而不会造成CPU资源浪费。
在宏观上:我们可以同时打开多个应用程序,每个程序并行不悖,同时运行。但在微观上:由于只有一个CPU,一次只能处理程序要求的一部分,如何处理公平,一种方法就是引入时间片,每个程序轮流执行。
三 对CPU使用的限制
CPU在处理进程的时候实际上是在一个周期内,我给这个进程分配的时间,让时间分片再让CPU进行处理
CPU时间默认为100ms
如果说此时我只想单独让进程1单独享受CPU 50%的速度,那么就要分配给进程1 50ms的时间,另外两个可以平均分配剩下的50%的调度周期即50ms的时间,也可以自定义进程2使用40%,那么进程3就只能使用10%,三个进程的时间周期,加在一起必须是100ms,如果设定超过了100ms,CPU在满负荷运行的状态下,可能会出现进程卡死,或者宕机的危险
假设我们不想使用默认的时间,可以自己设置,但是三个进程的周期时间加在一起也必须是我们设定的时间范围。
在特殊的一些场景是可以超负荷运行CPU的,但是一直超负荷运行,肯定是不现实的,所以还是要在范围值内合理分配进程的使用率。
1)设置CPU的使用率上限
Linux通过CFS (Completely Fair Scheduler, 完全公平调度器)来调度各个进程对CPU的使用。CFS默认的调度周期是100ms。
我们可以设置每个容器进程的调度周期,以及在这个周期内各个容器最多能使用多少CPU时间。
使用 --cpu-period 即可设置调度周期,使用 --cpu-quota 即可设置在每个周期内容器能使用的CPU时间。两者可以配合使用。
CFS周期的有效范围是1ms ~ 1s, 对应的 --cpu-period 的数值范围是 1000 ~1000000 (单位微秒)。
而容器的CPU配额必须不小于1ms,即 --cpu-quota 的值必须 >= 1000。
2)查看容器的默认CPU使用限制
如果说现在有5个容器正在同时运行,此时有一台容器没有做CPU的限制,此时这台没有做限制的容器突然出现了bog,使CPU的使用率达到了顶峰,但是别的容器也在同时在运行,这样就会是的CPU超负荷运作,会使得机器宕机。这样别的容器业务也会停止。
3)进行压力测试
4)创建容器时设置CPU使用时间限制
5)对已存在的容器进行CPU限制
6) 社会容器进程占用两个CPU使用率都达到100%
在多数情况下,如果允许容器进程完全占用两个CPU,则可以将cpu-priod设置为100000微秒(即0.1秒),cpu-quota设置为200000微秒(即0.2秒)
1. 设置CPU资源占用比(设置多个容器时才有效)
Docker 通过 --cpu-shares 指定CPU份额,默认值为1024,值为1024的倍数。
2. 创建两个容器,设置CPU资源占用比(动态分配)
压测检查 docker stats
关闭一台容器 关闭两台容器
- 可以看到在 CPU 进行时间片分配的时候,容器 a2比容器a1多一倍的机会获得 CPU 的时间片。
- 但分配的结果取决于当时主机和其他容器的运行状态,实际上也无法保证容器a1一定能获得 CPU 时间片 比如容器a1的进程一直是空闲的,那么容器a2 是可以获取比容器a1更多的 CPUY 时间片的。极端情况下,例如主机上只运行了一个容器,即使它的 CPU 份额只有 50,它也可以独占整个主机的 CPU 资源。
- Cgroups 只在容器分配的资源紧缺时,即在需要对容器使用的资源进行限制时,才会生效。因此,无法单纯根据某个容器的 cCPU 份额来确定有多少CPU 资源分配给它,资源分配结果取决于同时运行的其他容器的 CPU 分配和容器中进程运行情况。
3. 设置容器绑定指定的CPU(绑核)
注意:CPU编号从0开始。 编号1、3代表第二个核和第四个核 。
四 对内存使用的限制
4.1 限制容器可以使用的最大内存
-m (或--memory=)选项用于限制容器可以使用的最大内存
4.2 不做限制
限制可用的swap大小,--memory-swap
注意:--memory-swap 是必须要与--memory一起使用
正常情况下,--memory-swap 的值包含容器可用内存和可用swap
所以-m 300m --memory-swap=1g 的含义为:容器可以使用300M的物理内存,并且可以使用700(1g-300M)的swap
如果 --memory-swap 设置为0 或者 不设置,则容器可以使用的 swap 大小为 -m 值的两倍
如果 --memory-swap 的值和-m值相同,则容器不能使用swap
如果 --memory-swap 值为-1,它表示容器程序使用的内存受限,而可以使用的swap空间使用不受限制(宿主机有多少swap容器就可以使用多少)
五 对磁盘IO的配置控制(blkio)的限制
--device-read-bps:限制某个设备上的读速度bps ( 数据量),单位可以是kb、mb (M)或者gb。
--device-write-bps : 限制某个设备上的写速度bps ( 数据量),单位可以是kb、mb (M)或者gb。
--device-read-iops :限制读某个设备的iops (次数)
--device-write-iops :限制写入某个设备的iops ( 次数)
--device-read-bps:限制某个设备上的读速度bps ( 数据量),单位可以是kb、mb (M)或者gb。
例: docker run -itd --name test9 --device-read-bps /dev/sda:1M centos:7 /bin/bash
#表示该容器每秒只能读取1M的数据量
--device-write-bps : 限制某个设备上的写速度bps ( 数据量),单位可以是kb、mb (M)或者gb。
例: docker run -itd --name test10 --device-write-bps /dev/sda:1mb centos:7 /bin/bash
#表示该容器每秒只能写入1M的数据量
--device-read-iops :限制读某个设备的iops (次数)
--device-write-iops :限制写入某个设备的iops ( 次数)
5.1 创建容器,不限制写速度
5.2 创建容器,并限制写速度
六 清除docker占用的磁盘空间
docker system prune -a 可用于清理磁盘,删除关闭的容器、无用的数据卷和网络。
七 使用run创建容器的时候出现这个问题解决方案
报错的意思就是没有开启IP转发功能导致的
八 总结
8.1 对cpu的限制参数
docker run --cpu-period 设置CUP周期时间
--cpu-quota 设置单个容器的CPU使用上限
--cpu-shares 设置容器CPU时间占用比,只在多个容器同时运行,且CPU资源紧张时有效
--cpuset-cpus 设置容器与一个或者多个CPU绑定(0 ~ n-1,多个CPU用, 号间隔)
8.2 对内存的限制
对容器可用内存/swap做限制
docker run -m 物理内存 [--memory-swap=总值]
8.3 对磁盘IO的限制
--device-read-bps 设备文件:1mb/1M(速度) 对容器在磁盘上读的速度做限制
--device-write-bps 对容器在磁盘上写的速度做限制
--device-read-iops 对容器在磁盘上读的次数做限制
---device-write-biopsps 对容器在磁盘上写的次数做限制
docker system prune -a 清空docker本地无用的磁盘空间