kubernetes理论基础

2,110 阅读22分钟

ansible:应用级别的多机编排工具
docker:容器引擎
docker compose:单机编排工具

多机编排工具

  • docker swarm:Docker容器多机编排工具,实现Docker容器的集群管理调度的工具
  • k8s:容器多机编排工具,占据80%以上的市场份额
  • mesos + marathon:分布式资管管理框架
    • mesos:可以对集群中机器的硬件资源进行统一的调度和分配
    • marathon:mesos的容器编排框架,用来调度和运行容器服务

kubernetes概述

image.png

K8S是什么?

K8S的全称为 Kubernetes ,因为k和s间有8个字母(K12345678s),所以为了方便,叫做k8s。

作用

  • 用于自动部署、扩展和管理"容器化(containerized)应用程序"的开源系统。
  • 可以理解成K8S 是负责自动化运维管理多个容器化程序(比如 Docker)的集群,是一个生态极其丰富的容器编排框架工具。

由来
K8S由google的Borg系统(博格系统,google内部使用的大规模容器编排工具)作为原型,后经go语言延用Borg的思路重写并捐献给CNCF基金会开源。

云原生基金会(CNCF)于2015年12月成立,隶属于Linux基金会。CNCF孵化的第一个项目就是Kubernetes,随着容器的广泛使用,Kubernetes已经成为容器编排工具的事实标准。

含义:词根源于希腊语的舵手、飞行员

K8S官网(官网可查看使用教程):kubernetes.io/zh-cn/docs/…

下载地址GitHubgithub.com/kubernetes/…

为什么要用 K8S?

传统的后端部署办法:把程序包(包括可执行二进制文件、配置文件等)放到服务器上,接着运行启动脚本把程序跑起来,同时启动守护脚本定期检查程序运行状态,必要的话重新拉起程序。

如果服务的请求量上来,已部署的服务响应不过来怎么办?传统的做法往往是,如果请求量、内存、CPU超过阈值做了告警,运维人员马上再加几台服务器,部署好服务之后,接入负载均衡来分担已有服务的压力。

这样问题就出现了:从监控告警到部署服务,中间需要人力介入!那么,有没有办法自动完成服务的部署、更新、卸载和扩容、缩容呢?
而这就是K8S要做的事情:自动化运维管理容器化(Docker)程序

K8S功能

K8S是Google开源的容器集群管理系统,在Docker等容器技术的基础上,为容器化的应用提供部署运行、资源调度、服务发现和动态伸缩等一系列完整功能,提高了大规模容器集群管理的便捷性。

Kubernetes主要功能如下

  • 跨主机编排容器。
  • 更充分地利用硬件资源来最大化地满足企业应用的需求。
  • 控制与自动化应用的部署与升级。
  • 有状态的应用程序挂教和添加存储器。
  • 线上扩展或缩减容器化应用程序与它们的资源。
  • 声明式的容器管理,保证所部署的应用按照我们部署的方式运作。
  • 通过自动布局、自动重启、自动复制、自动伸缩实现应用的状态检查与自我修复
  • 为多个容器提供服务发现和负载均衡,使得用户无需考虑容器IP问题。

补充:有状态服务和无状态服务的区别

k8s的StatefullSet是为了解决有状态服务的问题(对应Deployments和ReplicaSets 是为无状态服务而设计)

有状态和无状态服务的区别

  • 有状态
    • 有实时的数据需要存储
    • 集群服务中,把某一台服务器抽离出去,过一段时间再加入到集群中,如果服务集群无法正常工作(相互之间需要数据同步)
  • 无状态
    • 没有实时的数据需要存储
    • 集群服务中,把某一台服务器抽离出去,过一段时间再加入到集群中,如果服务集群还是正常工作(相互之间不用数据同步)

Kubernetes集群架构与组件

K8S 是属于主从设备模型(Master-Slave 架构),即由Master节点负责集群的调度、管理和运维,Slave 节点是集群中的运算工作负载节点。
在 K8S 中,主节点一般被称为Master节点,而从节点则被称为Worker Node 节点,每个 Node 都会被Master 分配一些工作负载。

Master组件可以在群集中的任何计算机上运行,但建议 Master节点占据一个独立的服务器。因为 Master是整个集群的大脑,如果Master 所在节点宕机或不可用,那么所有的控制命令都将失效。除了Master,在 K0s集群中的其他机器被称为Worker Node 节点,当某个Node宕机时,其上的工作负敬会被Master自动转移到其他节点上去。

核心组件

image.png

Master组件

Kube-apiserver

用于暴露Kubernetes API,任何资源请求或调用操作都是通过kube-apiserver提供的接口进行。以HTTP Restful API提供接口服务,所有对象资源的增删改查和监听操作都交给API Server 处理后再提交给Etcd存储。

可以理解成API Server 是 K8S 的请求入口服务。API Server负责接收K8S 所有请求(来自UI界面或者CLI 命令行工具),然后根据用户的具体请求,去通知其他组件干活。可以说 API Server是 K8S集群架构的大脑。

apiserver所有服务的请求入口。Master是整个集群的大脑,apiserver为Master中枢神经。

Kube-controller-manager

运行管理控制器,是K8S 集群中处理常规任务的后台线程,是K8S集群里所有资源对象的自动化控制中心。
在K8S集群中,一个资源对应一个控制器,而Controller manager就是负责管理这些控制器的。

由一系列控制器组成,通过 API Server 监控整个集群的状态,并确保集群处于预期的工作状态,比如当某个 Node意外宕机时,Controller Manager会及时发现并执行自动化修复流程,确保集群始终处于预期的工作状态。

这些控制器主要包括

  • Node Controller(节点控制器):负责在节点出现故障时发现和响应。
  • Replication Controller(副本控制器):负责保证集群中一个RC(资源对象Replication Controller)所关联的 Pod副本数始终保持预设值。可以理解成确保集群中有且仅有N个 Pod实例,N是 RC中定义的 Pod副本数量。
  • Endpoints Controller(端点控制器):填充端点对象(即连接Services和 Pods),负责监听 Service和对应的 Pod副本的变化。可以理解端点是一个服务暴露出来的访问点,如果需要访问一个服务,则必须知道它的endpoint。
  • Service Account & Token Controllers(服务帐户和令牌控制器):为新的命名空间创建默认帐户和 API访问令牌。
  • ResourceQuota Controller(资源配额控制器):确保指定的资源对象在任何时候都不会超量占用系统物理资源
  • Namespace Controller(命名空间控制器):管理namespace 的生命周期
  • Service Controller(服务控制器):属于K8S集群与外部的云平台之间的一个接口控制器。

Kube-scheduler

是负责资源调度的进程,根据调度算法为新创建的 Pod选择一个合适的Node节点。

可以理解成K8s所有Node节点的调度器。当用户要部署服务时,Scheduler会根据调度算法选择最合适的 Node 节点来部署Pod。

  • 预选策略(predicate)
  • 优选策略(priorities)
简要工作原理
  • API Server 接收到请求创建一批Pod,API Server 会让 Controller-manager 按照所预设的模板去创建Pod,Controller-manager 会通过 API Searver 去找Scheduler为新创建的 pod选择最适合的 Node节点。
    • 比如运行这个 Pod需要2C4G 的资源,Scheduler会通过预选策略过滤掉不满足策略的 Node 节点(预选策略)。
  • Node节点中还剩多少资源是通过汇报给API Server存储在etcd 里,API Server 会调用一个方法找到etcd里所有 Node 节点的剩余资源,再对比 Pod所需要的资源,如果某个Node节点的资源不足或者不满足预选策略的条件则无法通过预选。
  • 预选阶段筛选出的节点,在优选阶段会根据优先策略为通过预选的 Node节点进行打分排名,选择得分最高的Node。
    • 例如,资源越富裕、负载越小的Node可能具有越高的排名(优选策略)。

配置存储中心

etcd

K8S 的存储服务。etcd是分布式键值存储系统,存储了K8S的关键配置和用户配置,K8S 中仅 API Server才具备读写权限,其他组件必须通过 API Server的接口于能读写数据。

Node组件

Kubelet

Kubelet是Node 节点的监视器,以及与 Master节点的通讯器。Kubelet 是 Master节点安插在 Node节点上的眼线,它会定时向 API Server汇报自己 Node节点上运行的服务的状态,并接受来自 Master节点的指示采取调整措施。

从Master 节点获取自己节点上 pod 的期望状态(比如运行什么容器、运行的副本数量、网络或者存储如何配置等,直接跟容器引擎交互实现容器的生命周期管理,如果自己节点上 Pod 的状态与期望状态不一致,则调用对应的容器平台接口(即 docker 的接口)达到这个状态。

管理镜像和容器的清理工作,保证节点上镜像不会占满磁盘空间,退出的容器不会占用太多资源。

Kubelet把这些容器拉扯大,还要给它们送终。

总结:在Kubernetes集群中,在每个Node (又称Worker Node)上都会启动一个 kubelet服务进程。该进程用于处理 Master下发到本节点的任务,管理Pod 及 Pod中的容器。每个kbelet进程都会在 API Server 上注册节点自身的信息,定期向句 Master汇报节点资源的使用情况,并通过cAdvisor监控容器和节点资源。

Kube-Proxy

Kube-Proxy在每个 Node 节点上实现 Pod 网络代理,是Kubernetes Service资源的载体,负责维护网络规则和四层负载均衡工作。
负责写入规则至iptables、 ipvs实现服务映射访问的。

Kube-Proxy本身不是直接给 Pod 提供网络,Pod的网络是由Kubelet提供的,Kube-Proxy 实际上维护的是虚拟的 Pod 集群网络
Kube-apiserver通过监控Kube-Proxy 进行对 Kubernetes Service 的更新和端点的维护。

在K8S 集群中微服务的负载均衡是由 Kube-proxy 实现的。Kube-proxy 是K8S 集群内部的负载均衡器。它是一个分布式代理服务器,在K8S 的每个节点上都会运行一个Kube-proxy组件。

容器引擎(如docker或rocket)

容器引擎,运行容器,负责本机的容器创建和管理工作。

当kubernetes把pod调度到节点上,节点上的 kubelet会指示 docker启动特定的容器。接着,kubelet 会通过docker持续地收集容器的信息, 然后提交到主节点上。docker 会如往常一样拉取容器镜像、启动或停止容器。不同点仅仅在于这是由自动化系统控制而非管理员在每个节点上手动操作的。

K8S创建pod的工作流程

image.png

  1. 用户通过客户端发送创建pod的请求到master节点上的apiserver
  2. apiserver会先将相关的请求信息写入到etcd中,然后找controller-manager根据预设的资源模板创建pod清单
  3. controller-manager会通过apiserver去找scheduler为新创建的pod选择最适合的node节点
  4. scheduler通过调度算法的预选策略和优选策略筛选出最适合的node节点
  5. 然后再通过apiserver找到对应的node节点上的kubelet去创建和管理pod
  6. kubelet直接跟容器引擎交互,来管理容器的生命周期
  7. 用户通过创建承载在kube-proxy上的service资源,写入相关的网络规则,实现对pod的服务发现和负载均衡

Kubernetes 核心概念

Kubernetes包含多种类型的资源对象:Pod、Label、Service、Replication Controller等。

所有的资源对象都可以通过 Kubernetes 提供的 kubectl 工具进行增、删、改、查等操作,并将其保存在 etcd 中持久化存储。

Kubernets其实是一个高度自动化的资源控制系统,通过跟踪对比etcd存储里保存的资源期望状态与当前环境中的实际资源状态的差异,来实现自动控制和自动纠错等商级功能。

Pod

Pod是 Kubernetes 创建或部署的最小/最简单的基本单位,一个 Pod 代表集群上正在运行的一个进程。
可以把Pod理解成豌豆荚,而同一Pod内的每个容器是一颗颗豌豆。

一个Pod由一个或多个容器组成,Pod中容器共享网络、存储和计算资源,在同一台 Docker 主机上运行。
一个 Pod里可以运行多个容器,又叫边车模式(SideCar)。而在生产环境中一般都是单个容器或者具有强关联互补的多个容器组成一个Pod。

同一个 Pod 之间的容器可以通过 localhost 互相访问,并且可以挂载Pod 内所有的数据卷;但是不同的Pod 之间的容器不能用localhost访问,也不能挂载其他 Pod的数据卷

image.png

Pod控制器

Pod 控制器是 Pod 启动的一种模版,用来保证在K8S里启动的 Pod应始终按照用户的预期运行(副本数、生命周期、健康状态检查等)。

K8S 内提供了众多的 Pod控制器,常用的有以下几种

  • Deployment无状态应用部署。Deployment 的作用是管理和控制 Pod 和ReplicaSet,管控它们运行在用户期望的状态中。
  • ReplicaSet:确保预期的 Pod副本数量。Replicaset 的作用就是管理和控制 Pod,管控他们好好干活。但是,ReplicaSet 受控于Deployment。
    • 可以理解成Deployment就是总包工头,主要负责监督底下的工人 Pod干活,确保每时每刻有用户要求数量的 pod 在工作。如果一旦发现某个工人pod不行了,就赶紧新拉一个 Pod过来替换它。而Replicaset就是总包工头手下的小包工头。
    • 从K8S使用者角度来看,用户会直接操作Deployment部署服务,而当Deployment被部署的时候,K8S会自动生成要求的Replicaset和Pod。用户只需要关心Deployment,而不操心ReplicaSet。
    • 资源对象Replication Controller 是 ReplicaSet 的前身,官方推荐用Deployment取代 Replication Controller来部署服务。

image.png

  • Daemonset:确保所有节点运行同一类Pod,保证每个节点上都有一个此类 Pod 运行,通常用于实现系统级后台任务。
  • Statefulset:有状态应用部署
  • Job:一次性任务。根据用户的设置,Job管理的 Pod把任务成功完成就自动退出了。
  • Cronjob:周期性计划性任务

Label

标签,是 K8S特色的管理方式,便于分类管理资源对象。

Label可以附加到各种资源对象上,例如 Node、Pod、Service、Rc等,用于关联对象、查询和筛选。
一个 Label是一个 key-value的键值对,其中key 与 value 由用户自己指定。

一个资源对象可以定义任意数量的Label,同一个Label 也可以被添加到任意数量的资源对象中,也可以在对象创建后动态添加或者删除。可以通过给指定的资源对象捆绑一个或多个不同的Label,来实现多维度的资源分组管理功能

与Label类似的,还有 Annotation(注释)。
区别在于有效的标签值必须为63个字符或更少,并且必须为空或以字母数字字符([a-z0-9A-Z])开头和结尾,中间可以包含横杠(-)、下划线(_)、点(.)和字母或数字。注释值则没有字符长度限制。

Label选择器(Label selector)

给某个资源对象定义一个Label,就相当于给它打了一个标签;随后可以通过标签选择器(Label selector)查询和筛选拥有某些 Label的资源对象。
标签选择器目前有两种:基于等值关系(等于、不等于)和基于集合关系(属于、不属于、存在)。

Service

在K8S的集群里,虽然每个Pod会被分配一个单独的IP地址,但由于Pod是有生命周期的(它们可以被创建,而且销毁之后不会再启动),随时可能会因为业务的变更,导致这个IP地址也会随着 Pod的销毁而消失。(pod的IP是随机分配的)

Service就是用来解决这个问题的核心概念。

K8S中的 Service并不是我们常说的"服务"的含义,而更像是网关层,可以看作一组提供相同服务的Pod的对外访问接口、流量均衡器
Service 作用于哪些Pod是通过标签选择器来定义的

在K8S集群中,Service可以看作一组提供相同服务的Pod的对外访问接口。客户端需要访问的服务就是service对象。每个Service 都有一个固定的虚拟ip (这个ip 也被称为Cluster IP),自动并且动态地绑定后端的 Pod,所有的网络请求直接访问Service 的虚拟ip,Service 会自动向后端做转发。

Service的cluster ip只能在集群内部被访问

Service 除了提供稳定的对外访问方式之外,还能起到负载均衡(Load Balance)的功能,自动把请求流量分布到后端所有的服务上,Service可以做到对客户透明地进行水平扩展(scale)。

而实现 service这一功能的关键,就是kube-proxy。 kube-proxy 运行在每个节点上,监听API Server 中服务对象的变化,可通过以下三种流量调度模式:userspace(废弃)、iptables(濒临废弃)、ipvs(推荐,性能最好)来实现网络的转发。

Service 是K8S服务的核心,屏蔽了服务细节,统一对外暴露服务接口,真正做到了"微服务"。比如我们的一个服务A,部署了3个副本,也就是个Pod;对于用户来说,只需要关注一个 Service 的入口就可以,而不需要操心究竟应该请求哪一个 Pod。
优势非常明显:一方面外部用户不需要感知因为 Pod 上服务的意外崩溃、K8S重新拉起Pod而造成的IP变更;外部用户也不需要感知因升级、变更服务带来的 pod替换而造成的IP变化。

image.png

service的功能总结

(k8s集群内)

  1. service资源通过标签选择器关联具有相同标签的Pod
  2. 每个service都有一个固定的cluster ip,可供在k8s集群内部被访问
  3. service可以把通过cluster ip发来的请求负载均衡4层代理转发到它所关联的后端pod上

Ingress

Service主要负责K8S 集群内部的网络拓扑,那么集群外部怎么访问集群内部呢?
这个时候就需要Ingress 了。 Ingress 是整个 K8S 集群的接入层,负责集群内外通讯。Ingress 是 K8S集群里工作在OSI网络参考模型下,第7层的应用,对外暴露的接口,典型的访问方式是http/https。

Service只能进行第四层的流量调度,表现形式是 ip + port。Ingress则可以调度不同业务域、不同URL访问路径的业务流量
比如:客户端请求www.abc.com:port ---> Ingress ---> Service ---> Pod

Ingress的功能总结

(k8s集群外)

  1. ingress可以作为k8s对外暴露的网关接口接收k8s集群外部发来的请求流量
  2. ingress支持7层代理转发,它可以通过根据不同的域名或者URL访问路径把请求流量转发到不同的service上

Name资源名称

由于K8S 内部,使用"资源"来定义每一种逻辑概念(功能),所以每种"资源",都应该有自己的"名称"。
“资源”有api版本(apiversion)、类别(kind)、元数据(metadata)、定义清单(spec)、状态(status)等配置信息。
"名称”通常定义在"资源”的“元数据”信息里。在同一个namespace空间必须是唯一的。

Namespace

随着项目增多、人员增加、集群规模的扩大,需要一种能够逻辑上隔离K8S内各种"资源”的方法,这就是 Namespace。Namespace是为了把一个 K8S集群划分为若干个资源不可共享的虚拟集群组而诞生的。
不同Namespace 内的"资源"名称可以相同,相同 Namespace内的同种"资源","名称"不能相同。

合理的使用K8S 的 Namespace,可以使得集群管理员能够更好的对交付到K8S里的服务进行分类管理和浏览。K8S里默认存在的 Namespace 有:default、kube-system、kube-public等。
查询 K8S里特定“资源”要带上相应的 Namespace;如果不指定命名空间,会使用default

常见的K8s按照部署方式

  • Minikube

    • Minikube是一个工具,可以在本地快速运行一个单节点微型K8S,仅用于学习、预览xes的一些特性使用。
    • 部署地址:kubernetes.io/docs/setup/…
  • Kubeadm

    • Kubeadm也是一个工具,提供kubeadm init和kubeadm join,用于快速部署K8S集群,相对简单。
    • kubernetes.io/docs/refere…
  • 二进制安装部署

    • 生产首选,从官方下载发行版的二进制包,手动部署每个组件和自签TLS证书,组成K8S集群,新手推荐。
    • github.com/kubernetes/…

Kubeadm降低部署门槛,但屏蔽了很多细节,遇到问题很难排查。如果想更容易可控,推荐使用二进制包部署Kubernetes集群,虽然手动部署麻烦点,期间可以学习很多工作原理,也利于后期维护。

k8s部署二进制与高可用的区别

  • 二进制部署

    • 部署难,管理方便,集群伸展性能好
    • 更稳定,集群规模到达一定的规模(几百个节点、上万个Pod),二进制稳定性是要高于kubeadm部署
    • 遇到故障,宿主机起来了,进程也会起来
  • kubeadm部署

    • 部署简单,管理难
    • 是以一种容器管理容器的方式允许的组件及服务,故障恢复时间比二进制慢
    • 遇到故障,启动宿主机,再启动进程,最后去启动容器,集群才能恢复,速度比二进制慢

总结

K8S有哪些组件?组件的作用?

k8s有masterworker node两类节点

  • master节点上有apiservercontroller-managerscheduler以及使用etcd做k8s集群存储
    • apiserver:所有服务请求的统一访问入口
    • controller-manager:负责为pod副本集、命名空间、端点等资源对象以及部署提供控制器
    • scheduler:负责Pod资源调度,通过调度算法(预选策略、优选策略)为部署的pod选择最适合的node节点
  • etcd:K8S集群数据库,是键值对存储结构的分布式数据库,存储K8S集群所有重要信息。只有apiserver能有读写权限
  • node节点上有kubeletkube-proxy容器引擎(比如docker)
    • kubelet:创建和管理pod中的资源,跟容器引擎交互实现容器的生命周期;收集节点的资源信息和pod运行状态汇报给master的apiserver
    • kube-proxy:作为service资源的载体,实现 Pod 网络代理,维护网络规则和四层负载均衡工作
    • 容器引擎:运行容器

K8S创建pod的工作流程?

  1. 用户通过客户端发送创建pod的请求到master节点上的apiserver
  2. apiserver会先将相关的请求信息写入到etcd中,然后找controller-manager根据预设的资源模板创建pod清单
  3. controller-manager会通过apiserver去找scheduler为新创建的pod选择最适合的node节点
  4. scheduler通过调度算法的预选策略和优选策略筛选出最适合的node节点
  5. 然后再通过apiserver找到对应的node节点上的kubelet去创建和管理pod
  6. kubelet直接跟容器引擎交互,来管理容器的生命周期
  7. 用户通过创建承载在kube-proxy上的service资源,写入相关的网络规则,实现对pod的服务发现和负载均衡

k8s常见的资源对象

  • pod
  • pod控制器
  • 标签label
  • 标签选择器label selector
  • selector
  • service
  • ingress
  • 资源名称name
  • 命名空间namespace

pod控制器有哪些?

  • deployment:部署无状态应用。同时也管理replicaset(维持pod副本期望数目)和pod(k8s创建的最小单元,一个容器化的应用进程)
  • statefulset:部署有状态应用
  • daemonset:在所有的node节点上部署同一种pod
  • job:部署一次性任务的pod, pod执行完任务就会自动退出,只部署一次
  • cronjob:周期性的部署一次性任务的pod