kubeadm部署k8s实验环境 master（2C/4G，cpu核心数要求大于2） 192.168.136.20 d

实验环境

master（2C/4G，cpu核心数要求大于2） 192.168.136.20 docker、kubeadm、kubelet、kubectl、flannel

node01（2C/2G） 192.168.136.30 docker、kubeadm、kubelet、kubectl、flannel

node02（2C/2G） 192.168.136.40 docker、kubeadm、kubelet、kubectl、flannel

Harbor节点（hub.kgc.com） 192.168.136.50 docker、docker-compose、harbor-offline-v1.2.2

在所有节点上安装Docker和kubeadm
部署Kubernetes Master
部署容器网络插件
部署 Kubernetes Node，将节点加入Kubernetes集群中
部署 Dashboard Web 页面，可视化查看Kubernetes资源
部署 Harbor 私有仓库，存放镜像资源

环境准备

1.所有节点，关闭防火墙规则，关闭selinux，关闭swap交换
systemctl stop firewalld
systemctl disable firewalld
setenforce 0
iptables -F && iptables -t nat -F && iptables -t mangle -F && iptables -X
swapoff -a						#交换分区必须要关闭
sed -ri 's/.*swap.*/#&/' /etc/fstab		#永久关闭swap分区，&符号在sed命令中代表上次匹配的结果

2.加载 ip_vs 模块
for i in $(ls /usr/lib/modules/$(uname -r)/kernel/net/netfilter/ipvs|grep -o "^[^.]*");do echo $i; /sbin/modinfo -F filename $i >/dev/null 2>&1 && /sbin/modprobe $i;done

3.修改主机名
hostnamectl set-hostname master01
hostnamectl set-hostname node01
hostnamectl set-hostname node02

4.所有节点修改hosts文件
cat >> /etc/hosts << EOF
192.168.136.10 master01
192.168.136.20 node01
192.168.136.30 node02
EOF

5.调整内核参数
cat > /etc/sysctl.d/kubernetes.conf << EOF
net.bridge.bridge-nf-call-ip6tables=1            #开启网桥模式，可将网桥的流量传递给iptables链
net.bridge.bridge-nf-call-iptables=1
net.ipv6.conf.all.disable_ipv6=1                  #关闭ipv6协议
net.ipv4.ip_forward=1
EOF

//生效参数
sysctl --system

所有节点安装docker

yum install -y yum-utils device-mapper-persistent-data lvm2 
yum-config-manager --add-repo https://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo 
yum install -y docker-ce docker-ce-cli containerd.io

mkdir /etc/docker
cat > /etc/docker/daemon.json <<EOF
{
  "registry-mirrors": ["https://6ijb8ubo.mirror.aliyuncs.com"],
  "exec-opts": ["native.cgroupdriver=systemd"],
  "log-driver": "json-file",
  "log-opts": {
    "max-size": "100m"
  }
}
EOF
#使用Systemd管理的Cgroup来进行资源控制与管理，因为相对Cgroupfs而言，Systemd限制CPU、内存等资源更加简单和成熟稳定。
#日志使用json-file格式类型存储，大小为100M，保存在/var/log/containers目录下，方便ELK等日志系统收集和管理日志。

systemctl daemon-reload
systemctl restart docker.service
systemctl enable docker.service 

docker info | grep "Cgroup Driver"
Cgroup Driver: systemd

所有节点安装kubeadm，kubelet和kubectl

1.定义kubernetes源
cat > /etc/yum.repos.d/kubernetes.repo << EOF
[kubernetes]
name=Kubernetes
baseurl=https://mirrors.aliyun.com/kubernetes/yum/repos/kubernetes-el7-x86_64
enabled=1
gpgcheck=0
repo_gpgcheck=0
gpgkey=https://mirrors.aliyun.com/kubernetes/yum/doc/yum-key.gpg https://mirrors.aliyun.com/kubernetes/yum/doc/rpm-package-key.gpg
EOF

yum install -y kubelet-1.15.1 kubeadm-1.15.1 kubectl-1.15.1

2.开机自启kubelet
systemctl enable kubelet.service
#K8S通过kubeadm安装出来以后都是以Pod方式存在，即底层是以容器方式运行，所以kubelet必须设置开机自启

部署K8S集群

 #----- 1、查看初始化需要的镜像 ----
 kubeadm config images list    #查看可知，共需要7个镜像
 I0722 01:30:39.307047    6007 version.go:254] remote version is much newer: v1.24.3; falling back to: stable-1.20
 k8s.gcr.io/kube-apiserver:v1.20.15
 k8s.gcr.io/kube-controller-manager:v1.20.15
 k8s.gcr.io/kube-scheduler:v1.20.15
 k8s.gcr.io/kube-proxy:v1.20.15
 k8s.gcr.io/pause:3.2
 k8s.gcr.io/etcd:3.4.13-0
 k8s.gcr.io/coredns:1.7.0
 
 #----- 2、在 master 节点上传 v1.20.11.zip 压缩包（压缩包中包含所需的镜像文件）至 /opt 目录 ------
 cd /opt/
 mkdir /opt/k8s
 unzip v1.20.11.zip -d /opt/k8s   #解压
 cd /opt/k8s/v1.20.11
 for i in $(ls *.tar); do docker load -i $i; done  #载入镜像，将镜像文件导入到镜像库中
 docker images   #查看本地镜像
 
 #----- 3、复制镜像和脚本到 node 节点，并在 node 节点上执行脚本加载镜像文件 -----
 scp -r /opt/k8s root@node01:/opt
 scp -r /opt/k8s root@node02:/opt
 
 cd /opt/k8s/v1.20.11
 for i in $(ls *.tar); do docker load -i $i; done
 
 #----- 4、初始化kubeadm ------------------
 
 #master节点，通过如下指令创建默认的kubeadm-config.yaml文件
 kubeadm config print init-defaults > /opt/kubeadm-config.yaml
 
 #修改文件
 cd /opt/
 vim kubeadm-config.yaml
 ......
 11 localAPIEndpoint:
 12   advertiseAddress: 192.168.136.10     #指定master节点的IP地址
 13   bindPort: 6443
 ......
 34 kubernetesVersion: v1.20.11          #指定kubernetes版本号
 35 networking:
 36   dnsDomain: cluster.local
 38   serviceSubnet: 10.96.0.0/16        #指定service网段
 37   podSubnet: "10.244.0.0/16"         #指定pod网段，10.244.0.0/16用于匹配flannel默认网段
 39 scheduler: {}
 #末尾再添加以下内容
 --- 
 apiVersion: kubeproxy.config.k8s.io/v1alpha1
 kind: KubeProxyConfiguration
 mode: ipvs                  #把默认的kube-proxy调度方式改为ipvs模式
 
 
 
 #在master节点操作，初始化kubeadm，搭建k8s控制平面节点。结尾会有几条命令分别在master和node上执行
 kubeadm init --config=kubeadm-config.yaml --upload-certs | tee kubeadm-init.log
 #--experimental-upload-certs 参数可以在后续执行加入节点时自动分发证书文件，K8S V1.16版本开始替换为 --upload-certs
 #tee kubeadm-init.log 用以输出日志
 
 #master节点执行以下命令：
 #kubectl需经由API server认证及授权后方能执行相应的管理操作，kubeadm 部署的集群为其生成了一个具有管理员权限的认证配置文件 /etc/kubernetes/admin.conf，它可由 kubectl 通过默认的 “$HOME/.kube/config” 的路径进行加载。
 mkdir -p $HOME/.kube
 sudo cp -i /etc/kubernetes/admin.conf $HOME/.kube/config
 sudo chown $(id -u):$(id -g) $HOME/.kube/config
 
 #两个node节点执行以下命令，加入集群：
 kubeadm join 192.168.136.10:6443 --token abcdef.0123456789abcdef \
     --discovery-token-ca-cert-hash sha256:b48d7bec33150c0f58bd04c17a6b994900fdef116b6ef355282909330b3a23cc
 
 
 #查看 kubeadm-init 日志
 less kubeadm-init.log
 
 #kubernetes配置文件目录
 ls /etc/kubernetes/
 
 #存放ca等证书和密码的目录
 ls /etc/kubernetes/pki      
 
 
 #--------- 5、master节点，修改yaml文件，进行健康检查 ------------------------
 #初始化后，kubeadm本身没有健康检查方法，需要修改两个yaml文件，之后重启kubelet。
 
 kubectl get cs   #查看集群健康状态，有2个组件不健康，需要修改对应组件的yaml文件
 
 #如果 kubectl get cs 发现集群不健康，更改以下两个yaml文件
 vim /etc/kubernetes/manifests/kube-scheduler.yaml
  ......
  16     - --bind-address=192.168.136.10   #修改成k8s的控制节点master的ip
  ......
  19     #- --port=0     # 搜索port=0，把这一行注释掉
  ......
  24       httpGet:
  25         host: 192.168.136.10   #修改成k8s的控制节点master的ip
  ......
  38       httpGet:
  39         host: 192.168.136.10   #修改成k8s的控制节点master的ip
 
 
 vim /etc/kubernetes/manifests/kube-controller-manager.yaml
 17     - --bind-address=192.168.136.10   #修改成k8s的控制节点master的ip
 ......
 26     #- --port=0      # 搜索port=0，把这一行注释掉
 ......
 36       httpGet:
 37         host: 192.168.136.10    #修改成k8s的控制节点master的ip
 ......
 50       httpGet:
 51         host: 192.168.136.10    #修改成k8s的控制节点master的ip
 
 
 #重启kubelet
 systemctl restart kubelet
 
 #查看集群健康状态
 kubectl get cs

所有节点部署网络插件flannel

#在master节点查看所有节点状态，由于网络插件还没有部署，节点没有准备就绪，所以显示NotReady
 kubectl get nodes

 
 #---所有节点部署网络插件flannel
 ##（1）方法一：
 #所有节点上传flannel镜像 flannel.tar 到 /opt 目录，master节点上传 kube-flannel.yml 文件。
 #kube-flannel.yml 文件的下载地址https://raw.githubusercontent.com/coreos/flannel/master/Documentation/kube-flannel.yml
 cd /opt
 docker load -i flannel.tar   #所有节点导入镜像
 
 #在 master 节点创建 flannel 资源
 kubectl apply -f kube-flannel.yml 
 
 
 ##（2）方法二：
 kubectl apply -f https://raw.githubusercontent.com/coreos/flannel/master/Documentation/kube-flannel.yml
 
 
 
 #现在在master节点查看节点状态，都已是Ready状态
 kubectl get nodes

 
 #查看各组件，都是Running状态
 kubectl get pods -n kube-system