网站主题栏目分类广东网站优化公司
 一、kubernetes 概述  
 
 
 1、kubernetes 基本介绍  
 
 kubernetes,简称 K8s,是用 8 代替 8 个字符“ubernete”而成的缩写。是一个开源的,用于管理云平台中多个主机上的容器化的应用,Kubernetes 的目标是让部署容器化的 应用简单并且高效(powerful),Kubernetes 提供了应用部署,规划,更新,维护的一种 机制。  
 
 
 传统的应用部署方式是通过插件或脚本来安装应用。这样做的缺点是应用的运行、配置、管理、所有生存周期将与当前操作系统绑定,这样做并不利于应用的升级更新/回滚等操作,当然也可以通过创建虚拟机的方式来实现某些功能,但是虚拟机非常重,并不利于可移植性。  
 
 
 新的方式是通过部署容器方式实现,每个容器之间互相隔离,每个容器有自己的文件系统 ,容器之间进程不会相互影响,能区分计算资源。相对于虚拟机,容器能快速部署,由于容器与底层设施、机器文件系统解耦的,所以它能在不同云、不同版本操作系统间进行迁移。  
 
 
 容器占用资源少、部署快,每个应用可以被打包成一个容器镜像,每个应用与容器间成一对一关系也使容器有更大优势,使用容器可以在 build 或 release 的阶段,为应用创建容器镜像,因为每个应用不需要与其余的应用堆栈组合,也不依赖于生产环境基础结构,这使得从研发到测试、生产能提供一致环境。类似地,容器比虚拟机轻量、更“透明”,这更便于监控和管理。  
 
 
 Kubernetes 是 Google 开源的一个容器编排引擎,它支持自动化部署、大规模可伸缩、应用容器化管理。在生产环境中部署一个应用程序时,通常要部署该应用的多个实例以便对应用请求进行负载均衡。  
 
 
 在 Kubernetes 中,我们可以创建多个容器,每个容器里面运行一个应用实例,然后通过内置的负载均衡策略,实现对这一组应用实例的管理、发现、访问,而这些细节都不需要运维人员去进行复杂的手工配置和处理。 
 
 
 2、 kubernetes 功能和架构  
  2.1 概述  
  Kubernetes 是一个轻便的和可扩展的开源平台,用于管理容器化应用和服务。通过Kubernetes 能够进行应用的自动化部署和扩缩容。在 Kubernetes 中,会将组成应用的容器组合成一个逻辑单元以更易管理和发现。Kubernetes 积累了作为 Google 生产环境运行工作负载 15 年的经验,并吸收了来自于社区的最佳想法和实践。  
   2.2 K8s 功能:  
  (1)自动装箱  
  基于容器对应用运行环境的资源配置要求自动部署应用容器  
   (2)自我修复(自愈能力)  
  当容器失败时,会对容器进行重启  
  当所部署的 Node 节点有问题时,会对容器进行重新部署和重新调度 
  当容器未通过监控检查时,会关闭此容器直到容器正常运行时,才会对外提供服务  
   (3)水平扩展  
  通过简单的命令、用户 UI 界面或基于 CPU 等资源使用情况,对应用容器进行规模扩大或规模剪裁  
   (4)服务发现  
  用户不需使用额外的服务发现机制,就能够基于 Kubernetes 自身能力实现服务发现和负载均衡  
   (5)滚动更新  
  可以根据应用的变化,对应用容器运行的应用,进行一次性或批量式更新  
   (6)版本回退  
  可以根据应用部署情况,对应用容器运行的应用,进行历史版本即时回退  
   (7)密钥和配置管理  
  在不需要重新构建镜像的情况下,可以部署和更新密钥和应用配置,类似热部署。  
   (8)存储编排  
  自动实现存储系统挂载及应用,特别对有状态应用实现数据持久化非常重要  
  存储系统可以来自于本地目录、网络存储(NFS、Gluster、Ceph 等)、公共云存储服务  
   (9)批处理  
  提供一次性任务,定时任务;满足批量数据处理和分析的场景 
   2.3  应用部署架构分类  
  (1) 无中心节点架构  
  GlusterFS  
   (2) 有中心节点架构  
  HDFS  
  K8S  
   2.4 k8s 集群架构 
 
  2.5 k8s 集群架构节点角色功能  
  Master Node  
  k8s 集群控制节点,对集群进行调度管理,接受集群外用户去集群操作请求;  
  Master Node 由 API Server、Scheduler、ClusterState Store(ETCD 数据库)和 Controller MangerServer 所组成  
   Worker Node  
  集群工作节点,运行用户业务应用容器;  
  Worker Node 包含 kubelet、kube proxy 和 ContainerRuntime; 
  
  二、kubernetes 集群搭建( kubeadm 方式 )  
  1 、前置知识点  
  目前生产部署 Kubernetes 集群主要有两种方式:  
  (1)kubeadm  
  Kubeadm 是一个 K8s 部署工具,提供 kubeadm init 和 kubeadm join,用于快速部署 Kubernetes 集群。  
  官方地址:https://kubernetes.io/docs/reference/setup-tools/kubeadm/kubeadm/  
   (2)二进制包  
  从 github 下载发行版的二进制包,手动部署每个组件,组成 Kubernetes 集群。  
  Kubeadm 降低部署门槛,但屏蔽了很多细节,遇到问题很难排查。如果想更容易可控,推荐使用二进制包部署 Kubernetes 集群,虽然手动部署麻烦点,期间可以学习很多工作原理,也利于后期维护。  
   2 、 kubeadm  部署方式介绍  
  kubeadm 是官方社区推出的一个用于快速部署 kubernetes 集群的工具,这个工具能通过两条指令完成一个 kubernetes 集群的部署:  
  第一、创建一个 Master 节点  kubeadm init 
   第二, 将 Node 节点加入到当前集群中 $ kubeadm join <Master 节点的 IP 和端口 >  
   3 、安装要求  
  在开始之前,部署 Kubernetes 集群机器需要满足以下几个条件: 
  - 一台或多台机器,操作系统 CentOS7.x-86_x64  
  - 硬件配置:2GB 或更多 RAM,2 个 CPU 或更多 CPU,硬盘 30GB 或更多  
  - 集群中所有机器之间网络互通  
  - 可以访问外网,需要拉取镜像  
  - 禁止 swap 分区 
   4 、最终目标  
  (1) 在所有节点上安装 Docker 和 kubeadm  
  (2)部署 Kubernetes Master  
  (3)部署容器网络插件  
  (4)部署 Kubernetes Node,将节点加入 Kubernetes 集群中  
  (5)部署 Dashboard Web 页面,可视化查看 Kubernetes 资源 
   5 、准备环境 
 
 | 角色 | IP | 
|    k8s-master    | 192.168.1.31 | 
|    k8s-node1    | 192.168.1.32 | 
| k8s-node2 | 192.168.1.33 | 
 6、系统初始化  
   6.1 关闭防火墙: 
 systemctl stop firewalld
systemctl disable firewalld  6.2 关闭 selinux:  
  sed -i 's/enforcing/disabled/' /etc/selinux/config # 永久
setenforce 0 # 临时  6.3 关闭 swap: 
 swapoff -a                              # 临时
sed -ri 's/.*swap.*/#&/' /etc/fstab     # 永久  6.4 主机名:  
 hostnamectl set-hostname <hostname>  6.5 在 master 添加 hosts:  
 cat >> /etc/hosts << EOF
192.168.1.31 k8smaster
192.168.1.32 k8snode1
192.168.1.33 k8snode2
EOF  6.6 将桥接的 IPv4 流量传递到 iptables 的链:  
 cat > /etc/sysctl.d/k8s.conf << EOF
net.bridge.bridge-nf-call-ip6tables = 1
net.bridge.bridge-nf-call-iptables = 1
EOF
sysctl --system  # 生效  6.7 时间同步:  
 yum install ntpdate -y
ntpdate time.windows.com  7 、所有节点安装  Docker/kubeadm/kubelet  
  Kubernetes 默认 CRI(容器运行时)为 Docker,因此先安装 Docker。  
  (1)安装 Docker 
 wget https://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo -O /etc/yum.repos.d/docker-ce.repo
yum -y install docker-ce-18.06.1.ce-3.el7
systemctl enable docker && systemctl start docker
docker --version
Docker version 18.06.1-ce, build e68fc7a  (2)添加阿里云 YUM 软件源  
  设置仓库地址 
 cat > /etc/docker/daemon.json << EOF
{"registry-mirrors": ["https://b9pmyelo.mirror.aliyuncs.com"]
}
EOF 重启docker 
 systemctl restart docker 添加 yum 源
cat > /etc/yum.repos.d/kubernetes.repo << EOF
[kubernetes]
name=Kubernetes
baseurl=https://mirrors.aliyun.com/kubernetes/yum/repos/kubernetes-el7-x86_64
enabled=1
gpgcheck=0
repo_gpgcheck=0
gpgkey=https://mirrors.aliyun.com/kubernetes/yum/doc/yum-key.gpg https://mirrors.aliyun.com/kubernetes/yum/doc/rpm-package-key.gpg
EOF  (3)安装 kubeadm,kubelet 和 kubectl,由于版本更新频繁,这里指定版本号部署 
 yum install -y kubelet-1.18.0 kubeadm-1.18.0 kubectl-1.18.0
systemctl enable kubelet  8 、部署  Kubernetes Master  
  (1)在 192.168.1.31(Master)执行 
 kubeadm init --apiserver-advertise-address=192.168.1.31 --image-repository registry.aliyuncs.com/google_containers --kubernetes-version v1.18.0 --service-cidr=10.96.0.0/12 --pod-network-cidr=10.244.0.0/16  由于默认拉取镜像地址 k8s.gcr.io 国内无法访问,这里指定阿里云镜像仓库地址。 
  执行完成之后,查看docker 镜像 
 [root@k8smaster ~]# docker images
REPOSITORY                                                        TAG                 IMAGE ID            CREATED             SIZE
registry.aliyuncs.com/google_containers/kube-proxy                v1.18.0             43940c34f24f        3 years ago         117MB
registry.aliyuncs.com/google_containers/kube-apiserver            v1.18.0             74060cea7f70        3 years ago         173MB
registry.aliyuncs.com/google_containers/kube-controller-manager   v1.18.0             d3e55153f52f        3 years ago         162MB
registry.aliyuncs.com/google_containers/kube-scheduler            v1.18.0             a31f78c7c8ce        3 years ago         95.3MB
registry.aliyuncs.com/google_containers/pause                     3.2                 80d28bedfe5d        3 years ago         683kB
registry.aliyuncs.com/google_containers/coredns                   1.6.7               67da37a9a360        3 years ago         43.8MB
registry.aliyuncs.com/google_containers/etcd                      3.4.3-0             303ce5db0e90        4 years ago         288MB
 (2)使用 kubectl 工具:
mkdir -p $HOME/.kube
cp -i /etc/kubernetes/admin.conf $HOME/.kube/config
chown $(id -u):$(id -g) $HOME/.kube/config
kubectl get nodes  10、加入 Kubernetes Node  
  (1)在 192.168.1.32/33(Node)执行  
  向集群添加新节点,执行在 kubeadm init 输出的 kubeadm join 命令: 
 kubeadm join 192.168.1.31:6443 --token p7bbz2.854x4kf9hvy3tbnc --discovery-token-ca-cert-hash sha256:7fb11503642078ab3eaa586286e5e6cd1219e4ad368b2d7f60818b7eec2ca91b 如果有问题:error execution phase preflight: couldn't validate the identity of the API Server: Get https://192.168.1.31:6443/api/v1/namespaces/kube-public/configmaps/cluster-info?timeout=10s: x509: certificate has expired or is not yet valid
问题1:token 过期
此时需要通过kubedam重新生成token
//解决方法
//master主机上重新生成token
[root@k8smaster ~]# kubeadm token generate   #生成toke
xeqcbp.3nc76rjngebtqer0                      #下面这条命令中会用到该结果
[root@k8smaster ~]# kubeadm token create xeqcbp.3nc76rjngebtqer0 --print-join-command --ttl=0   #根据token输出添加命令
kubeadm join 192.168.1.31:6443 --token xeqcbp.3nc76rjngebtqer0 --discovery-token-ca-cert-hash sha256:7fb11503642078ab3eaa586286e5e6cd1219e4ad368b2d7f60818b7eec2ca91b  然后用上面输出的kubeadm join命令放到想要添加的节点中执行
[root@k8snode1 ~]# kubeadm join 192.168.1.31:6443 --token xeqcbp.3nc76rjngebtqer0     --discovery-token-ca-cert-hash sha256:7fb11503642078ab3eaa586286e5e6cd1219e4ad368b2d7f60818b7eec2ca91b 
W1120 22:51:37.787600   19907 join.go:346] [preflight] WARNING: JoinControlPane.controlPlane settings will be ignored when control-plane flag is not set.
[preflight] Running pre-flight checks[WARNING IsDockerSystemdCheck]: detected "cgroupfs" as the Docker cgroup driver. The recommended driver is "systemd". Please follow the guide at https://kubernetes.io/docs/setup/cri/
[preflight] Reading configuration from the cluster...
[preflight] FYI: You can look at this config file with 'kubectl -n kube-system get cm kubeadm-config -oyaml'
[kubelet-start] Downloading configuration for the kubelet from the "kubelet-config-1.18" ConfigMap in the kube-system namespace
[kubelet-start] Writing kubelet configuration to file "/var/lib/kubelet/config.yaml"
[kubelet-start] Writing kubelet environment file with flags to file "/var/lib/kubelet/kubeadm-flags.env"
[kubelet-start] Starting the kubelet
[kubelet-start] Waiting for the kubelet to perform the TLS Bootstrap...This node has joined the cluster:
* Certificate signing request was sent to apiserver and a response was received.
* The Kubelet was informed of the new secure connection details.Run 'kubectl get nodes' on the control-plane to see this node join the cluster. 问题2:k8s api server不可达
此时需要检查和关闭所有服务器的firewalld和selinux
 9 、安装  Pod  网络插件( CNI ) 
  wget https://raw.githubusercontent.com/coreos/flannel/master/Documentation/kube-flannel.yml 默认镜像地址无法访问,sed命令修改为docker hub镜像仓库。
kubectl apply -f https://raw.githubusercontent.com/coreos/flannel/master/Documentation/kube-flannel.yml 报错:The connection to the server raw.githubusercontent.com was refused - did you specify the right host or port? 
解决办法:
#在https://www.ipaddress.com/查询raw.githubusercontent.com的真实IP。
vi /etc/hosts
199.232.28.133 raw.githubusercontent.com[root@k8smaster ~]# kubectl apply -f https://raw.githubusercontent.com/coreos/flannel/master/Documentation/kube-flannel.yml 
namespace/kube-flannel created
clusterrole.rbac.authorization.k8s.io/flannel created
clusterrolebinding.rbac.authorization.k8s.io/flannel created
serviceaccount/flannel created
configmap/kube-flannel-cfg created
daemonset.apps/kube-flannel-ds created[root@k8smaster ~]# kubectl get pods -n kube-system
NAME                                READY   STATUS    RESTARTS   AGE
coredns-7ff77c879f-gt6z4            1/1     Running   0          3h56m
coredns-7ff77c879f-n2w4j            1/1     Running   0          3h56m
etcd-k8smaster                      1/1     Running   1          3h56m
kube-apiserver-k8smaster            1/1     Running   1          3h56m
kube-controller-manager-k8smaster   1/1     Running   1          3h56m
kube-proxy-98wxv                    1/1     Running   0          19m
kube-proxy-n8js9                    1/1     Running   0          19m
kube-proxy-tp6ks                    1/1     Running   1          3h56m
kube-scheduler-k8smaster            1/1     Running   1          3h56m[root@k8smaster ~]# kubectl get nodes
NAME        STATUS   ROLES    AGE     VERSION
k8smaster   Ready    master   3h58m   v1.18.0
k8snode1    Ready    <none>   20m     v1.18.0
k8snode2    Ready    <none>   20m     v1.18.0  11 、测试  kubernetes  集群  
  在 Kubernetes 集群中创建一个 pod,验证是否正常运行: 
 [root@k8smaster ~]# kubectl create deployment nginx --image=nginx
deployment.apps/nginx created[root@k8smaster ~]# kubectl expose deployment nginx --port=80 --type=NodePort
service/nginx exposed[root@k8smaster ~]# kubectl get pod,svc
NAME                        READY   STATUS    RESTARTS   AGE
pod/nginx-f89759699-mtrjf   1/1     Running   0          2m43s
NAME                 TYPE        CLUSTER-IP     EXTERNAL-IP   PORT(S)        AGE
service/kubernetes   ClusterIP   10.96.0.1      <none>        443/TCP        4h3m
service/nginx        NodePort    10.110.82.49   <none>        80:30867/TCP   33s 访问地址:http://192.168.1.32:30867/,http://192.168.1.33:30867/ (两个节点中任意节点的对应端口)
