一、 Pod介绍

Pod结构

每个Pod中都可以包含一个或者多个容器，这些容器可以分为两类:
1.用户程序所在的容器，数量可多可少;
2.Pause容器，这是每个Pod都会有的一个根容器，他的作用有两个:

可以以它为依据，评估整个Pod的健康状态；
可以在根容器上设置IP地址，其它容器都此IP（Pod IP），以实现Pod内部的网路通信
（这里是Pod内部的通讯，Pod的之间的通讯采用虚拟二层网络技术来实现，我们当前环境用的是Flannel）

Pod定义

apiVersion: v1     #必选，版本号，例如v1  （kubectl api-version可查询）
kind: Pod          #必选，资源类型，例如Pod  （kubectl api-resources可查询）
metadata:          #必选，元数据
  name: string     #必选,Pod名称
  namespace: string    #Pod所属的命名空间,默认为"default"
  labels:              #自定义标签列表
    - name: string
spec:                    #必选，Pod中容器的详细定义
  containers:            #必选,Pod中容器列表
  - name: string         #必选，容器名称
    image: string        #必选，容器的镜像名称
    imagePullPolicy: [ Always|Never|IfNotPresent ]   #获取镜像的策略
    command: [string]    #容器的启动命令列表，如不指定，使用打包时使用的启动命令  
    args: [string]       #容器的启动命令参数列表
    workingDir: string   #容器的工作目录
    volumeMounts:        #挂载到容器内部的存储卷配置
    - name: string       #引用pod定义的共享存储卷的名称，需用volumes[]部分定义的的卷名
      mountPath: string  #存储卷在容器内mount的绝对路径，应少于512字符
      readonly: boolean  #是否为只读模式
    ports:               #需要暴露的端口库号列表
    - name: string       #端口的名称
      containerPort: int #容器需要监听的端口号
      hostPort: int      #容器所在主机需要监听的端口号，默认与Container相同
      protocol: string   #端口协议，支持TCP和UDP，默认TCP
    env:           #容器运行前需设置的环境变量列表
    - name: string       #环境变量名称
      value: string      #环境变量的值
    resources:   #资源限制和请求的设置
      limits:    #资源限制的设置  
        cpu: string      #Cpu的限制,单位为core数，将用于docker run --cpu-shares参数
        memory: string   #内存限制,单位可以为Mib/Gib,将用于docker run --memory参数
      requests:   #资源请求的设置
        cpu: string      #Cpu请求，容器启动的初始可用数量
        memory: string   #内存请求,容器启动的初始可用数量
    lifecycle:      #生命周期钩子
      postStart:    #容器启动后立即执行此钩子，如果执行失败,会根据重启策略进行重启
      preStop:      #容器终止前执行此钩子，无论结果如何，容器都会终止
    livenessProbe: #对Pod内各容器健康检查的设置，当探测无响应几次后将自动重启该容器
      exec:        #对Pod容器内检查方式设置为exec方式
        command: [string]  #exec方式需要制定的命令或脚本
      httpGet:  #对Pod内个容器健康检查方法设置为HttpGet，需要制定Path、port
        path: string
        port: number
        host: string
        scheme: string
        HttpHeaders:
        - name: string
          value: string
      tcpSocket:    #对Pod内个容器健康检查方式设置为tcpSocket方式
        port: number
      initialDelaySeconds: 0    #容器启动完成后首次探测的时间，单位为秒
      timeoutSeconds: 0         #对容器健康检查探测等待响应的超时时间，单位秒，默认1秒
      periodSeconds: 0          #对容器监控检查的定期探测时间设置，单位秒，默认10秒一次
      successThreshold: 0
      failureThreshold: 0
      securityContext:
        privileged: false
  restartPolicy: [Always | Never | OnFailure]   #Pod的重启策略
  nodeName: <string>       #设置NodeName表示将该Pod调度到指定到名称的node节点上
  nodeSelector: obeject    #设置NodeSelector表示将该Pod调度到包含这个label的node上
  imagePullSecrets:        #Pull镜像时使用的secret名称，以key:secretkey格式指定
  - name: string
  hostNetwork: false       #是否使用主机网络模式，默认为false，如果设置为true，表示使用宿主机网络
  volumes:                 #在该pod上定义共享存储卷列表
  - name: string           #共享存储卷名称 (volumes类型有很多种)
    emptyDir: {}           #类型为emptyDir的存储卷，与Pod同生命周期的一个临时目录。为空值
    hostPath: string       #类型为hostPath的存储卷，表示挂载Pod所在宿主机的目录
      path: string         #Pod所在宿主机的目录，将被用于同期中mount的目录
    secret:                #类型为secret的存储卷，挂载集群与定义的secret对象到容器内部
      scretname: string
      items:
      - key: string
        path: string
    configMap:             #类型为configMap的存储卷，挂载预定义的configMap对象到容器内部
      name: string
      items:
      - key: string
        path: string

在这里，可通过一个命令来查看每种资源的可配置项
查看某种资源可以配置的一级属性：kubectl explain 资源类型
查看属性的子属性：kubectl explain 资源类型.属性 （如：kubectl explain pod，kubectl explain pod.metadata）

二、 Pod配置（containers）

本小节主要来研究 pod.spec.containers属性，这也是pod配置中最为关键的一项配置
查看containers配置指令：kubectl explain pod.spec.containers

KIND: Pod
VERSION: V1
RESOURCE: containers <[]object>  #数组,代表可以有多个容器
FIELDS:
  name <string>       #容器名称
  image <string>      #容器需要的镜像地址
  imagePullPolicy <string>   #镜像拉取策略
  command <[]string>      #容器的启动命令列表，如不指定，使用打包时使用的启动命令
  args <[]string>         #容器的启动命令需要的参数列表
  env <[]0bject>          #容器环境变量的配置
  ports                   #容器需要暴露的端口号列表
  resources <0bject>      #资源限制和资源请求的设置

2.1 镜像拉取

imagePullPolicy，用于设置镜像拉取策略，kubernetes支持配置三种拉取策略:
Always：总是从远程仓库拉取镜像
IfNotPresent：本地有则使用本地镜像，本地没有则从远程仓库拉取镜像
Never：只使用本地镜像，从不去远程仓库拉取，本地没有就报错

如果镜像tag为具体版本号，默认策略是IfNotPresent
如果镜像tag为:latest(最终版本)，默认策略是always

创建demo.yaml文件，里面有两个容器:
nginx：用1.17.1版本的nginx镜像创建(nginx是一个轻量级web容器)
busybox：用1.30版本的busybox镜像创建(busybox是一个小巧的linux命令集合)

apiVersion: v1
kind: Pod
metadata:
  name: demo
  namespace: dev
spec:
  containers:
  - name: nginx
    image: nginx:1.17.1
    imagePullPolicy: Always  # 用于设置进行拉取策略
  - name: busybox
    image: busybox:1.30

创建Pod：kubectl apply -f demo.yaml
查看Pod状况：kubectl get pod -n dev
READY 1/2：表示当前Pod中有2个容器，其中1个准备就绪，1个未就绪
RESTARTS：重启次数，因为有1个容器故障了，Pod一直在重启试图恢复它
可以通过describe查看内部的详情：kubectl describe pod demo -n dev（此时已经运行起来了一个基本的Pod，虽然它暂时有问题）

2.2 command与环境变量

在上面的案例中，busybox容器一直没有成功运行，这是因为busybox并不是一个程序，而是类似于一个工具类的集合，kubernetes集群启动管理后，它会自动关闭。解决方法就是让其一直在运行，这就用到了command配置。
command：用于在pod中的容器初始化完毕之后运行一个命令。(该指令每隔3秒向文件写入时间）

apiVersion: v1
kind: Pod
metadata:
  name: demo
  namespace: dev
spec:
  containers:
  - name: nginx
    image: nginx:1.17.1
    imagePullPolicy: Always  # 用于设置进行拉取策略
  - name: busybox
    image: busybox:1.30
    command: ["/bin/sh","-c","touch /tmp/hello.txt;while true;do /bin/echo S(date +%T) >>/tmp/hello.txt; sleep 3; done;"]
    env: #设置环境变量列表
    - name: "username"
      valle: "admin"
    - name: "password"
      value: "123456"

创建Pod：kubectl create -f demo.yaml
查看Pod状态：kubectl get pod -n dev
此时发现两个pod都正常运行了

进入pod中的busybox容器，查看文件内容
如下命令可进入某个容器内部，然后操作：kubectl exec pod名称 -n 命名空间 -it -c 容器名称 /bin/sh 在容器内部执行命令
kubectl exec pod-command -n dev -it -c busybox /bin/sh
/# tail -f /tmp/hello.txt

kubernetes中的command、args两项其实是实现覆盖Dockerfile中ENTRYPOINT的功能。
如果command和argst均没有写,那么用Dockerfile的配置。
如果command写了，但args没有写，那么Dockerfile默认的配置会被忽略，执行输入的command
如果command没写,但args写了，那么Dockerfile中配置的ENTRYPOINT的命令会被执行，使用当前args的参数
如果command和args都写了，那么Dockerfile的配置被忽略，执行command并追加上args参数

2.3 端口设置

查看ports支持的子选项：kubectl explain pod.spec.containers.ports

KIND: Pod
VERSION: V1
RES0URCE: ports <[]0bject>
FIELDS:
  name <string>            # 端口名称，如果指定，必须保证name在pod中是唯一的
  containerPort <finteger> # 容器要监听的端口(0<x<65536)
  hostPort <integer>       # 容器要在主机上公开的端口，如果设置，主机上只能运行容器的一个副本(一般省略)
  hostIP <string>          # 要将外部端口绑定到的主机IP(一般省略)
  protocol <string>        # 端口协议。必须是UDP、TCP或SCTP。默认为"TCP"。

创建demo.yaml

apiVersion: v1
kind: Pod
metadata:
  name: demo
  namespace: dev
spec:
  containers:
  - name: nginx
    image: nginx:1.17.1
  ports:   #设置容器暴露的端口列表
  - name: nginx-port
    containerPort: 80
    protocol: TCP

创建Pod：kubectl create -f demo.yaml
查看pod：kubectl get pod demo -n dev -o yaml

访问容器中的程序需要使用的是podIp:containerPort

2.4 资源配额

容器中的程序运行时，如果不对资源限制（如cpu和内存），它就可能吃掉大量资源，导致其它容器无法运行。对此K8s提供了limits和requests来限制内存和cpu的资源的上下限
limits：用于限制运行时容器的最大占用资源，当容器占用资源超过limits时会被终止，并进行重启
requests：用于设置容器需要的最小资源，如果环境资源不够，容器将无法启动

创建demo.yaml

apiVersion: v1
kind: Pod
metadata:
  name: demo
  namespace: dev
spec:
  containers:
  - name: nginx
    image: nginx:1.17.1
    resources:  #资源配额
      limits:  #限制资源(上限)
        cpu: "2"  # CPU限制,单位是core数   可以为整数或小数
        memory: "10Gi"  #内存限制     单位可以为Gi  Mi  G  M
      requests: #请求资源(下限)
        cpu: "1"  #CPU限制，单位是core数
        memory: "10Mi" #内存限制

运行Pod：kubectl create -f demo.yaml
查看发现pod运行正常：kubectl get pod demo -n dev
停止Pod：kubectl delete -f demo.yaml

三、 Pod生命周期

pod对象从创建至终的这段时间范围称为pod的生命周期，它主要包含下面的过程:
1 pod创建过程
2 运行初始化容器(init container)过程
3 运行主容器(main container)过程（容器启动后钩子(post start)、容器终止前钩子(pre stop)；容器的存活性探测(liveness probe)、就绪性探测(readiness probe)）
4 pod终止过程

在整个生命周期中，Pod会出现5种状态(相位)，分别如下:
挂起(Pending)：apiserver已经创建了pod资源对象，但它尚未被调度完成或者仍处于下载镜像的过程中
运行中(Running)：pod已经被调度至某节点，并且所有容器都已经被kubelet创建完成
成功(Succeeded)：pod中的所有容器都已经成功终止并且不会被重启
失败(Falled)：所有容器都已经终止，但至少有一个容器终止失败，即容器返回了非0值的退出状态
未知(Unknown)：apiserver无法正常获取到pod对象的状态信息，通常由网络通信失败所导致

3.1 pod的创建与终止过程

pod的创建过程

用户通过kubectl或其他api客户端提交需要创建的pod信息给apiServer
apiServer开始生成pod对象的信息，并将信息存入etcd，然后返回确认信息至客户端
apiserver开始反映etcd中的pod对象的变化,其它组件使用watch机制来跟踪检查apiserver上的变动
scheduler发现有新的pod对象要创建，开始为Pod分配主机并将结果信息更新至apiServer
node节点上的kubelet发现有pod调度过来，尝试调用docker启动容器，并将结果回送至apiServer
apiServer将接收到的pod状态信息存入etcd中

pod的终止过程

用户向apiServer发送删除pod对象的命令
apiServcer中的pod对象信息会随着时间的推移而更新，在宽限期内(默认30s)，pod被视为dead
将pod标记为terminating状态
kubelet在监控到pod对象转为terminating状态的同时启动pod关闭过程
端点控制器监控到pod对象的关闭行为时将其从所有匹配到此端点的service资源的端点列表中移除
如果当前pod对象定义了preStop钩子处理器，则在其标记为terminating后即会以同步的方式启动执行
pod对象中的容器进程收到停止信号
宽限期结束后，若pod中还存在仍在运行的进程，那么pod对象会收到立即终止的信号
kubelet请求apiServer将此pod资源的宽限期设置为0从而完成删除操作，此时pod对于用户已不可见

3.2 初始化容器

初始化容器是在pod的主容器启动之前要运行的容器，主要是做一些主容器的前置工作，它具有两大特征:
1.初始化容器必须运行完成直至结束，若某初始化容器运行失败，那么kubernetes需要重启它直到成功完成
2.初始化容器必须按照定义的顺序执行，当且仅当前一个成功之后，后面的一个才能运行
初始化容器有很多的应用场景，下面列出的是最常见的几个:
1 提供主容器镜像中不具备的工具程序或自定义代码
2 初始化容器要先于应用容器串行启动并运行完成，因此可用于延后应用容器的启动直至其依赖的条件得到满足

下面以主容器来运行nginx，但是要求在运行nginx之前先要能够连接上mysql和redis所在服务器为了简化测试，事先规定好mysql(192.168.109.201)和redis(192.168.109.202)服务器的地址

apiVersion: v1
kind: Pod
metadata:
  name: demo
  namespace: dev
spec:
  containers:
   - name: nginx
     image: nginx:1.17.1
     ports:
     - name: nginx-port
       containerPort: 80
  initContainers:   # 初始化配置
  - name: test-mysql
    image: busybox:1.30
    command: ['sh','-c','until ping 192.168.109.201 -c 1; do echo waiting for mysql...;sleep 2; done;']
  - name: test-redis
    image: busybox:1.30
    command: ['sh','-c','until ping 192.168.109.202 -c 1;do echo waiting for reids...;sleep 2; done;']

创建pod：kubectl create -f demo.yaml
查看pod状态：kubectl describe pod demo -n dev（发现pod卡在启动第一个初始化容器过程中(ip pin不通），后面的容器不会运行）
动态查看pod：kubectl get pods demo -n dev -w
接下来新开一个shell，为当前服务器新增两个ip，观察pod的变化
ifconfig ens33:1 192.168.109.201 netmask 255.255.255.0 up
ifconfig ens33:2 192.168.109.202 netmask 255.255.255.0 up

3.3 钩子函数

钩子函数能够感知自身生命周期中的事件，并在相应的时刻到来时运行用户指定的程序代码。
kubernetes在主容器的启动之后和停止之前提供了两个钩子函数:
poststart：容器创建之后执行，如果失败了会重启容器
prestop：容器终止之前执行，执行完成之后容器将成功终止，在其完成之前会阻塞删除容器的操作

钩子处理器支持使用下面三种方式定义动作:
Exec命令：在容器内执行一次命令

...
  lifecycle:
    posttart:
      exec:
        command:
        - cat
        - /tmp/healthy
...

TCPSocket：在当前容器尝试访问指定的socket

...
  lifecycle:
    postStart: tcp
      Socket:
        port: 8080
...

HTTPGet：在当前容器中向某url发起http请求

...
  lifecycle:
    postStart: 
      httpGet:
        path: /    #URI地址
        port: 80   #端口号
        host: 192.168.109.100   #主机地址
        scheme: HTTP   #支持的协议，http或者https
...

以exec方式为例，演示下钩子函数的使用，创建demo.yaml文件

apiVersion: v1
kind: Pod
metadata:
  name: demo
  namespace: dev
spec:
  containers:
  - name: nginx
    image: nginx:1.17.1
    ports:
    - name: nginx-port
      containerPort: 80
    lifecycle:
      postStart:
        exec: #在容器启动的时候执行一个命令，修改掉nginx的默认首页内容
          command: ["/bin/sh","-c","echo postStart...> /usr/share/nginx/html/index.html"]
      preStop:
        exec: #在容器停止之前停止nginx服务
          command: ["/usr/sbin/nginx"，"-s"，"quit"]

创建pod：kubectl create -f demo.yaml
查看pod：kubectl get pods demo -n dev -o wide
访问pod：curl 10.244.2.48

3.4 容器探测

容器探测用于检测容器中的应用实例是否正常工作，是保障业务可用性的一种传统机制。如果经过探测，实例的状态不符合预期，那么kubernetes就会把该问题实例"摘除"，不承担业务流量。kubernetes提供了两种探针来实现容器探测，分别是:
liveness probes：存活性探针，用于检测应用实例当前是否处于正常运行状态，如果不是，k8s会重启容器
readiness probes：就绪性探针，用于检测应用实例当前是否可以接收请求，如果不能，k8s不会转发流量

livenessProbe决定是否重启容器，readinessProbe决定是否将请求转发给容器。

上面两种探针目前均支持三种探测方式:
Exec命令：在容器内执行一次命令，如果命令执行的退出码为0，则认为程序正常，否则不正常

...
  livenessProbe:
    exec:
      command:
      - cat
      - /tmp/healthy
...

TCPSocket：将会尝试访问一个用户容器的端口，如果能够建立这条连接，则认为程序正常，否则不正常

...
  livenessProbe:
    topSocket:
      port: 8080
...

HTTPGet：调用容器内Web应用的URL，如果返回的状态码在200和399之间，则认为程序正常，否则不正常

...
  livenessProbe:
    httpGet:
      path: /    #URI地址
      port: 80   #端口号
      host: 192.168.109.100   #主机地址
      scheme: HTTP   #支持的协议，http或者https
...

以Exec方式举例，创建demo.yaml

apiVersion: v1
kind: Pod
metadata:
  name: demo
  namespace: dev
spec:
  containers:
  - name: nginx
    image: nginx:1.17.1
    ports:
    - name: nginx-port
      containerPort: 80
    livenessProbe:
      exec: 
        command: ["/bin/cat","/tmp/hello.txt"]  # 文件不存在，会执行失败，重复处重启

创建pod：kubectl create -f demo.yaml
查看pod：kubectl describe pods demo -n dev （重复查询RESTARTS不断上升表示重启次数）

以TCPSocket方式举例，创建demo.yaml

apiVersion: v1
kind: Pod
metadata:
  name: demo
  namespace: dev
spec:
  containers:
  - name: nginx
    image: nginx:1.17.1
    ports:
    - name: nginx-port
      containerPort: 80
    livenessProbe:
      tcpSocket: 
        port: 8080  # 尝试访问8080端口

创建pod：kubectl create -f demo.yaml
查看pod：kubectl get pods demo -n dev （get改describe会展示详细信息）

以HTTPGet方式举例，创建demo.yaml

apiVersion: v1
kind: Pod
metadata:
  name: demo
  namespace: dev
spec:
  containers:
  - name: nginx
    image: nginx:1.17.1
    ports:
    - name: nginx-port
      containerPort: 80
    livenessProbe:
      httpGet:    # 相当于访问：scheme://host:port/path
	      scheme: HTTP  # 支持的协议，http或https
	      port: 80 # 端口号
	      path: /hello  #URL地址（不存在的路由）

创建pod：kubectl create -f demo.yaml
查看pod：kubectl get pods demo -n dev

查看其他配置指令：kubectl explain pod.spec.containers.livenessProbe
除了exec/tcpSocket/httpGet之外，还有如下配置

initialDelaySeconds:  #容器启动后等待多少秒执行第一次探测
timeoutSeconds:       #探测超时时间。默认1秒，最小1秒
periodSeconds:        #执行探测的频率。默认是10秒，最小1秒
failureThreshold:     #连续探测失败多少次才被认定为失败。默认是3。最小值是1
successThreshold:     #连续探测成功多少次才被认定为成功。默认是1

3.5 重启策略

一旦容器探测出现了问题，K8s就会对容器所在的Pod进行重启，其实这是由pod的重启策略决定的，pod的重启策略有3种，分别如下:
Always：容器失效时，自动重启该容器，这也是默认值。
OnFailure：容器终止运行且退出码不为0时重启
Never：不论状态为何，都不重启该容器

重启策略适用于pod对象中的所有容器，首次需要重启的容器，将在其需要时立即进行重启，随后再次需要重启的操作将由kubelet延迟一段时间后进行，且反复的重启操作的延迟时长以此为10s、20s、40s、80s、160s和300s，300s是最大延迟时长。

apiVersion: v1
kind: Pod
metadata:
  name: demo
  namespace: dev
spec:
  containers:
  - name: nginx
    image: nginx:1.17.1
    ports:
    - name: nginx-port
      containerPort: 80
    livenessProbe:
      httpGet:   
	      scheme: HTTP
	      port: 80
	      path: /hello
  restartPolicy: Never  # 设置重启策略为Never

创建pod：kubectl create -f demo.yaml
查看pod：kubectl get pods demo -n dev

四、 Pod调度

在默认情况下，一个Pod在哪个Node节点上运行，是由Scheduler组件采用相应的算法计算出来的，这个过程是不受人工控制的。但是在实际使用中，这并不满足的需求，因为很多情况下，我们想控制某些Pod到达某些节点上，那么这就要求了解kubernetes对Pod的调度规则，kubernetes提供了四大类调度方式:
自动调度：运行在哪个节点上完全由Scheduler经过一系列的算法计算得出
定向调度：NodeName、NodeSelector
亲和性调度：NodeAfinity、PodAffinity、 PodAntiAffinity
污点(容忍)调度：Taints、Toleration

4.1 定向调度

定向调度，指的是利用在pod上声明nodeName或者nodeSelector,以此将Pod调度到期望的node节点上。注意，这里的调度是强制的，这就意味着即使要调度的目标Node不存在，也会向上面进行调度，只不过pod运行失败而已。

NodeName：用于强制约束将Pod调度到指定的Name的Node节点上。这种方式，其实是直接跳过Scheduler的调度逻辑，直接写入PodList列表。

apiVersion: v1
kind: Pod
metadata:
  name: demo
  namespace: dev
spec:
  containers:
  - name: nginx
    image: nginx:1.17.1
  nodeName: node1  # 指定调度到node1节点上，如果不存在，也会调度，状态为Pending为失败

创建pod：kubectl create -f demo.yaml
查看调度节点：kubectl get pods demo -n dev -o wide (NODE栏信息信息展示在哪个节点上）

Nodeselector：用于将pod调度到添加了指定标签的node节点上。它是通过kubernetes的label-selector机制实现的，也就是说,在pod创建之前，会由scheduler使用MatchNodeselector调度策略进行label匹配，找出目标node，然后将pod调度到目标节点，该匹配规则是强制约束。
首先分别为node节点添加标签
kubectl label nodes node1 nodeenv=pro
kubectl label nodes node2 nodeenv=test

apiVersion: v1
kind: Pod
metadata:
  name: demo
  namespace: dev
spec:
  containers:
  - name: nginx
    image: nginx:1.17.1
  nodeSelector:
    nodeenv: pro  #指定调度到具有nodeenv=pro标签的节点上，没有的标签也会调度，只是会失败

创建pod：kubectl create -f demo.yaml
查看调度节点：kubectl get pods demo -n dev -o wide (NODE栏信息展示在哪个节点上）

4.2 亲和性调度

定向调度在没有满足条件的Node，那么pod运行失败，即使在集群中还有可用Node列表也不行，这就限制了它的使用场景。
基于上面的问题，kubernetes还提供了一种亲和性调度(Afinity)。它在NodeSelector的基础之上的进行了扩展，可以通过配置的形式，实现优先选择满足条件的Node进行调度，如果没有，也可以调度到不满足条件的节点上，使调度更加灵活。
Affinity主要分为三类：nodeAffinity(node亲和性)、podAffinity(pod亲和性)、podAntiAfinity(pod反亲和性)

NodeAffinity

nodeAffinity(node亲和性)：以node为目标,解决pod可以调度到哪些node的问题，可配置项如下

pod.spec.affinity.nodeAffinity
  requiredDuringSchedulingIgnoredDuringExecution:  # Node节点必须满足指定的所有规则才可以，相当于硬限制
    nodeSelectorTerms:  # 节点选择列表
      matchFields:      # 按节点字段列出的节点选择器要求列表
      matchExpressions: # 按节点标签列出的节点选择器要求列表(推荐)
        key:            # 键
        values:         # 值
        operator:       # 关系符 支持Exists,DoesNotExist, In, NotIn, Gt,Lt
  preferredDuringschedulingIgnoredDuringExecution:  # 优先调度到满足指定的规则的Node，相当于软限制(倾向)
    preference:         # 一个节点选择器项，与相应的权重相关联
      matchFields:      # 按节点字段列出的节点选择器要求列表
      matchExpressions: # 按节点标签列出的节点选择器要求列表(推荐)
        key:            # 键
        values:         # 值
        operator:       # 关系符 支持In, NotIn, Exists, DoesNotExist, Gt,Lt
  weight:               # 倾向权重,在范围1-100。

关系符的使用说明:
- matchExpressions:
  - key: nodeenv  #匹配存在标签的key为nodeenv的节点
    operator: Exists
  - key: nodeenv  #匹配标签的key为nodeenv,且value是"xxx"或"yyy"的节点
    operator: In
    values: ["xxx","yyy"]
  - key: nodeenv  #匹配标签的key为nodeenv,且value大于"xxx"的节点
    operator: Gt
    values: "xxx"

举例，创建demo.yaml文件（硬限制）

apiVersion: v1
kind: Pod
metadata:
  name: demo
  namespace: dev
spec:
  containers:
  - name: nginx
    image: nginx:1.17.1
  affinity:  #和性设置
    nodeAffinity:  #设置node亲和性
      requiredDuringSchedulingIgnoredDuringExecution:  # 硬限制nodeSelectorTerms:
        - matchExpressions: #匹配env的值在["xxx"，"yyy"]中的标签
          - key: nodeenv
            operator: In
            values: ["xxx","yyy"]   # get nodes --show-labels可查看nodeenv信息

创建pod：kubectl create -f demo.yaml
查看调度节点：kubectl get pods demo -n dev -o wide (values不满足则pending失败，如果为软限制，则可以成功）

NodeAffinity规则设置的注意事项:
如果同时定义了nodeselector和nodeAffinity，那么必须两个条件都得到满足，Pod才能运行在指定的Node上
如果nodeAffinity指定了多个nodeSelectorTerms，那么只需要其中一个能够匹配成功即可
如果一个nodeselectorTerms中有多个matchExpressions，则一个节点必须满足所有的才能匹配成功
如果一个pgd所在的Node在Pod运行期间其标签发生了改变，不再符合该Pod的节点亲和性需求，则系统将忽略此变化

PodAffinity

podAffinity(pod亲和性)：以pod为目标，解决pod可以和哪些已存在的pod部署在同一个拓扑域中的问题。可配置项如下

pod.spec.affinity.podAffinity
  requiredDuringSchedulingIgnoredDuringExecution: 
    namespace:          # 硬限制指定参照pod的namespaces  
    topologyKey:        # 指定调度作用域
    labelSelector:      # 标签选择器
      matchExpressions: # 按节点标签列出的节点选择器要求列表(推荐)
        key:            # 键
        values:         # 值
        operator:       # 关系符 支持In,NotIn,Exists, DoesNotExist.
      matchLabels:      # 指多个matchExpressions映射的内容
  preferredDuringSchedulingIgnoredDuringExecution:   # 软限制
    podAffinityTerm:    # 选项
      namespaces:
      topologyKey:
      labelSelector:
        matchExpressions:
          key:      # 键
          values:   # 值
          operator:
        matchLabels:
  weight:     # 倾向权重，在范围1-100

topologyKey用于指定调度时作用域，例如:
  如果指定为kubernetes.io/hostname，那就是以Node节点为区分范围
  如果指定为beta.kubernetes.io/os,则以Node节点的操作系统类型来区分

举例，demo.yaml文件内容如下

apiVersion: v1
kind: Pod
metadata:
  name: demo
  namespace: dev
  labels:
    podenv: pro  # 设置标签
spec:
  containers:
  - name: nginx
    image: nginx:1.17.1
  nodeName: node1  # 将目标pod名指定到NODE1上

创建pod：kubectl create -f demo.yaml
查看调度节点：kubectl get pods demo -n dev -o wide

举例，新Pod必须要与拥有标签nodeenv=xxx或者nodeenv=yyy的pod在同一Node上，demo2.yaml文件内容如下

apiVersion: v1
kind: Pod
metadata:
  name: demo2
  namespace: dev
  labels:
    podenv: pro  # 设置标签
spec:
  containers:
  - name: nginx
    image: nginx:1.17.1
  affinity: #亲和性设置
    podAffinity: #设置pod亲和性
      requiredDuringSchedulingIgnoredDuringExecution: # 硬限制
      - labelSelector:
          matchExpressions: #匹配env的值在["xxx"，"yyy"]中的标签
          - key: podenv
            operator: In
            values: ["xxx","yyy"]  # 添加前面的pro才可运行起来
        topologyKey: kubernetes.io/hostname

创建pod：kubectl create -f demo2.yaml
查看调度节点：kubectl get pods demo2 -n dev -o wide (values不满足，未运行起来)

PodAntiAffinity

podAntiAfinity(pod反亲和性)：以pod为目标,解决pod不能和哪些已存在pod部署在同一个拓扑域中的问题，配置项参考PodAffinty配置项

举例：将上面的例子修改后运行起来（values:[“pro”]），然后新Pod必须要与拥有标签nodeenv-pro的pod不在同一Node上，创建下面的运行

apiVersion: v1
kind: Pod
metadata:
  name: demo3
  namespace: dev
  labels:
    podenv: pro  # 设置标签
spec:
  containers:
  - name: nginx
    image: nginx:1.17.1
  affinity: #亲和性设置
    podAntiAffinity: #设置pod亲和性  （和上面相比只是这里变动）
      requiredDuringSchedulingIgnoredDuringExecution: # 硬限制
      - labelSelector:
          matchExpressions: #匹配env的值在["xxx"，"yyy"]中的标签
          - key: podenv
            operator: In
            values: ["pro"]
        topologyKey: kubernetes.io/hostname

创建pod：kubectl create -f demo3.yaml
查看调度节点：kubectl get pods demo3 -n dev -o wide (上面的运行了之后，这里运行发现调度到node2上了)

4.3 污点容忍

前面的调度方式都是站在Pod的角度上，通过在Pod上添加属性，来确定Pod是否要调度到指定的Node上，其实我们也可以站在Node的角度上，通过在Node上添加污点属性，来决定是否允许Pod调度过来。
Node被设置上污点之后就和Pod之间存在了一种相斥的关系，进而拒绝Pod调度进来，甚至可以将已经存在的Pod驱逐出去。
污点的格式为：key=value:effect，key和value是污点的标签,effect描述污点的作用，effect支持如下三个选项:
PreferNoschedule：kubernetes将尽量避免把Pod调度到具有该污点的Node上，除非没有其他节点可调度（尽量不要来,除非没办法）
NoSchedule：kubernetes将不会把Pod调度到具有该污点的Node上,但不会影响当前Node上已存在的Pod（新的不要来,在这的就别动了）
NoExecute：kubernetes将不会把Pod调度到具有该污点的Node上，同时也会将Node上已存在的Pod驱离（新的不要来,在这的赶紧走）

使用kubectl设置和去除污点的命令示例如下:
设置污点：kubectl taint nodes node1 key=value:effect
去除污点：kubectl taint nodes node1 key:effect-
去除所有污点：kubectl taint nodes node1 key-

准备节点node1(为了演示效果更加明显，暂时停止node2节点)
为node1节点设置一个污点：kubectl taint nodes node1 tag=heima:PreferNoSchedule
创建pod1：kubectl run taint1 --image=nginx:1.17.1 -n dev
查看：kubectl get pods -n dev -o wide

去除node1污点：kubectl taint nodes node1 tag:PreferNoSchedule-
为node1节点设置一个污点：kubectl taint nodes node1 tag=heima:NoSchedule
创建pod2：kubectl run taint2 --image=nginx:1.17.1 -n dev
查看：kubectl get pods taint2 -n dev -o wide

去除node1污点：kubectl taint nodes node1 tag:PreferNoSchedule-
为node1节点设置一个污点：kubectl taint nodes node1 tag=heima:NoExecute
创建pod3：kubectl run taint3 --image=nginx:1.17.1 -n dev
查看：kubectl get pods taint3 -n dev -o wide

4.4 容忍

我们可以在node上添加污点用于拒绝pod调度上来，同理我们可以用容忍来将一个pod调度到一个有污点的node上去
污点就是拒绝，容忍就是忽略，Node通过污点拒绝pod调度上去，Pod通过容忍忽略拒绝

配置介绍

FIELDS:
  key:       # 对应看要容忍的污点的键，空意味着匹配所有的键
  value:     # 对应着要容忍的污点的值
  operator:  # key-value的运算符,支持Equal和Exists (默认)
  effect:    # 对应污点的effect，空意味着匹配所有影响
  tolerationSeconds: # 容忍时间，当efect为NoExecute时生效,表示pod在Node上的停留时间

上方污点已经在node1节点上打上了NoExecute的污点，此时pod是调度不上去的，此处可以通过给pod添加容忍，然后将其调度上去

apiVersion: v1
kind: Pod
metadata:
  name: demo
  namespace: dev
spec:
  containers:
  - name: nginx
    image: nginx:1.17.1
  tolerations:  #添加容忍
  - key: "tag"  #要容忍的污点的key
    operator: "Equal" #操作符
    value:  "heima" #容忍的污点的value
    effect: "NoExecute" #添加容忍的规则，这里必须和标记的污点规则相同

上面配置表达的意思是:新Pod必须要与拥有标签nodeenv-pro的pod不在同一Node上
添加容忍之前的pod：kubectl get pods -n dev -o wide（创建失败）
添加容忍之后的pod：kubectl get pods -n dev -o wide（创建成功）