英铭科技做网站和设计制作更专业,湖北省建设工程造价信息网,wordpress 文章略缩图,企业网站建设情况汇报一、安全机制说明 Kubernetes作为一个分布式集群的管理工具#xff0c;保证集群的安全性是其一个重要的任务。API Server是集群内部各个组件通信的中介#xff0c; 也是外部控制的入口。所以Kubernetes的安全机制基本就是围绕保护API Server来设计的。 比如 kubectl 如果想…一、安全机制说明 Kubernetes作为一个分布式集群的管理工具保证集群的安全性是其一个重要的任务。API Server是集群内部各个组件通信的中介 也是外部控制的入口。所以Kubernetes的安全机制基本就是围绕保护API Server来设计的。 比如 kubectl 如果想向API Server请求资源需要过三关第一关是认证Authentication第二关是鉴权Authorization 第三关是准入控制Admission Control只有通过这三关才可能会被K8S创建资源。 二、认证Authentication HTTP Token认证通过一个Token来识别合法用户
HTTP Token认证是用一个很长的特殊编码方式的并且难以被模仿的Token字符串来表达客户的一种方式。Token是一个很长的很复杂的字符串每一个Token对应一个用户名存储在API Server 能访问的文件中。当客户端发起API调用请求时需要在HTTP Header里放入Token。HTTP Base认证通过用户名密码的方式认证用户名:密码用BASE64算法进行编码后的字符串放在HTTP Request中的Heather Authorization域里发送给服务端 服务端收到后进行解码获取用户名及密码。HTTPS证书认证最严格基于CA根证书签名的客户端身份认证方式。 注意Token认证和Base认证方式只能进行服务端对客户端的单向认证而客户端不知道服务端是否合法而HTTPS证书认证方式则可以实现双向认证。 2.1 需要被认证的访问类型
Kubernetes 组件对API Server的访问kubectl、kubelet、kube-proxyKubernetes 管理的Pod对API Server的访问Podcoredns,dashborad也是以Pod形式运行 2.2 安全性说明
Controller Manager、Scheduler 与API Server在同一台机器所以直接使用API Server的非安全端口访问比如8080端口kubectl、kubelet、kube-proxy 访问API Server就都需要证书进行HTTPS双向认证端口号使用 6443 2.3 证书颁发
手动签发使用二进制部署时需要先手动跟CA进行签发HTTPS证书自动签发kubelet首次访问API Server时使用token做认证通过后Controller Manager会为 kubelet生成一个证书 以后的访问都是用证书做认证了 2.4 kubeconfig kubeconfig文件包含集群参数CA证书、API Server 地址客户端参数上面生成的证书和私钥集群context上下文参数 集群名称、用户名。 Kubenetes组件如kubelet、kube-proxy通过启动时指定不同的kubeconfig文件可以切换到不同的集群 连接到apiserver。也就是说kubeconfig文件既是一个集群的描述也是集群认证信息的填充。包含了集群的访问方式和认证信息。 kubectl 文件位置 ~/.kube/config 2.5 Service AccountSA Service Account是为了方便Pod中的容器访问API Server。因为Pod的创建、销毁是动态的所以要为每一个Pod手动生成证书就不可行了。 Kubenetes使用了Service Account来循环认证从而解决了Pod访问API Server的认证问题。 2.6 secret与SA的关系 2.6.1 Kubernetes设计了一种资源对象叫做Secret分为两类
用于保存ServiceAccount的service-account-token用于保存用户自定义保密信息的Opaque 2.6.2 Service Account 中包含三个部分
Token是使用API Server私钥签名的Token字符串序列号用于访问API Server时Server端认证ca.crtca根证书用于Client端验证API Server发送来的证书namespace标识这个service-account-token的作用域名空间 默认情况下每个namespace都会有一个Service Account如果Pod在创建时没有指定Service Account就会使用Pod所属的namespace的Service Account。每个Pod在创建后都会自动设置 spec.serviceAccount为default除非指定了其他Service Accout。 2.7 示例 2.7.1 查看SA信息
kubectl get sa——查看service account 2.7.2 查看kube-system下的所有信息
kubectl get pod -n kube-system——获得kube-system命名空间中所有Pod的列表 2.7.3 Pod中的容器上启动一个交互式的sh
kubectl exec -it kube-proxy-s7sxg -n kube-system sh——用于在名为kube-proxy-s7sxg的Pod中的容器上执行一个交互式的shellsh 解释如下 kubectl exec: 这部分表示在Kubernetes中执行一个命令。-it: 这两个选项结合起来表示要创建一个交互式的终端允许用户与容器进行交互。kube-proxy-s7sxg: 这是要执行命令的Pod的名称。在这种情况下您将在名为kube-proxy-s7sxg的Pod中执行命令。-n kube-system: 这部分表示要在kube-system命名空间中执行命令。kube-system命名空间通常用于存储Kubernetes系统组件和插件。 三、鉴权Authorization 3.1 鉴权的功能 认证Authentication过程只是确定通信的双方都确认了对方是可信的可以相互通信。 鉴权Authorization是确定请求方有哪些资源的权限。 3.2 鉴权的授权策略
AlwaysDeny表示拒绝所有的请求一般用于测试 AlwaysAllow允许接收所有请求如果集群不需要授权流程则可以采用该策略一般用于测试ABACAttribute-Based Access Control基于属性的访问控制表示使用用户配置的授权规则对用户请求进行匹配和控制。也就是说定义一个访问类型的属性用户可以使用这个属性访问对应的资源。此方式设置较为繁琐每次设置需要定义一长串的属性才可以。Webhook通过调用外部REST服务对用户进行授权即可在集群外部对K8S进行鉴权RBACRole-Based Access Control基于角色的访问控制K8S自1.6版本起默认使用规则 3.2.1 RBAC的优点
对集群中的资源Pod,Deployment,Service和非资源元信息或者资源状态均拥有完整的覆盖整个RBAC完全由几个API资源对象完成同其它API资源对象一样可以用kubectl或API进行操作可以在运行时进行调整无需重启API Server而ABAC则需要重启API Server 3.2.2 RBAC的API 资源对象说明 RBAC引入了4个新的顶级资源对象Role、ClusterRole、RoleBinding、ClusterRoleBinding4种对象类型均可以通过kubectl与API Server操作。
官方文档https://kubernetes.io/docs/reference/access-authn-authz/rbac/https://kubernetes.io/docs/reference/access-authn-authz/rbac/ 3.2 角色
Role授权指定命名空间的资源控制权限ClusterRole可以授权所有命名空间的资源控制权限 如果使用RoleBinding绑定ClusterRole仍会受到命名空间的影响如果使用 ClusterRoleBinding绑定ClusterRole 将会作用于整个K8S集群。 3.3 角色绑定
RoleBinding将角色绑定到主体即subjectClusterRoleBinding将集群角色绑定到主体 3.4 主体subject
User用户 Group用户组ServiceAccount服务账号 User使用字符串表示它的前缀system: 是系统保留的集群管理员应该确保普通用户不会使用这个前缀格式Group书写格式与User相同同样system: 前缀也为系统保留。 Pod使用ServiceAccount认证时service-account-token中的JWT会保存用户信息。 有了用户信息再创建一对角色/角色绑定集群角色/集群角色绑定资源对象就可以完成权限绑定了。 3.5 Role and ClusterRole 在 RBAC API 中Role表示一组规则权限权限只能增加累加权限不存在一个资源一开始就有很多权限而通过RBAC对其进行减少的操作。也就是说只有白名单权限而没有黑名单权限的概念。 Role只能定义在一个namespace中如果想要跨namespace则可以创建ClusterRole也就是说定义ClusterRole不需要绑定namespace。 3.5.1 role示例
apiVersion: rbac.authorization.k8s.io/v1 #指定 core API 组和版本
kind: Role #指定类型为 Role
metadata:namespace: default #使用默认命名空间 name: pod-reader #Role 的名称
rules: #定义规则
- apiGroups: [] #表示 apiGroups 和 apiVersion 使用相同的 core API 组即 rbac.authorization.k8s.ioresources: [pods] #资源对象为 Pod 类型verbs: [get, watch, list] #被授予的操作权限 以上配置的意义是如果把pod-reader这个Role赋予给一个用户那么这个用户将在default命名空间中具有对Pod资源对象 进行get获取、watch监听、list列出这三个操作权限。 3.5.2 ClusterRole示例
apiVersion: rbac.authorization.k8s.io/v1
kind: ClusterRole
metadata:# namespace 被忽略因为 ClusterRoles 不受名字空间限制name: secret-reader
rules:
- apiGroups: []resources: [secrets] #资源对象为 Secret 类型verbs: [get, watch, list] 3.6 RoleBinding and ClusterRoleBinding 3.6.1 RoleBinding and ClusterRoleBinding定义
RoloBinding 可以将角色中定义的权限授予用户或用户组RoleBinding 包含一组主体subjectsubject 中包含有不同形式的待授予权限资源类型User、Group、ServiceAccountRoloBinding 同样包含对被绑定的 Role 引用RoleBinding 适用于某个命名空间内授权而 ClusterRoleBinding 适用于集群范围内的授权 3.6.2 RoleBinding示例1
apiVersion: rbac.authorization.k8s.io/v1
kind: RoleBinding
metadata:name: read-podsnamespace: default
subjects:
- kind: Username: zhangsanapiGroup: rbac.authorization.k8s.io
roleRef:kind: Rolename: pod-readerapiGroup: rbac.authorization.k8s.io将default命名空间的pod-reader Role授予zhangsan用户此后zhangsan用户在default命名空间中将具有pod-reader的权限。 RoleBinding同样可以引用ClusterRole来对当前namespace内User、Group或ServiceAccount进行授权 这种操作允许集群管理员在整个集群内定义一些通用的ClusterRole然后在不同的 namespace中使用RoleBinding来引用。 3.6.3 RoleBinding示例2
apiVersion: rbac.authorization.k8s.io/v1
kind: RoleBinding
metadata:name: read-secretsnamespace: kube-public
subjects:
- kind: Username: lisiapiGroup: rbac.authorization.k8s.io
roleRef:kind: ClusterRolename: secret-readerapiGroup: rbac.authorization.k8s.io 以上RoleBinding引用了一个ClusterRole这个ClusterRole具有整个集群内对secrets的访问权限但是其授权用户lisi只能访问kube-public空间中的secrets因为RoleBinding定义在kube-public命名空间。 使用ClusterRoleBinding可以对整个集群中的所有命名空间资源权限进行授权 3.6.4 ClusterRoleBinding示例
apiVersion: rbac.authorization.k8s.io/v1
kind: ClusterRoleBinding
metadata:name: read-secrets-global
subjects:
- kind: Groupname: managerapiGroup: rbac.authorization.k8s.io
roleRef:kind: ClusterRolename: secret-readerapiGroup: rbac.authorization.k8s.io 以上ClusterRoleBinding授权manager组内所有用户在全部命名空间中对secrets进行访问。 3.7 Resources Kubernetes集群内一些资源一般以其名称字符串来表示这些字符串一般会在API的URL地址中出现 同时某些资源也会包含子资源例如log资源就属于pods的子资源API中对Pod日志的请求URL样例如下 GET /api/v1/namespaces/{namespace}/pods/{name}/log 在这里pods对应名字空间作用域的Pod资源而log是pods的子资源。 如果要在RBAC授权模型中控制这些子资源的访问权限可以通过/分隔符来分隔资源和子资源实现。 3.7.1 示例 允许某主体读取pods同时访问这些Pod的log子资源
apiVersion: rbac.authorization.k8s.io/v1
kind: Role
metadata:namespace: defaultname: pod-and-pod-logs-reader
rules:
- apiGroups: []resources: [pods, pods/log]verbs: [get, list]rules.verbsget, list, watch, create, update, patch, delete, exec rules.resourcesservices, endpoints, pods, secrets, configmaps, crontabs, deployments, jobs, nodes, rolebindings, clusterroles, daemonsets, replicasets, statefulsets, horizontalpodautoscalers, replicationcontrollers, cronjobs rules.apiGroups,apps, autoscaling, batch 三、准入控制Admission Control 3.1 准入控制定义 准入控制是API Server的一个准入控制器插件列表通过添加不同的插件实现额外的准入控制规则。发送到API Server的请求都需要经过这个列表中的每个准入控制器插件的检查检查不通过则拒绝请求。 一般建议直接采用官方默认的准入控制器。 3.1.1 官方准入控制器推荐列表不同版本各有不同 NamespaceLifecycle,LimitRanger,ServiceAccount,DefaultStorageClass,DefaultTolerationSeconds,MutatingAdmissionWebhook,ValidatingAdmissionWebhook,ResourceQuota,NodeRestriction 3.1.2 列举几个插件的功能
NamespaceLifecycle用于命名空间回收防止在不存在的namespace上创建对象防止删除系统预置namespace删除namespace时连带删除它的所有资源对象。LimitRanger用于配额管理确保请求的资源不会超过资源所在Namespace的LimitRange的限制。ServiceAccount用于在每个Pod中自动化添加ServiceAccount方便访问API Server。ResourceQuota基于命名空间的高级配额管理确保请求的资源不会超过资源的 ResourceQuota限制。NodeRestriction 用于Node加入到K8S群集中以最小权限运行。
官方文档参考https://kubernetes.io/zh/docs/reference/access-authn-authz/admission-controllers/https://kubernetes.io/zh/docs/reference/access-authn-authz/admission-controllers/ 四、实验部署 4.1 创建一个用户
useradd zhangsan
passwd zhangsan 4.2 使用这个用户进行资源操作会发现连接API Server时被拒绝访问请求 4.3 创建用于用户连接到 API Server 所需的证书和 kubeconfig 文件 先上传证书生成工具cfssl、cfssljson、cfssl-certinfo到/usr/local/bin目录中 4.4 创建文件夹
mkdir /opt/zhangsan
cd /opt/zhangsan 4.5 API Server会把客户端证书的CN字段作为User把names.O字段作为Group
vim user-cert.sh
#######################
cat zhangsan-csr.json EOF
{CN: zhangsan,hosts: [],key: {algo: rsa,size: 2048},names: [{C: CN,ST: BeiJing,L: BeiJing,O: k8s,OU: System}]
}
EOF 4.6 使用工具生成证书
cd /etc/kubernetes/pki/
cfssl gencert -caca.crt -ca-keyca.key -profilekubernetes /opt/zhangsan/zhangsan-csr.json | cfssljson -bare zhangsan 这是一个使用 cfssl 工具生成证书的命令。具体来说它使用 ca.crt 和 ca.key 作为根证书和私钥使用 kubernetes 作为证书配置文件的配置文件以及 /opt/zhangsan/zhangsan-csr.json 中定义的证书签名请求文件来生成一个名为 zhangsan 的证书。 其中-profile 参数指定了证书配置文件的名称-ca 和 -ca-key 参数分别指定了根证书和私钥的文件路径cfssljson -bare 命令用于将生成的证书和私钥文件输出到当前目录下文件名为 zhangsan。 需要注意的是这个命令中的 /opt/zhangsan/zhangsan-csr.json 文件应该是一个包含了证书签名请求信息的 JSON 文件其中包含了证书的一些基本信息如 Common Name、Organization 等。 4.7 /etc/kubernetes/pki/目录中会生成zhangsan-key.pem、zhangsan.pem、zhangsan.csr
chmod x user-cert.sh
./user-cert.sh4.8 生成一个名为zhangsan.kubeconfig的 kubeconfig 配置文件
APISERVER$1
# 设置集群参数
export KUBE_APISERVERhttps://$APISERVER:6443
kubectl config set-cluster kubernetes \--certificate-authority/etc/kubernetes/pki/ca.crt \--embed-certstrue \--server${KUBE_APISERVER} \--kubeconfigzhangsan.kubeconfig# 设置客户端认证参数
kubectl config set-credentials zhangsan \--client-key/etc/kubernetes/pki/zhangsan-key.pem \--client-certificate/etc/kubernetes/pki/zhangsan.pem \--embed-certstrue \--kubeconfigzhangsan.kubeconfig# 设置上下文参数
kubectl config set-context kubernetes \--clusterkubernetes \--userzhangsan \--namespacekgc \--kubeconfigzhangsan.kubeconfig这段脚本用于设置 Kubernetes 集群的认证参数和上下文参数并生成一个名为 zhangsan.kubeconfig 的配置文件。 首先脚本中的 APISERVER\$1 表示将传入的第一个参数作为 API Server 的地址。接下来通过 export KUBE_APISERVERhttps://$APISERVER:6443 将 API Server 的地址设置为 https://$APISERVER:6443并将其导出为环境变量 KUBE_APISERVER。然后使用 kubectl config set-cluster 命令设置集群参数。其中--certificate-authority 参数指定了根证书的路径--embed-certstrue 表示将证书嵌入到 kubeconfig 文件中--server 参数指定了 API Server 的地址--kubeconfig 参数指定了生成的 kubeconfig 文件的名称。接着使用 kubectl config set-credentials 命令设置客户端认证参数。--client-key 参数指定了客户端私钥的路径--client-certificate 参数指定了客户端证书的路径--embed-certstrue 表示将证书嵌入到 kubeconfig 文件中--kubeconfig 参数指定了生成的 kubeconfig 文件的名称最后使用 kubectl config set-context 命令设置上下文参数。--cluster 参数指定了集群的名称--user 参数指定了客户端的名称--namespace 参数指定了默认的命名空间--kubeconfig 参数指定了生成的 kubeconfig 文件的名称。 综合起来这段脚本的作用是生成一个名为 zhangsan.kubeconfig 的 kubeconfig 配置文件其中包含了与 Kubernetes 集群的连接和认证所需的参数。 4.9 运行yaml 4.10 使用上下文参数生成zhangsan.kubeconfig文件 这是一个使用 kubectl 命令设置当前上下文的命令其中 --kubeconfig 参数指定了使用的 kubeconfig 文件的名称为 zhangsan.kubeconfig。 具体来说kubectl config use-context 命令用于设置当前上下文kubernetes 参数指定了上下文的名称即之前脚本中设置的上下文名称。--kubeconfig 参数指定了使用的 kubeconfig 文件的名称为 zhangsan.kubeconfig即之前脚本中生成的 kubeconfig 文件的名称。 这个命令的作用是将当前上下文设置为 kubernetes并使用 zhangsan.kubeconfig 文件中的参数进行连接和认证。这样就可以使用 kubectl 命令与 Kubernetes 集群进行交互了。 4.11 查看证书 4.12 编辑rbac.yaml
vim rbac.yaml
apiVersion: rbac.authorization.k8s.io/v1
kind: Role
metadata:namespace: kgcname: pod-reader
rules:
- apiGroups: []resources: [pods]verbs: [get, watch, list, create]---
apiVersion: rbac.authorization.k8s.io/v1
kind: RoleBinding
metadata:name: read-podsnamespace: kgc
subjects:
- kind: Username: zhangsanapiGroup: rbac.authorization.k8s.io
roleRef:kind: Rolename: pod-readerapiGroup: rbac.authorization.k8s.io 4.13 运行yaml文件 4.14 切换用户测试操作权限 4.14.1 编辑pod-test.yaml文件 4.14.2 运行yaml文件 4.15 访问svc资源就会被拒绝
kubectl get svc
Error from server (Forbidden): services is forbidden: User zhangsan cannot list resource services in API group in the namespace kgc 4.16 无法访问default命名空间
kubectl get pods -n default
Error from server (Forbidden): pods is forbidden: User zhangsan cannot list resource pods in API group in the namespace default 4.17 使用root用户查看
kubectl get pods --all-namespaces -o wide
NAMESPACE NAME READY STATUS RESTARTS AGE IP NODE NOMINATED NODE READINESS GATES
kgc pod-test 1/1 Running 0 107s 10.244.2.2 node02 none none 由此可以看出RoleBinding的用户只能管理指定的命名空间中的资源 4.18 也可以通过绑定admin角色来获得管理员权限
kubectl create rolebinding zhangsan-admin-binding --clusterroleadmin --userzhangsan --namespacekgc
