首页 > 其他分享 >kubernetes（k8s）Gitlab CI Runner 的安装

kubernetes（k8s）Gitlab CI Runner 的安装

时间：2023-12-20 10:55:37浏览次数：34  
标签：CI Gitlab kubernetes Runner gitlab ci runner

kubernetes（k8s）Gitlab CI Runner 的安装

简介

从 Gitlab 8.0 开始，Gitlab CI 就已经集成在 Gitlab 中，只要在项目中添加一个.gitlab-ci.yml文件，然后添加一个Runner，即可进行持续集成。在介绍 Gitlab CI 之前，先看看一些 Gitlab CI 的一些相关概念。

流程逻辑如下：

Jobs->Stages->Pipeline

Pipeline

一次 Pipeline 其实相当于一次构建任务，里面可以包含很多个流程，如安装依赖、运行测试、编译、部署测试服务器、部署生产服务器等流程。任何提交或者 Merge Request 的合并都可以触发 Pipeline 构建，如下图所示： 
+------------------+           +----------------+
|                  |  trigger  |                |
|   Commit / MR    +---------->+    Pipeline    |
|                  |           |                |
+------------------+           +----------------+

Stages

Stages 表示一个构建阶段，也就是上面提到的一个流程。可以在一次 Pipeline 中定义多个 Stages，这些 Stages 会有以下特点：

  • 所有 Stages 会按照顺序运行，即当一个 Stage 完成后，下一个 Stage 才会开始
  • 只有当所有 Stages 完成后，该构建任务 (Pipeline) 才会成功
  • 如果任何一个 Stage 失败，那么后面的 Stages 不会执行，该构建任务 (Pipeline) 失败

Stages 和 Pipeline 的关系如下所示：


|                                                        |
|  Pipeline                                              |
|                                                        |
|  +-----------+     +------------+      +------------+  |
|  |  Stage 1  |---->|   Stage 2  |----->|   Stage 3  |  |
|  +-----------+     +------------+      +------------+  |
|                                                        |
+--------------------------------------------------------+

　　

Jobs

Jobs 表示构建工作，表示某个 Stage 里面执行的工作。可以在 Stages 里面定义多个 Jobs，这些 Jobs 会有以下特点：

  • 相同 Stage 中的 Jobs 会并行执行
  • 相同 Stage 中的 Jobs 都执行成功时，该 Stage 才会成功
  • 如果任何一个 Job 失败，那么该 Stage 失败，即该构建任务 (Pipeline) 失败

Jobs 和 Stage 的关系如下所示：


  
|                                          |
|  Stage 1                                 |
|                                          |
|  +---------+  +---------+  +---------+   |
|  |  Job 1  |  |  Job 2  |  |  Job 3  |   |
|  +---------+  +---------+  +---------+   |
|                                          |
+------------------------------------------+

Gitlab Runner

如果理解了上面的基本概念之后，可能我们就会发现一个问题，我们的构建任务在什么地方来执行呢，以前用 Jenkins 在 Master 和 Slave 节点都可以用来运行构建任务，而来执行我们的 Gitlab CI 构建任务的就是 Gitlab Runner。

我们知道大多数情况下构建任务都是会占用大量的系统资源的，如果直接让 Gitlab 本身来运行构建任务的话，显然 Gitlab 的性能会大幅度下降的。GitLab CI 最大的作用是管理各个项目的构建状态，因此，运行构建任务这种浪费资源的事情交给一个独立的 Gitlab Runner 来做就会好很多，更重要的是 Gitlab Runner 可以安装到不同的机器上，甚至是我们本机，这样完全就不会影响到 Gitlab 本身了。

安装

安装 Gitlab Runner 非常简单，我们可以完全安装官方文档：https://docs.gitlab.com/runner/install/即可，比如可以直接使用二进制、Docker 等来安装。同样的，我们这里还是将 Gitlab Runner 安装到 Kubernetes 集群中来，让我们的集群来统一管理 Gitlab 相关的服务。

1.验证 Kubernetes 集群

执行下面的命令验证 Kubernetes 集群：


[root@master runner]# kubectl cluster-info
Kubernetes control plane is running at https://10.0.24.7:6443
CoreDNS is running at https://10.0.24.7:6443/api/v1/namespaces/kube-system/services/kube-dns:dns/proxy
Metrics-server is running at https://10.0.24.7:6443/api/v1/namespaces/kube-system/services/https:metrics-server:/proxy

To further debug and diagnose cluster problems, use 'kubectl cluster-info dump'.

cluster-info这个命令会显示当前链接的集群状态和可用的集群服务列表。

2.获取 Gitlab CI Register Token

上节已经成功安装了 Gitlab，在浏览器中打开10.0.24.7页面，然后登录后进入到管理页面http://10.0.24.7/admin，然后点击导航栏中的Runner，可以看到该页面中有两个总要的参数，一个是 URL，另外一个就是 Register Token，下面的步骤中需要用到这两个参数值。
图一、

注意：不要随便泄露 Token
3.编写 Gitlab CI Runner 资源清单文件

 

同样将 Runner 相关的资源对象都安装到kube-ops这个 namespace 下面，首先，通过 ConfigMap 资源来传递 Runner 镜像所需的环境变量（runner-cm.yaml）: 
#$ cd /gitlab/
#$ mkdir runner
---
apiVersion: v1
data:
  REGISTER_NON_INTERACTIVE: "true"
  REGISTER_LOCKED: "false"
  METRICS_SERVER: "0.0.0.0:9100"
  CI_SERVER_URL: "http://10.0.24.7:30852/ci"
  RUNNER_REQUEST_CONCURRENCY: "4"
  RUNNER_EXECUTOR: "kubernetes"
  KUBERNETES_NAMESPACE: "kube-ops"
  KUBERNETES_PRIVILEGED: "true"
  KUBERNETES_CPU_LIMIT: "1"
  KUBERNETES_CPU_REQUEST: "500m"
  KUBERNETES_MEMORY_LIMIT: "1Gi"
  KUBERNETES_SERVICE_CPU_LIMIT: "1"
  KUBERNETES_SERVICE_MEMORY_LIMIT: "1Gi"
  KUBERNETES_HELPER_CPU_LIMIT: "500m"
  KUBERNETES_HELPER_MEMORY_LIMIT: "100Mi"
  KUBERNETES_PULL_POLICY: "if-not-present"
  KUBERNETES_TERMINATIONGRACEPERIODSECONDS: "10"
  KUBERNETES_POLL_INTERVAL: "5"
  KUBERNETES_POLL_TIMEOUT: "360"
kind: ConfigMap
metadata:
  labels:
    app: gitlab-ci-runner
  name: gitlab-ci-runner-cm
  namespace: kube-ops
要注意CI_SERVER_URL对应的值需要指向 Gitlab 实例的 URL（可以是外网地址，也可以是 Kubernetes 集群内部的 Service DNS 地址，因为 Runner 也是运行在 Kubernetes 集群中的），并加上/ci 可以是CI_SERVER_URL: "http://10.0.24.7/ci"此外还添加了一些构建容器运行的资源限制，可以自己根据需要进行更改即可。
除了上面的一些环境变量相关的配置外，还需要一个用于注册、运行和取消注册 Gitlab CI Runner 的小脚本。只有当 Pod 正常通过 Kubernetes（TERM信号）终止时，才会触发转轮取消注册。 如果强制终止 Pod（SIGKILL信号），Runner 将不会注销自身。必须手动完成对这种被杀死的 Runner 的清理，配置清单文件如下：（runner-scripts-cm.yaml） 
 1 apiVersion: v1
 2 data:
 3   run.sh: |
 4     #!/bin/bash
 5     unregister() {
 6         kill %1
 7         echo "Unregistering runner ${RUNNER_NAME} ..."
 8         /usr/bin/gitlab-ci-multi-runner unregister -t "$(/usr/bin/gitlab-ci-multi-runner list 2>&1 | tail -n1 | awk '{print $4}' | cut -d'=' -f2)" -n ${RUNNER_NAME}
 9         exit $?
10     }
11     trap 'unregister' EXIT HUP INT QUIT PIPE TERM
12     echo "Registering runner ${RUNNER_NAME} ..."
13     /usr/bin/gitlab-ci-multi-runner register -r ${GITLAB_CI_TOKEN}
14     sed -i 's/^concurrent.*/concurrent = '"${RUNNER_REQUEST_CONCURRENCY}"'/' /home/gitlab-runner/.gitlab-runner/config.toml
15     echo "Starting runner ${RUNNER_NAME} ..."
16     /usr/bin/gitlab-ci-multi-runner run -n ${RUNNER_NAME} &
17     wait
18 kind: ConfigMap
19 metadata:
20   labels:
21     app: gitlab-ci-runner
22   name: gitlab-ci-runner-scripts
23   namespace: kube-ops
runner-scripts-cm.yaml

 

可以看到需要一个 GITLAB_CI_TOKEN，然后复制下图中的Gitlab CI runner token 来创建一个 Kubernetes secret 对象。将 token 进行 base64 编码：

 

1 echo 5vJNyNJy1GqJa6QKY9qe | base64 -w0
2 NXZKTnlOSnkxR3FKYTZRS1k5cWUK

base64 命令在大部分 Linux 发行版中都是可用的。

然后使用上面的 token 创建一个 Secret 对象：(gitlab-ci-token-secret.yaml)

1 apiVersion: v1
2 kind: Secret
3 metadata:
4   name: gitlab-ci-token
5   namespace: kube-ops
6   labels:
7     app: gitlab-ci-runner
8 data:
9   GITLAB_CI_TOKEN: NXZKTnlOSnkxR3FKYTZRS1k5cWUK
gitlab-ci-token-secret.yaml

 

然后接下来就可以来编写一个用于真正运行 Runner 的控制器对象，这里使用 Statefulset。首先，在开始运行的时候，尝试取消注册所有的同名 Runner，当节点丢失时（即NodeLost事件），这尤其有用。然后再尝试重新注册自己并开始运行。在正常停止 Pod 的时候，Runner 将会运行unregister命令来尝试取消自己，所以 Gitlab 就不能再使用这个 Runner 了，这个是通过 Kubernetes Pod 生命周期中的hooks来完成的。

另外通过使用envFrom来指定Secrets和ConfigMaps来用作环境变量，对应的资源清单文件如下：(runner-statefulset.yaml)

apiVersion: apps/v1
kind: StatefulSet
metadata:
  name: gitlab-ci-runner
  namespace: kube-ops
  labels:
    app: gitlab-ci-runner
spec:
  selector:
    matchLabels:
      app: gitlab-ci-runner
  updateStrategy:
    type: RollingUpdate
  replicas: 2
  serviceName: gitlab-ci-runner
  template:
    metadata:
      labels:
        app: gitlab-ci-runner
    spec:
      volumes:
      - name: gitlab-ci-runner-scripts
        projected:
          sources:
          - configMap:
              name: gitlab-ci-runner-scripts
              items:
              - key: run.sh
                path: run.sh
                mode: 0755
      serviceAccountName: gitlab-ci
      securityContext:
        runAsNonRoot: true
        runAsUser: 999
        supplementalGroups: [999]
      containers:
      - image: gitlab/gitlab-runner:latest
        name: gitlab-ci-runner
        command:
        - /scripts/run.sh
        envFrom:
        - configMapRef:
            name: gitlab-ci-runner-cm
        - secretRef:
            name: gitlab-ci-token
        env:
        - name: RUNNER_NAME
          valueFrom:
            fieldRef:
              fieldPath: metadata.name
        ports:
        - containerPort: 9100
          name: http-metrics
          protocol: TCP
        volumeMounts:
        - name: gitlab-ci-runner-scripts
          mountPath: "/scripts"
          readOnly: true
      restartPolicy: Always
runner-statefulset.yaml

 

可以看到上面我们使用了一个名为 gitlab-ci 的 serviceAccount，新建一个 rbac 资源清单文件：(runner-rbac.yaml)

apiVersion: v1
kind: ServiceAccount
metadata:
  name: gitlab-ci
  namespace: kube-ops
---
kind: Role
apiVersion: rbac.authorization.k8s.io/v1
metadata:
  name: gitlab-ci
  namespace: kube-ops
rules:
  - apiGroups: [""]
    resources: ["*"]
    verbs: ["*"]
---
kind: RoleBinding
apiVersion: rbac.authorization.k8s.io/v1
metadata:
  name: gitlab-ci
  namespace: kube-ops
subjects:
  - kind: ServiceAccount
    name: gitlab-ci
    namespace: kube-ops
roleRef:
  kind: Role
  name: gitlab-ci
  apiGroup: rbac.authorization.k8s.io
runner-rbac.yaml

 

4.创建 Runner 资源对象

资源清单文件准备好后，直接创建上面的资源对象：

 1 [root@master runner]# ls
 2 gitlab-ci-token-secret.yaml  runner-cm.yaml  runner-rbac.yaml  runner-scripts-cm.yaml  runner-statefulset.yaml
 3 [root@master runner]# kubectl create -f .
 4 secret/gitlab-ci-token created
 5 configmap/gitlab-ci-runner-cm created
 6 serviceaccount/gitlab-ci created
 7 role.rbac.authorization.k8s.io/gitlab-ci created
 8 rolebinding.rbac.authorization.k8s.io/gitlab-ci created
 9 configmap/gitlab-ci-runner-scripts created
10 statefulset.apps/gitlab-ci-runner created

 

创建完成后，可以通过查看 Pod 状态判断 Runner 是否运行成功：

1 [root@master runner]# kubectl get pods -n kube-ops -o wide
2 NAME                          READY   STATUS    RESTARTS   AGE   IP            NODE    NOMINATED NODE   READINESS GATES
3 gitlab-7fdbb45b47-9wb6m       1/1     Running   0          19h   10.244.2.19   node2   <none>           <none>
4 gitlab-ci-runner-0            1/1     Running   0          69s   10.244.1.31   node1   <none>           <none>
5 gitlab-ci-runner-1            1/1     Running   0          40s   10.244.2.36   node2   <none>           <none>
6 postgresql-6656cdd577-48x6k   1/1     Running   1          19h   10.244.1.16   node1   <none>           <none>
7 redis-677888c84f-kl7kc        1/1     Running   0          19h   10.244.2.18   node2   <none>           <none>

 

可以看到已经成功运行了两个（具体取决于StatefulSet清单中的副本数) Runner 实例，然后切换到 Gitlab Admin 页面下面的 Runner 页面：

 

 至此，在kubernetes中安装Gitlab CI Runner结束，当然也可以根据需要更改 Runner 的一些配置，比如添加 tag 标签等。









 



标签：CI,Gitlab,kubernetes,Runner,gitlab,ci,runner
From： https://www.cnblogs.com/nb-blog/p/17916030.html

相关文章

  • 【scikit-learn基础】--『预处理』之 分类编码
    数据的预处理是数据分析，或者机器学习训练前的重要步骤。通过数据预处理，可以提高数据质量，处理数据的缺失值、异常值和重复值等问题，增加数据的准确性和可靠性整合不同数据，数据的来源和结构可能多种多样，分析和训练前要整合成一个数据集提高数据性能，对数据的值进行变换，规约等（比如......
  • 【洛谷】P1873 [COCI 2011/2012 #5] EKO / 砍树 （二分）
    题目描述见：P1873思路比较明确qwq因为答案显然满足单调性：当x超过某个数一定是错的（收集的木材大于m)，而小于x一定是对的，并且x是从0一直递增。故我们只需二分法找到x。直接看代码吧qwq精髓是check函数直接模拟题目要求ww#include<iostream>usingnamespacestd;#defineMAXN100......
  • 喜报：Ubuntu等系统下Jetrbrains IDE（IDEA、PyCharm等）fcitx/ibus输入问题已经被修复
    在该Issue被提出超过10年后，终于在2023.3RC2版本中修复了这个问题。RC2不是正式版，有需要的可以手动更新到2023.3RC2版本。https://youtrack.jetbrains.com/issue/JBR-2460/Wrong-position-of-input-window-and-no-input-preview-with-fcitx-and-ubuntu-13.04该bug的表现：在Ubunt......
  • apache HttpClient异常-ProtocolException: Target host is not specified
    昨夜，甘肃临夏州积石山县发生6.2级地震，影响到甘肃、青海地区。截至目前，已有100多人遇难。百度了一下当地天气，还挺冷，夜间温度低到-15℃。时间就是生命，祈祷难民尽快得到救援！  分享今天解决的一个生产问题告警。如下HTTP工具类中的httpClientPost方法使用apache的HttpClient（ma......
  • CIDR计算
    publicstaticstringIPV4CIDR(stringipstart,stringipend){varsl=ipstart.Split('.');varel=ipend.Split(".");StringBuildersbs=newStringBuilder();StringBuildersbe=newStringBuilder();List<char>......
  • P6370 [COCI2006-2007#6] KAMEN 题解
    原题链接：P6370思路题意不多赘述。首先这道题的\(60\)分暴力很好打，直接按题目中的操作做即可，时间复杂度\(O(nr)\)。考虑优化暴力。我们会发现很多次石头的起始点为同一列的情况，其实每一次下落的轨迹是差不多的。具体来讲应该是第一次下落的轨迹一定包含了后面每一次的轨迹。......
  • numpy、scipy、pandas、matplotlib的读书报告：
    Numpy:基础的数学计算模块，以矩阵为主,纯数学。SciPy:基于Numpy，提供方法(函数库)直接计算结果，封装了一些高阶抽象和物理模型。比方说做个傅立叶变换，这是纯数学的，用Numpy；做个滤波器，这属于信号处理模型了，在Scipy里找。Pandas:提供了一套名为DataFrame的数据结构，适合统计分析中的......
  • centos 7.9 二进制部署 kubernetes v1.27.7
    文章目录1.预备条件2.基础配置2.1配置root远程登录2.2配置主机名2.3安装ansible2.4配置互信2.5配置hosts文件2.6关闭防firewalld火墙2.7关闭selinux2.8关闭交换分区swap2.9修改内核参数2.10安装iptables2.11开启ipvs2.12配置limits参数2.13配置yum2.14配置时钟......
  • numpy、scipy、pandas、matplotlib的读书报告：
    numpy是Python中用于进行科学计算的基础模块，提供了多维数组对象ndarray以及相关的数学运算和线性代数函数。它能够快速高效地处理大量数据，并提供了丰富的数组操作和数学函数，是进行科学计算和数据分析的重要工具。numpy的主要功能有：创建和操作多维数组，如使用np.array()，np.arange()，n......
  • numpy、scipy、pandas、matplotlib的读书报告
    Numpy：存储和处理大型矩阵，比Python自身的嵌套列表结构高效，由C语言开发。数据结构为ndarray,一般有三种方式来创建。Pandas:基于NumPy 的一种工具，该工具是为了解决数据分析任务而创建的。Pandas 纳入了大量库和一些标准的数据模型，提供了高效地操作大型数据集所需的工具。最具有统......

赞助商

阅读排行

网站主页关于我们联系我们网站地图

本网站内容转载自其他媒体，侵权联系[admin##ips99.com]。

Copyright © 2020-2023 IPS99 版权所有 IPS99