概念
服务治理遇到的问题
- 在微服务项目中每个服务都是独立运行的项目
不可能对每个项目进行手动部署,涉及到自动化运维的问题
持续集成
- 持续集成(Continues Integration,简称CI)
持续集成指的是,频繁(一天多次)地将代码集成到主干,优点有两个:
- 快速发现错误: 每完成一点更新, 就集成到主干,可以快速发现错误,定位错误
- 防止分支大幅偏离主题: 如果不是经常集成,主干又在不断更新,会导致以后集成难度变大,甚至难以集成
- 持续集成强调:开发人员提交了新的代码之后,立即进行构建,(单元)测试,根据测试结果,确定新代码和原有代码能否集成到一起
与集成相关的概念还有持续交付和持续部署
使用GitLab持续集成
- GitLab8.0以后,GitLab CI就已经集成在GitL中,只要在项目中添加一个 .gitlab-ci.yml文件,然后添加一个Runner,就可以进行持续集成
Pipeline
- Pipeline: 管道 ,一次Pipeline相当于一次构建任务,可以包含多个流程:安装依赖,运行测试,编译,部署测试服务器,部署生产服务器等流程
- 任何提交或者Merge Request的合并都可以触发Pipeline
Stages
Stages表示构建阶段,也就是上面的流程,可以在一次Pipeline中构建多个Stages,这些Stages的特点:
- 所有Stages会按照顺序运行: 即当一个Stage完成后,下一个Stage才会开始
- 只有当所有Stages完成后,该构建任务(Pipeline)才会成功
- 如果任何一个Stage失败,那么后续的Stages都不会执行,该构建任务(Pipeline)失败
Jobs
Jobs表示构建工作,表示某个Stage里面执行的工作,可以在Stages里定义多个Jobs,这些Jobs特点:
- 相同Stage中的Jobs会并行执行
- 相同Stage中的Jobs都执行成功时,该Stage才会执行成功
如果任何一个Job失败,那么该Stage失败,即构建任务(Pipeline)失败
持续交付
持续交付(Continuous Delivery):
- 频繁地将软件的新版本,交付给质量团队或用户以供评审
- 评审通过,代码就进入生产阶段
- 持续交付是持续集成的下一步,强调的是:不管怎么更新,软件是随时随地可以交付的
持续交付是在持续集成的基础上,将集成后的代码部署到更接近真实运行环境的类生产环境(production-like environment)中
持续部署
- 持续部署(Continuous Deployment)是持续交付的下一步,指的是代码通过评审后,自动部署到生产环境
- 持续部署的目标: 代码在任何时刻都是可部署的,可进入生产阶段
持续部署的前提: 自动化完成测试,构建,部署等步骤
GitLab Runner
GitLab CI
- 一般来说,构建任务会占用很多的系统资源(编译代码时),由于GitLab CI是GitLab的一部分,由GitLab CI来运行构建任务的化,GitLab的性能会大大下降
GitLab CI最大的作用: 是管理各个项目的构建状态
GitLab Runner
- GitLab Runner可以安装到不同的机器上,在构建任务运行期间不会影响GitL的性能
基于Docker安装GitLab Runner:
1.创建工作目录: /usr/local/docker/runner 2.创建构建目录: /usr/local/docker/runner/environment 3.下载jdk-8u152-linux-x64.tar.gz复制到/usr/local/docker/runner/environment 4.下载apache-maven-3.5.3-bin.tar.gz复制到/usr/local/docker/runner/environment daemon.json 1.在/usr/local/docker/runner/environment目录下创建daemon.json,用于配置加速器和仓库地址 ------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------- { "registry-mirrors":[ "https://registry.docker-cn.com" ], "insecure-registries":[ "127.0.0.1:5000" ] } ---------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------- Dockerfile 1.在 /usr/local/docker/runner/environment目录下创建Dockerfile --------------------------------------------------------------------------------------------------------------------------------------------------------------------------------- FROM gitlab/gitlab-runner MAINTAINER Lusifer <topsale@vip.qq.com> # 修改软件源 RUN echo 'deb http://mirrors.aliyun.com/ubuntu/ xenial main restricted universe multiverse' > /etc/apt/sources.list && \ echo 'deb http://mirrors.aliyun.com/ubuntu/ xenial-security main restricted universe multiverse' >> /etc/apt/sources.list && \ echo 'deb http://mirrors.aliyun.com/ubuntu/ xenial-updates main restricted universe multiverse' >> /etc/apt/sources.list && \ echo 'deb http://mirrors.aliyun.com/ubuntu/ xenial-backports main restricted universe multiverse' >> /etc/apt/sources.list && \ apt-get update -y && \ apt-get clean # 安装 Docker RUN apt-get -y install apt-transport-https ca-certificates curl software-properties-common && \ curl -fsSL http://mirrors.aliyun.com/docker-ce/linux/ubuntu/gpg | apt-key add - && \ add-apt-repository "deb [arch=amd64] http://mirrors.aliyun.com/docker-ce/linux/ubuntu $(lsb_release -cs) stable" && \ apt-get update -y && \ apt-get install -y docker-ce COPY daemon.json /etc/docker/daemon.json # 安装 Docker Compose WORKDIR /usr/local/bin RUN wget https://raw.githubusercontent.com/topsale/resources/master/docker/docker-compose RUN chmod +x docker-compose # 安装 Java RUN mkdir -p /usr/local/java WORKDIR /usr/local/java COPY jdk-8u152-linux-x64.tar.gz /usr/local/java RUN tar -zxvf jdk-8u152-linux-x64.tar.gz && \ rm -fr jdk-8u152-linux-x64.tar.gz # 安装 Maven RUN mkdir -p /usr/local/maven WORKDIR /usr/local/maven # RUN wget https://raw.githubusercontent.com/topsale/resources/master/maven/apache-maven-3.5.3-bin.tar.gz COPY apache-maven-3.5.3-bin.tar.gz /usr/local/maven RUN tar -zxvf apache-maven-3.5.3-bin.tar.gz && \ rm -fr apache-maven-3.5.3-bin.tar.gz # COPY settings.xml /usr/local/maven/apache-maven-3.5.3/conf/settings.xml # 配置环境变量 ENV JAVA_HOME /usr/local/java/jdk1.8.0_152 ENV MAVEN_HOME /usr/local/maven/apache-maven-3.5.3 ENV PATH $PATH:$JAVA_HOME/bin:$MAVEN_HOME/bin WORKDIR / -------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------- docker-compose.yml 在 /usr/local/docker/runner 目录下创建 docker-compose.yml --------------------------------------------------------------------------------------------------------------------------------------------------------------------------- # 表示从 environment 目录下寻找 Dockerfile，即在Docker 里装 Docker version: '3.1' services: gitlab-runner: build: environment restart: always container_name: gitlab-runner privileged: true volumes: - ./config:/etc/gitlab-runner - /var/run/docker.sock:/var/run/docker.sock ------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------构建镜像并启动
在/usr/local/docker/runner目录下执行:
docker-compose build
注册 Runner
启动容器在/usr/local/docker/runner目录下执行命令启动:
docker-compose up进入容器自动执行注册流程,在/usr/local/docker/runner目录下执行(后面gitlab-runner register时脚本命令):
docker exec -it gitlab-runner gitlab-runner register打开 GitLab,进入持续集成设置界面
在交互式终端中填入 Git Lab 提供的 URL 和 token
Please enter the gitlab-ci coordinator URL (e.g. https://gitlab.com/): http://192.168.1.21/ Please enter the gitlab-ci token for this runner: kTx_PUnx_hhy63pNJtqM Please enter the gitlab-ci description for this runner: [c77b5e39a2a6]: Please enter the gitlab-ci tags for this runner (comma separated): Registering runner... succeeded runner=kTx_PUnx Please enter the executor: docker, shell, ssh, docker-ssh+machine, docker+machine, kubernetes, docker-windows, docker-ssh, parallels, virtualbox: shell Runner registered successfully. Feel free to start it, but if it's running already the config should be automatically reloaded!docker exec -it gitlab-runner gitlab-runner register # 交互式配置说明: # 输入GitLab地址 Please enter the gitlab-ci coordinator URL(e.g. https://gitlab.com/) http://192.168.32.255/ # 输入GitLab Token Please enter the gitlab-ci token for this runner: kTx_PUnx_hhy63pNJtqM # 输入Runner的说明 Please enter the gitlab-ci description for this runner: 可以不填为空 # 设置Tag,用于指定在构建规定的tag时触发ci,如果不设置,默认每次都会触发ci Please enter the gitlab-ci tags for this runner (comma separate): deploy # 这里选择true,用于代码上传后直接执行 Whether to run utagged builds [true/false]: true # 这里选择false,可以直接回车,默认false Whether to lock Runner to current project [true/false]: false # 选择runner执行器,这里选择shell Please enter the executor: virtualbox,docker+machine,parallels,shell,ssh,docker-ssh+machine,kubernetes,docker,docker-ssh: shell
使用Runner
在项目工程下编写 .gitlab-ci.yml文件:
stages: - install_deps - test - build - deploy_test - deploy_production cache: key: ${CI_BUILD_REF_NAME} paths: - node_modules/ - dist/ # 安装依赖 install_deps: stage: install_deps only: - develop - master script: - npm install # 运行测试用例 test: stage: test only: - develop - master script: - npm run test # 编译 build: stage: build only: - develop - master script: - npm run clean - npm run build:client - npm run build:server # 部署测试服务器 deploy_test: stage: deploy_test only: - develop script: - pm2 delete app || true - pm2 start app.js --name app # 部署生产服务器 deploy_production: stage: deploy_production only: - master script: - bash scripts/deploy/deploy.sh提交项目之后,就会执行Runner
在项目工程下创建docker文件夹,创建Dockerfile
FROM openjdk:8-jre MAINTAINER Chova # 环境变量 ENV APP_VERSION 1.0.0-SNAPSHOT # Docker插件,用来检测依赖项,只有依赖项启动才会启动 ENV DOCKERIZE_VERSION v0.6.1 RUN wget https://github.com/jwilder/dockerize/release/download/$DOCKERIZE_VERSION/dockerize-linux-amd64-$DOCKERIZE_VERSION.tar.gz \ && tar -C /usr/local/bin -xzvf dockerize-linux-amd64-$DOCKERIZE_VERSION.tar.gz \ && rm dockerize-linux-amd64-$DOCKERIZE_VERSION.tar.gz RUN mkdir /app COPY myshop-service-user-provider-$APP_VERSION.jar /app/app.jar ENTRYPOINT ["dockerize", "-timeout", "5m", "-wait", "tcp://192.168.32.255.131:3306", "java", "-Djava.security.egd=file:/dev/./urandom", "-jar", "/app/app.jar"] EXPOSE 8501Dockerfile:
--------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------- FROM openjdk:8-jdk-alpine VOLUME /tmp ARG JAR_FILE COPY ${JAR_FILE} app.jar ENTRYPOINT ["java","-jar","/app.jar"] --------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------- 1.FROM: 这是引入一个父镜像,在此基础上进行添加只读层.镜像可以理解成由一层层只读层组成, FORM下面的命令,可以理解就是在已有的只读层,添加只读层.FORM可以有多个,但最上面的一定是FROM命令 2.VOLUME: 配置一个具有持久化功能的目录,主机 /var/lib/docker 目录下创建了一个临时文件,并链接到容器的/tmp.该步骤是可以省略的 默认情况下,容器不使用任何 volume,此时,容器的数据被保存在容器之内,它只在容器的生命周期内存在,会随着容器的被删除而被删除 如果不想在容器删除后,容器的数据也被删除,那么就可以指定持久化目录.它被设计用来保存数据，而不管容器的生命周期.因此,当你删除一个容器时,Docker不会自动地删除一个volume 3.ARG:设置编译镜像时加入的参数,可以省略 4.COPY:只支持将本地文件复制到容器,还有个ADD更强大但复杂点 5.ENTRYPOINT:容器启动时执行的命令删除所有为<none>的镜像
docker rmi $(docker images -q -f dangling=true)在docker-compose.yml中配置默认使用已经存在的网络
version: '3.1' services: myshop-service-user-provider: image: 192.168.32.255:5000/myshop-service-user-provider:v1.0.0 container_name: myshop-service-user-provider ports: - 8501:8501 - 22222:22222 - 20881:20881 # 配置容器连接的网络 networks: default: external: name: dubbo
**粗体** _斜体_ [链接](http://example.com) `代码` - 列表 > 引用。你还可以使用@来通知其他用户。