当前位置:首页 > 科技  > 软件

摸鱼心法——CI成就梦想

来源: 责编: 时间:2023-08-14 22:01:48 333观看
导读前两篇讲到了服务如何适配容器化我们在服务里做的一系列改造,服务可以很优雅的适配容器化环境了,但是有一个前提是服务得容器化,也就是说如何打包成镜像。自己手动构建推送镜像可不可以?当然可以,不过老话说得好,一个月几百

前两篇讲到了服务如何适配容器化我们在服务里做的一系列改造,服务可以很优雅的适配容器化环境了,但是有一个前提是服务得容器化,也就是说如何打包成镜像。自己手动构建推送镜像可不可以?当然可以,不过老话说得好,一个月几百块,你玩儿什命啊。你天天手动,手不累么?肩膀不酸吗?身体受得了吗?别再自己用手了,通过Gitlab CI来解放你的手,用你的手去做些更快乐的事情。fni28资讯网——每日最新资讯28at.com

首先聊聊我们面对的问题fni28资讯网——每日最新资讯28at.com

  1. 测试需要一个独立的测试环境,避免来自研发人员频繁提交代码带来的干扰,但是不想给测试人员带来额外的负担
  2. 开发环境和测试环境构建流程需要一致化,开发人员在本地就能触发多个环境的构建和部署
  3. 环境按照研发团队进行隔离,每个团队独立一套开发和测试环境,团队之间互不影响
  4. 服务在开发环境能正常运行再交由测试同学
  5. 部署生产环境时,保证部署的服务一定是测试后的版本,避免出现选择错误版本导致的线上问题
  6. 需要对生产环境中服务所需的CPU和内存用量有一个大概预估
  7. 生产环境服务出现问题,如何快速追溯到是哪个版本发布后出现的,从发布版本追溯到代码版本
  8. 我们不想引入其他的平台来增加复杂度,运维维护成本

针对上述几个问题,我们构建出了一个场景fni28资讯网——每日最新资讯28at.com

开发同学开发完成后先在开发环境里测试完成后自动部署至测试环境,测试同学进行多轮测试后标记可发布的服务版本,同时可能存在同一个服务根据不同的需求在多分支上的开发和测试问题。而生产环境部署时只能选择测试确认的服务版本进行发布上线,并且对于服务的资源配置要提供参考。线上运行过程中遇见的问题能追溯到发布版本和代码版本。fni28资讯网——每日最新资讯28at.com

结合问题、场景、容器化技术我们得出了以下的结论:fni28资讯网——每日最新资讯28at.com

  • 基于k8s namespace策略做环境隔离、团队隔离,通过资源限制策略、调度策略进行控制不同环境的资源用量,减少资源成本、维护成本
  • 多个开发环境和测试环境在提交代码后均可完成自动构建和部署
  • 将代码分支和部署环境进行匹配,同时支持根据不同环境注入不同的环境变量值(前一篇文章分享过)
  • 通过监控数据向正式环境提供服务运行CPU和内存的参考值,可以考虑直接用k8s VPA的策略(生产环境暂时不推荐使用),也可以考虑参考VPA的算法再结合监控数据进行计算,不过这个带来的问题是需要人工调整服务的Request/Limit值
  • 线上部署的应用服务记录版本号用于问题追溯到代码
  • 在不引入其他平台的前提下完成整个流程,我们就把目光聚焦在了gitlab提供的ci能力上了

为什么我们选择用gitlab ci?网上一搜索就有很多在讲优势劣势,这里说说我们看中的几个原因:fni28资讯网——每日最新资讯28at.com

1.轻量:内置在Gitlab平台中,和代码管理天然融合一体,而且上线的服务只用记录commit号在后续回溯代码时很方便fni28资讯网——每日最新资讯28at.com

2.易于配置:配置使用YAML文件进行定义,具有直观的语法。这使得构建、测试和部署流程可以以代码的方式进行管理,易于维护和版本控制fni28资讯网——每日最新资讯28at.com

3.扩展性强:如果标准任务不足以满足特定需求,可以无需侵入gitlab本身的代码,就能定制构建和部署流程fni28资讯网——每日最新资讯28at.com

总结下来,gitlab提供的ci从我们的角度看,够轻量,够简单,扩展性强。尤其是扩展性强这一点,这点让我们脸都笑开花了,可以低成本实现我们的想法,满足我们的想象力。fni28资讯网——每日最新资讯28at.com

先看看整体流程fni28资讯网——每日最新资讯28at.com

图片图片fni28资讯网——每日最新资讯28at.com

整套流程涵盖了开发阶段、线上运行阶段,首先开发阶段下,运维同学只需要在开发测试的k8s集群中为不同团队创建ns并做资源限制,后续的部署更新都是基于研发同学的代码提交触发,研发人员可在提交代码后通过gitlab pipeline查看ci构建、部署结果。开发环境中健康检查通过,研发测试没有问题后将该迭代版本的代码合并到对应的测试分支部署至测试ns交由测试人员进行测试,整体测试完成后标记服务镜像正式版本号。而后在平台上进行发布操作。后续运行过程中遇见的问题通过服务镜像号可以追溯到对应代码,修复后重复上述过程fni28资讯网——每日最新资讯28at.com

详细说说流程中的几个核心点

1.代码分支和环境对应

首先定义namespace名称困难不困难?困难,而且不只是这个名字困难,涉及到命名的时候都困难,方法名、变量名,尤其是变量名,当然如果说都是用i,j 这些来作为变量名也算的话那就不困难,但是别人看到了。。怕是要被刀。。fni28资讯网——每日最新资讯28at.com

所以namespace是基于gitlab组和分支规范较为方便,分支规范每家不一样没有对错之分,把握的原则只是分支与环境对应就好。举一个例子,分支命名dev作为开发分支前缀,test作为测试分支前缀,master作为主分支,gitlab上有两个组 team1,team2(team2和team1一样的逻辑图中就不多画了)fni28资讯网——每日最新资讯28at.com

图片图片fni28资讯网——每日最新资讯28at.com

这样做了之后,可以通过在ci中解析分支命名就可以在对应的namespace下创建有分支后缀的服务名了fni28资讯网——每日最新资讯28at.com

2.如何限制环境下的资源

通过k8s提供的resourcequotas限制每个namespace的资源上限,通过监控集群资源池和namespace的资源用量,来调整集群的整体资源池,如果使用的公有云还可以通过k8s提供的CA(Cluster Autoscaler)进行伸缩fni28资讯网——每日最新资讯28at.com

3.线上问题如何追溯到代码版本

在CI构建打包的时候,在gitlab runner中可以通过获取环境变量的方式来获取本次提交的commit值并自动添加到镜像版本号中,这样在后续通过镜像版本号便能追溯到对应的代码版本。fni28资讯网——每日最新资讯28at.com

4.为何只提ns,不提集群

这是因为ns是一个逻辑概念,是为了考虑k8s集群出现灾难性故障时,可以方便我们快速在一个新的k8s集群中迅速重建所有服务。同时也让一次CI部署多套集群成为可能。fni28资讯网——每日最新资讯28at.com

5.如何实现自行实现上述流程

从图中可知总共分成了4个大块,可以根据自己的需求去实现。fni28资讯网——每日最新资讯28at.com

  1. CI gitlab原生支持,只需要定义好一个ci.yml文件,然后其他的工程下引用这个文件就可以完成触发动作
  2. 开发测试环境部署这个可以通过各类语言对接k8s就能完成,不过我们推荐采用operator的形式进行实现,这样对于服务版本,信息注入更方便
  3. 生产环境部署目前市面上的k8s管理类平台不少,都是可以达成这个效果的
  4. 运行监控监控从两个维度来做,指标和日志。指标监控首推prometheus,日志可以采用EFK套件,较为成熟不过我们觉得成本太贵,Loki是一个不错的替代方案。我们的平台则是采用公司自研的数据库实现了日志模块。

本文链接:http://www.28at.com/showinfo-26-5758-0.html摸鱼心法——CI成就梦想

声明:本网页内容旨在传播知识,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。邮件:2376512515@qq.com

上一篇: 错误处理策略:Java开发者的MySQL数据库故障解决方案

下一篇: 每个前端开发者都应知道的14个实用网站

标签:
  • 热门焦点
  • K60至尊版刚预热 一加Ace2 Pro正面硬刚

    K60至尊版刚预热 一加Ace2 Pro正面硬刚

    Redmi这边刚如火如荼的宣传了K60 Ultra的各种技术和硬件配置,作为竞品的一加也坐不住了。一加中国区总裁李杰发布了两条微博,表示在自家的一加Ace2上早就已经采用了和PixelWo
  • 红魔电竞平板评测:大屏幕硬实力

    红魔电竞平板评测:大屏幕硬实力

    前言:三年的疫情因为要上网课的原因激活了平板市场,如今网课的时代已经过去,大家的生活都恢复到了正轨,这也就意味着,真正考验平板电脑生存的环境来了。也就是面对着这种残酷的
  • 多线程开发带来的问题与解决方法

    多线程开发带来的问题与解决方法

    使用多线程主要会带来以下几个问题:(一)线程安全问题  线程安全问题指的是在某一线程从开始访问到结束访问某一数据期间,该数据被其他的线程所修改,那么对于当前线程而言,该线程
  • 19个 JavaScript 单行代码技巧,让你看起来像个专业人士

    19个 JavaScript 单行代码技巧,让你看起来像个专业人士

    今天这篇文章跟大家分享18个JS单行代码,你只需花几分钟时间,即可帮助您了解一些您可能不知道的 JS 知识,如果您已经知道了,就当作复习一下,古人云,温故而知新嘛。现在,我们就开始今
  • Python异步IO编程的进程/线程通信实现

    Python异步IO编程的进程/线程通信实现

    这篇文章再讲3种方式,同时讲4中进程间通信的方式一、 Python 中线程间通信的实现方式共享变量共享变量是多个线程可以共同访问的变量。在Python中,可以使用threading模块中的L
  • 零售大模型“干中学”,攀爬数字化珠峰

    零售大模型“干中学”,攀爬数字化珠峰

    文/侯煜编辑/cc来源/华尔街科技眼对于绝大多数登山爱好者而言,攀爬珠穆朗玛峰可谓终极目标。攀登珠峰的商业路线有两条,一是尼泊尔境内的南坡路线,一是中国境内的北坡路线。相
  • “又被陈思诚骗了”

    “又被陈思诚骗了”

    作者|张思齐 出品|众面(ID:ZhongMian_ZM)如今的国产悬疑电影,成了陈思诚的天下。最近大爆电影《消失的她》票房突破30亿断层夺魁暑期档,陈思诚再度风头无两。你可以说陈思诚的
  • 花7万退货退款无门:谁在纵容淘宝珠宝商家造假?

    花7万退货退款无门:谁在纵容淘宝珠宝商家造假?

    来源:极点商业作者:杨铭在淘宝购买珠宝玉石后,因为保证金不够赔付,店铺关闭,退货退款难、维权无门的比比皆是。“提供相关产品鉴定证书,支持全国复检,可以30天无理由退换货。&
  • iQOO 11S新品发布会

    iQOO 11S新品发布会

    iQOO将在7月4日19:00举行新品发布会,推出杭州亚运会电竞赛事官方用机iQOO 11S。
Top