Windows 10全新UI亮点前瞻！
|
DevOps知识框架概述 对于DevOps研发运维一体化，我在前面也写过了不少文章，包括了基础知识，敏捷研发，持续集成和交付，流水线设计，DevOps和容器云的集成，开源工具集，DevOps能力成熟度模型等方面的内容。 对于DevOps我在前面文章已经强调是企业进行数字化转型，微服务架构转型，云原生解决方案实践的一个关键内容。但是DevOps本身不是简单的类似配置管理，测试，构建，持续集成，发布等开源工具集的集成，更加重要的是整个开发组织敏捷文化的改进。 为何发布了这个框架? 简单来说就是企业数字化转型过程中，究竟对如何实施DevOps，自己应该先做哪些基础技术积累，应该采用哪些开源工具，整个研发管理和开发过程如何改进，实施应该如何分阶段循序渐进等并不清楚。 这就导致很多企业在实施DevOps的时候往往仅仅是个别的开发小组或项目在进行一些敏捷和持续集成的实践，而很难将整个DevOps上升到组织级，形成组织过程资产。 这个知识框架，从发布者的介绍主要包括了如下节点：
今天重点是对当前已经发布的内容做下初步分析和整理。
DevOps流水线定制 Facebook 研究院的 fairscale 有 ZeRO 的部分实现，ZeRO-Offload 正是基于 ZeRO 这一多 GPU 内存优化方法构建的。目前还不支持 CPU 卸载。 ZeRO-Offload 的工作原理
ZeRO-Offload 是基于 Zero Redundancy Optimizer (ZeRO) 构建的。ZeRO 是微软在 2020 年 2 月提出的一种万亿级模型参数训练方法，用于数据并行和模型并行训练中的内存优化，其中梯度、参数和优化器状态分布在多 GPU 内存中，没有任何冗余。这使得 GPU 之间的通信开销保持在比较低的状态。 （编辑：周口站长网） 【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容! |
