企业数字化基石——阿里巴巴云计算基础设施实践
  • 推荐0
  • 收藏0
  • 浏览88

企业数字化基石——阿里巴巴云计算基础设施实践

高山渊 蔡德忠 赵晓雪 刘礼寅 刘水旺 陈义全 徐波 编著 (作者) 

  • 丛  书:阿里巴巴集团技术丛书
  • 书  号:978-7-121-37388-6
  • 出版日期:2020-01-01
  • 页  数:352
  • 开  本:16(170*240)
  • 出版状态:上市销售
  • 维护人:孙学瑛
在互联网行业中,云计算基础设施技术具有非常重要的作用与影响,一方面,在电商、金融科技、云计算、大数据、AI等重要战略领域发展的过程中,云计算基础设施技术的重要支撑作用已经无可替代;另一方面,云计算基础设施技术已经成为许多类型业务的直接竞争力,甚至在云计算、AI等领域中,计算能力、存储能力、网络能力都成为业务的一部分。本书将详细地阐述阿里巴巴在基础设施上的实践细节及先进技术,包括数据中心、网络、服务器、计算硬件、存储硬件,以及智能化运营与自动化运维等内容。
本书是由AIS(Alibaba Infrastructure Service)组织编写的,历时三年,AIS是负责阿里巴巴集团所有基础设施的研发、运营、维护等工作的部门。本书梳理了基础设施演进过程中的思路、得失、最佳实践、未来路径规划等,可以让IT企业的管理者、软件工程师、测试工程师、运维工程师、软件架构师、技术经理能够更清晰地知道基础设施的根本在哪里,而且还可以让IT企业客户对基础设施的发展和未来有一定的了解,以便更好地使用基础设施提供的技术和服务,让阿里巴巴在基础设施上的经验成为国家和行业基础设施发展的参考。
本书是对阿里巴巴云计算基础设施技术实践的全面总结,它不仅全方位地描述了作为阿里巴巴经济体数字化基石的云计算基础设施技术诸多细节,更是一部芯片、存储、网络,以及云计算技术演进的风云变幻史,本书是值得记入中国IT技术历史浓墨重彩的一笔!
本书得到了阿里巴巴集团CTO兼阿里云智能事业群总裁张建锋(行癫)、阿里巴巴集团副总裁基础设施事业部负责人周明、中国信息通信研究院云计算与大数据研究所所长、开放数据中心委员会名誉主席何宝宏三位的亲笔作序推荐。
主要作者简介
高山渊,花名康伯,2004年进入互联网行业,2007年加入阿里巴巴集团,先后负责过阿里巴巴的CDN运维、聚石塔、大数据平台(ODPS/Hadoop)、云计算、服务器、数据中心等运维和研发工作,现担任AIS(阿里巴巴基础设施事业部)首席架构师及IDC研发事业部总经理。
蔡德忠,阿里云智能基础设施首席网络架构师,负责阿里巴巴基础网络架构工作,主持设计了全新一代高可靠、高智能和低延时(HAIL)数据中心架构,以及基于SDN和SR的全球网络流量调度系统,领导了阿里巴巴IPv6的架构设计和大规模部署。在此之前,Dennis 作为思科 Distinguished Engineer,在美国思科担任运营商事业群全球市场产品和解决方案 Lead Architect。联合著作及贡献过多项Internet RFCs 标准和十几项美欧专利。获得清华大学工学学士,北京大学和美国 DePaul University 计算机科学硕士学位。
赵晓雪,现任阿里巴巴研究员,阿里云智能基础设施智能运维团队负责人。加入阿里巴巴之前在美国谷歌总部基础设施部门任职多年。在数据中心,云计算和网络等领域都有丰富的研究和实践经验。美国加州大学伯克利分校博士。拥有多项专利和论文。
前 言
随着云计算的广泛应用,特别是为创新企业带来的低成本、高效率赋能创新的优势,云计算基础设施技术成为当下创新非常活跃的领域。
为什么写本书
阿里巴巴的云计算基础设施技术的演进和发展,是阿里巴巴集团整体发展的一部分,也是阿里巴巴未来业务能否成功的核心因素。在这个过程中,我们有很多的思考和实践、尝试和创新,以及经验和教训,并取得了一定的成果,面向未来也有了越来越明确的思路和规划。我们希望通过这本书将云计算基础设施技术的过去、现在和将来呈现给读者,让阿里巴巴在云计算基础设施技术上的实践经验成为国家和行业云计算基础设施发展的重要参考。
本书主要内容
本书针对云计算基础设施技术的各方面做了概要性的介绍和说明,包括互联网数据中心(IDC)、网络、服务器计算、存储、智能化等。这些方面的每一项都是一个非常专业和复杂的技术领域,本书力图能简明扼要地加以说明。
第1章 基础设施架构综述,简要介绍云计算基础设施技术的范围、价值、挑战等。
第2章 TCO建模,介绍TCO的概念,数据中心、服务器、网络设备的TCO组成,以及如何在系统层面进行TCO分析和建模,并做出最优的选择。
第3章 数据中心能效,介绍如何系统地评估数据中心能效水平,如PUE、SPUE、IUE等。
第4章 数据中心,介绍狭义数据中心的核心技术,包括供电、制冷等的挑战、发展趋势。
第5章 数据中心网络架构和关键技术,介绍阿里巴巴数据中心的网络架构和关键技术,包括历史回顾、架构理念、高性能网络、网络可视化等。
第6章 服务器技术,介绍服务器的硬件组成、演进、挑战等。
第7章 计算硬件技术,介绍通用计算、异构计算、总线互联等。
第8章 存储硬件技术,介绍内存、HDD、SSD及阿里巴巴自研存储产品AliFlash等。
第9章 基础设施智能化运营与自动化运维,介绍大规模云计算基础设施的运营和运维的自动化、数据化、智能化等内容。
第10章 IDC、网络、服务器的一体化,介绍如何在技术演进中让IDC建筑、网络大集群、服务器协同发展,并提供最优的解决方案。
第11章 总结及展望,面向未来,云计算基础设施技术如何进一步提升能力、支持创新。
致谢
本书从策划到成稿,再到出版经历了三年多的时间,前后有百余位同事参加了规划、构思、写作、校对等工作,署名的作者及致谢名单未能将每一位参与者一一列出,在这里一并致谢。
感谢在本书写作过程中基础设施事业部的各位管理者给予的支持,给予本书大方向的把控及人力上的支持。
感谢电子工业出版社的认可,让本书得以出版,感谢孙学瑛老师及其团队细致、艰苦的工作,让本书最终能够与读者见面。
由于作者水平有限,书中不足及错误之处在所难免,敬请专家和读者给予批评指正。
高山渊
2019年12月

目录

目 录
第1章 基础设施架构综述 / 1
1.1 基础设施的概念 / 1
1.2 基础设施作为技术驱动力 / 3
1.3 基础设施的技术价值 / 7
1.3.1 技术安全 / 8
1.3.2 稳定性 / 9
1.3.3 TCO / 10
1.3.4 稳定性、性能、成本的平衡 / 11
1.3.5 追求效率、标准化、规范化 / 11
1.4 基础设施的核心竞争力特征 / 12
第2章 TCO建模 / 13
2.1 静态TCO模型 / 14
2.1.1 数据中心CapEx / 15
2.1.2 服务器及网络设备CapEx / 16
2.1.3 OpEx / 16
2.1.4 产能/TCO / 16
2.2 动态TCO模型 / 17
2.3 TCO最优 / 18
第3章 数据中心能效 / 22
3.1 数据中心电能利用率 / 22
3.2 数据中心服务器电能利用率 / 30
3.2.1 服务器电源的能效 / 31
3.2.2 服务器风扇的能效 / 33
3.3 数据中心基础设施使用率 / 35
3.4 小结 / 37
第4章 数据中心 / 39
4.1 数据中心面临的挑战 / 39
4.1.1 中国能源供给结构对数据中心
的影响 / 39
4.1.2 新政策环境下数据中心面临的
技术升级挑战 / 41
4.1.3 云计算业务给数据中心带来的
机遇与挑战 / 41
4.2 数据中心技术的发展趋势 / 43
4.2.1 数据中心技术演进的路线与
趋势 / 43
4.2.2 阿里巴巴数据中心的演进路线
与趋势 / 46
4.3 数据中心能源与供电技术 / 49
4.3.1 数据中心能源的选择与引入 / 49
4.3.2 数据中心电气系统架构演进的
趋势与路线 / 54
4.3.3 数据中心电气关键技术与设备 / 59
4.4 阿里巴巴数据中心供电工程
实践案例 / 68
4.4.1 分布式不间断供电和集中式
不间断供电的比较 / 68
4.4.2 240V+PSU集中供电系统 / 70
4.4.3 天蝎BBS / 71
4.4.4 服务器BBU / 73
4.4.5 机柜DPS / 74
4.5 数据中心制冷技术 / 76
4.5.1 数据中心制冷系统架构的选择
与设计 / 76
4.5.2 连续制冷 / 89
4.5.3 制冷系统的节能措施 / 91
4.6 面向下一代IT系统的冷却技术 / 96
4.6.1 液冷技术简介 / 96
4.6.2 冷板式液冷技术 / 98
4.6.3 浸没式液冷技术 / 99
4.6.4 不同冷却技术对比 / 100
4.7 数据中心制冷技术的发展
趋势 / 102
4.8 阿里巴巴数据中心冷却工程
实践案例 / 103
4.8.1 千岛湖数据中心 / 103
4.8.2 张北新风自然冷数据中心 / 105
第5章 数据中心网络架构和关键
技术 / 112
5.1 超大规模数据中心网络概述 / 112
5.1.1 超大规模数据中心的网络架构
及其技术演变 / 112
5.1.2 超大规模数据中心网络的未来
发展趋势 / 115
5.2 阿里巴巴数据中心网络 / 118
5.2.1 云计算对数据中心网络的核心
要求 / 118
5.2.2 阿里巴巴数据中心网络架构
演进 / 120
5.2.3 阿里巴巴数据中心网络HAIL
架构的设计理念 / 122
5.2.4 阿里巴巴数据中心网络HAIL
架构简介 / 130
5.2.5 阿里巴巴数据中心交换机 / 131
5.2.6 阿里巴巴 vSwitch / 138
5.2.7 阿里巴巴数据中心网络光互联
技术 / 141
5.3 数据中心网络协议和高性能
网络 / 142
5.3.1 数据中心网络互联协议 / 142
5.3.2 高性能网络 RDMA技术 / 145
5.4 可编程芯片和高性能网关
平台 / 146
5.4.1 基于x86高性能软件网关平台
Netframe / 146
5.4.2 基于可编程交换机与SDN技术
的硬件交换平台 / 147
5.5 网络可视化技术 / 148
5.5.1 网络可视化前端技术 / 149
5.5.2 网络可视化后端技术 / 150
5.6 城域网光传输技术 / 151
5.6.1 城域网架构简介 / 151
5.6.2 光传输技术 / 154
第6章 服务器技术 / 159
6.1 服务器简介 / 159
6.1.1 服务器系统分级 / 160
6.1.2 服务器行业生态 / 161
6.1.3 服务器应用场景 / 162
6.1.4 服务器面临的挑战 / 162
6.1.5 服务器设计考虑 / 163
6.2 服务器研发和技术体系 / 164
6.2.1 数据中心服务器研发模式 / 165
6.2.2 数据中心服务器工程技术之
主板 / 167
6.2.3 数据中心服务器工程技术之
散热技术 / 170
6.2.4 服务器结构工程技术 / 174
6.2.5 服务器监控及运维体系 / 189
6.2.6 服务器测试及性能评估
体系 / 191
6.3 软硬件优化 / 197
6.4 服务器演进展望 / 198
6.4.1 阿里巴巴的服务器演进 / 198
6.4.2 计算/存储分离和部件化 / 199
6.4.3 进一步解耦CPU-Storage,
CPU-GPU,CPU-MEM和
架构一体化 / 201
6.5 硬件安全体系 / 203
6.5.1 可信计算 / 204
6.5.2 可信执行环境 / 205
6.5.3 内存安全 / 208
6.5.4 构建完善的硬件安全体系 / 209
第7章 计算硬件技术 / 211
7.1 通用计算 / 212
7.1.1 x86 / 212
7.1.2 Non-IA / 215
7.1.3 Non-IA与x86的比较 / 218
7.1.4 典型业务与通用计算 / 219
7.2 异构计算 / 221
7.2.1 GPU / 221
7.2.2 FPGA / 225
7.2.3 ASIC / 227
7.2.4 CPU、GPU、FPGA、ASIC
简单比较 / 230
7.3 边缘计算 / 230
7.4 总线互联 / 233
7.4.1 QPI/UPI / 233
7.4.2 NV-Link / 234
7.4.3 CAPI / 234
7.4.4 CCIX / 235
7.5 计算与业务软硬件结合 / 236
7.6 小结 / 238
第8章 存储硬件技术 / 239
8.1 内存 / 240
8.1.1 DDR / 240
8.1.2 NVDIMM与UltraDIMM / 241
8.1.3 AEP / 243
8.1.4 HBM与HMC / 243
8.2 HDD / 245
8.2.1 基本原理 / 245
8.2.2 大容量硬盘应用 / 247
8.2.3 HDD的发展趋势 / 251
8.3 SSD / 251
8.3.1 NAND Flash / 254
8.3.2 2D/3D NAND / 254
8.3.3 SSD的使用 / 259
8.4 新型存储介质 / 261
8.4.1 3D XPoint / 261
8.4.2 ReRAM / 264
8.4.3 NVMe / 265
8.5 新型存储介质应用 / 265
8.6 自研存储产品AliFlash / 269
8.6.1 双模式SSD / 269
8.6.2 开放通道模式 / 270
8.6.3 开放通道模式的应用路径 / 272
8.6.4 AliFlash与业务软硬件结合 / 273
8.7 存储路径 / 276
8.7.1 传统文件系统 / 276
8.7.2 KV存储 / 278
8.7.3 SPDK / 279
8.8 NVMoF / 280
8.9 近存储计算 / 283
8.9.1 本地近存储计算 / 283
8.9.2 远端近存储计算 / 285
8.10 小结 / 288
第9章 基础设施智能化运营与
自动化运维 / 289
9.1 基础设施资源运营智能化 / 290
9.1.1 需求预测 / 291
9.1.2 数据中心机架位容量规划 / 293
9.1.3 智能制造的发展趋势 / 295
9.2 基础设施资源交付自动化 / 296
9.2.1 通过带外网络实现的远程自动
开关机 / 296
9.2.2 服务器操作系统自动化安装 / 297
9.2.3 自动化部署遇到的问题及解决
方案 / 300
9.3 基础设施智能监管控 / 300
9.3.1 可用性监控分析 / 301
9.3.2 电热异常感知 / 301
9.3.3 能效优化 / 304
9.4 物理机自动化维修 / 305
9.4.1 故障发现 / 305
9.4.2 故障预测 / 307
9.4.3 故障维修 / 307
9.5 集群自动化运维 / 309
9.5.1 集群自动化运维的主要设计
思想 / 309
9.5.2 物理机集群智能自愈系统 / 311
9.6 网络智能变更系统 / 314
9.6.1 变更稳定性挑战 / 314
9.6.2 解决方案 / 315
9.6.3 网络智能化变更系统 / 316
9.7 无人值守的数据中心 / 317
第10章 IDC、网络、服务器的
一体化 / 319
10.1 基础设施的最优化匹配 / 319
10.1.1 大集群与业务的最优匹配 / 319
10.1.2 IDC建筑、网络大集群、服务
器的宏观优化 / 320
10.1.3 机架功耗、服务器功耗、网
络端口利用率的微观优化 / 321
10.2 整机架交付:OCP、天蝎
与AliRack / 322
10.3 面向业务的一体化解决方案:
HPC、超算、AI / 323
10.4 系统技术分层与协作 / 327
10.5 全系统模拟器 / 328
第11章 总结及展望 / 330
11.1 2022年——世界第一的基础
设施 / 330
11.2 基础设施5.0——AI、异构、
智能化 / 332
11.3 基础设施6.0——一体化最优
基础设施架构 / 332
11.4 五年之后的基础设施——创新
的机制保障 / 333
11.4.1 NASA与达摩院——阿里巴巴
的科技创新 / 333
11.4.2 AIS的创新机制 / 333
11.4.3 前瞻布局与战略拖动 / 334
11.5 量子与未来 / 334
11.5.1 量子通信 / 334
11.5.2 量子计算 / 335

读者评论

下载资源

相关博文

  • 阿里免费开放一切AI算力的背后是什么?

    阿里免费开放一切AI算力的背后是什么?

    陈晓猛 2020-02-10

    为加速新冠疫苗研发,日前阿里云已免费开放其一切AI算力。同时,阿里云将与合作机构向全球科学共同体免费开放相关药物研发资源,共同加速针对新型冠状病毒的药物研发。这若干项举措背后的助力,源自于阿里巴巴强大的云计算基础设施。 本文节选自...

    陈晓猛 2020-02-10
    37 0 0 0

同系列书

  • 深入分析Java Web技术内幕(修订版)

    《深入分析Java Web技术内幕(修订版)》主要围绕Java Web 相关技术从三方面全面、深入地进行了阐述。首先介绍前端知识,即在JavaWeb 开发中涉及...

    ¥79.00
  • 尽在双11——阿里巴巴技术演进与超越

    阿里巴巴集团双11技术团队 (作者)

    “双 11”,诞生于杭州,成长于阿里,风行于互联网,成就于新经济,贡献于全世界。 从 2009 年淘宝商城起,双 11 已历经八年。每年的双 11 既是当年的...

    ¥49.00
  • 机器学习在线:解析阿里云机器学习平台

    杨旭 (作者)

    以机器学习中的典型案例为主线,条分缕析梳理阿里云的平台功能,讲解如何用阿里云的机器学习平台来实现各类应用,包括商家作弊检测、生存预测、信用风险预测、用户购买行为...

    ¥79.00
  • 大数据大创新:阿里巴巴数据中台业务模式解密

    邓中华 (作者)

    阿里巴巴云上数据中台正服务着阿里生态中的数十个业务板块、百余家公司、千万级客户,在帮助决策层看清甚至决定业态走向的同时,在上万个业务场景中应用并催生创新。<br...

    ¥99.00
  • 企业数字化基石——阿里巴巴云计算基础设施实践

    高山渊 蔡德忠 赵晓雪 刘礼寅 刘水旺 陈义全 徐波 编著 (作者)

    在互联网行业中,云计算基础设施技术具有非常重要的作用与影响,一方面,在电商、金融科技、云计算、大数据、AI等重要战略领域发展的过程中,云计算基础设施技术的重要支...