Serverless核心技術(shù)和大規(guī)模實(shí)踐

第 1 章 Serverless 基礎(chǔ)知識 1
1.1　Serverless 基礎(chǔ)概念　1
1.1.1　Serverless 理念　1
1.1.2　Serverless 技術(shù)特點(diǎn)　2
1.2　Serverless 技術(shù)能力　4
1.3　Serverless 應(yīng)用場景　4
1.4　本章小結(jié)　7
第　2 章 業(yè)內(nèi)概況　9
2.1　業(yè)界產(chǎn)品　9
2.1.1　AWS Lambda　9
2.1.2　Google Cloud Platform　10
2.1.3　Cloudflare Workers　11
2.1.4　Compute@Edge　13
2.2　開源項(xiàng)目　13
2.2.1　OpenFaaS　13
2.2.2　Fission　14
2.2.3　Knative　15
2.3　字節(jié)跳動 ByteFaaS　15
2.3.1　定位、特點(diǎn)和生態(tài)　15
2.3.2　整體架構(gòu)　16
2.3.3　應(yīng)用規(guī)模　18
2.4　本章小結(jié)　18
第　3 章 FaaS 控制面　19
3.1　控制面的整體架構(gòu)　19
3.2　多地區(qū)多機(jī)房部署　21
3.2.1　單地區(qū)多機(jī)房容災(zāi)部署　21
3.2.2　多地區(qū)統(tǒng)一控制面　22
3.3　構(gòu)建和發(fā)布　24
3.3.1　構(gòu)建　24
3.3.2　發(fā)布　25
3.4　可觀測性　27
3.4.1　日志　27
3.4.2　監(jiān)控　29
3.4.3　鏈路追蹤　31
3.5　開發(fā)體驗(yàn)　31
3.5.1　ByteFaaS CLI　32
3.5.2　本地調(diào)試　33
3.5.3　在線調(diào)試　34
3.6　本章小結(jié)　37
第　4 章 FaaS 數(shù)據(jù)面　39
4.1　數(shù)據(jù)面整體架構(gòu)　39
4.2　函數(shù)實(shí)例管理　41
4.2.1　函數(shù)實(shí)例的服務(wù)發(fā)現(xiàn)　41
4.2.2　函數(shù)實(shí)例的就緒檢測　42
4.3　函數(shù)流量調(diào)度　44
4.3.1　函數(shù)請求并發(fā)控制　45
4.3.2　函數(shù)分片　46
4.3.3　函數(shù)實(shí)例緩存　48
4.3.4　自適應(yīng)降載　49
4.4　函數(shù)冷啟動優(yōu)化　51
4.4.1　冷啟動問題背景　51
4.4.2　鏡像代碼分離　52
4.4.3　函數(shù)實(shí)例預(yù)熱　53
4.4.4　冷啟動實(shí)例調(diào)度　54
4.4.5　用戶側(cè)優(yōu)化　56
4.5　函數(shù)代碼分發(fā)　57
4.5.1　多級緩存　58
4.5.2　下載優(yōu)化　59
4.5.3　大規(guī)模分發(fā)　59
4.6　本章小結(jié)　61
第　5 章 FaaS 運(yùn)行時(shí)　63
5.1　函數(shù)運(yùn)行時(shí)　63
5.1.1　函數(shù)運(yùn)行時(shí)規(guī)范　64
5.1.2　函數(shù)實(shí)例生命周期　67
5.2　函數(shù)運(yùn)行時(shí)隔離技術(shù)　70
5.2.1　基于 Docker 的容器封裝隔離 .　70
5.2.2　從 Docker 到 containerd 的遷移　71
5.2.3　輕量級虛擬化：從 runC 到 Kata Containers　73
5.2.4　Unikernel　76
5.2.5　進(jìn)程內(nèi)隔離　78
5.3　函數(shù)運(yùn)行時(shí)性能優(yōu)化　80
5.3.1　RuntimeAgent 進(jìn)程和數(shù)據(jù)面性能損耗　81
5.3.2　在 net/http 基礎(chǔ)上的優(yōu)化　81
5.3.3　更優(yōu)的 CPU、內(nèi)存分配策略　84
5.4　本章小結(jié)　86
第　6 章 FaaS 觸發(fā)器　87
6.1　FaaS 平臺常見的觸發(fā)器　87
6.1.1　觸發(fā)器的分類　87
6.1.2　HTTP 觸發(fā)器的設(shè)計(jì)與實(shí)現(xiàn) .　88
6.1.3　服務(wù)發(fā)現(xiàn)觸發(fā)器的設(shè)計(jì)與實(shí)現(xiàn)　89
6.1.4　定時(shí)觸發(fā)器的設(shè)計(jì)與實(shí)現(xiàn)　89
6.2　MQ 觸發(fā)器的設(shè)計(jì)與實(shí)現(xiàn)　90
6.2.1　MQ 觸發(fā)器的整體設(shè)計(jì) .　90
6.2.2　觸發(fā)函數(shù)的并發(fā)控制　92
6.2.3　函數(shù)調(diào)用的反壓控制　93
6.2.4　觸發(fā)函數(shù)的限流控制　94
6.3　MQ 觸發(fā)器在大規(guī)模場景下的優(yōu)化 .　96
6.3.1　消息的高效過濾　96
6.3.2　觸發(fā)器的重新平衡優(yōu)化 .　99
6.3.3　超大規(guī)模函數(shù)的連接數(shù)分片優(yōu)化　101
6.4　基于 MQ 觸發(fā)器的第三方觸發(fā)器的接入　102
6.4.1　基于 Event Gateway 的接入　103
6.4.2　基于 MQ 的接入　103
6.5　本章小結(jié)　104
第　7 章 FaaS 彈性伸縮　105
7.1　彈性伸縮系統(tǒng)的定義和架構(gòu)　105
7.1.1　彈性伸縮系統(tǒng)的定義　105
7.1.2　彈性伸縮系統(tǒng)的架構(gòu)　106
7.2　彈性伸縮系統(tǒng)的策略設(shè)計(jì)　108
7.2.1　策略的分級和結(jié)合　108
7.2.2　策略的詳細(xì)設(shè)計(jì)　109
7.2.3　評分和策略反饋機(jī)制　110
7.3　彈性伸縮系統(tǒng)的指標(biāo)設(shè)計(jì)　111
7.3.1　整體的架構(gòu)設(shè)計(jì)　111
7.3.2　如何對指標(biāo)數(shù)據(jù)進(jìn)行存儲 .　113
7.3.3　FaaS MAS 自適應(yīng)云原生分片方案　114
7.4　彈性伸縮系統(tǒng)的分片架構(gòu)　115
7.4.1　分片架構(gòu)設(shè)計(jì)方案　115
7.4.2　分片架構(gòu)的容錯(cuò)機(jī)制　116
7.5　本章小結(jié)　117
第　8 章 FaaS 助推 PaaS 演進(jìn)　119
8.1　FaaS Native：開發(fā)原生應(yīng)用的解決方案　119
8.1.1　FaaS Native 的目標(biāo)　120
8.1.2　運(yùn)行原生應(yīng)用代碼　120
8.1.3　自定義鏡像　121
8.2　多協(xié)議支持　124
8.2.1　數(shù)據(jù)調(diào)用與流量調(diào)度的解耦　124
8.2.2　HTTP/2 支持　126
8.2.3　gRPC 協(xié)議支持　128
8.2.4　Thrift 協(xié)議支持　131
8.2.5　客戶端流量接入　133
8.3　融入字節(jié)跳動微服務(wù)治理體系ByteMesh　135
8.3.1　ByteMesh: 字節(jié)跳動內(nèi)部 Service Mesh 服務(wù)治理體系　136
8.3.2　上游服務(wù)訪問下游 FaaS .　137
8.3.3　上游 FaaS 訪問下游服務(wù)　138
8.3.4　FaaS 接入 ByteMesh 入流量代理　139
8.4　異步長時(shí)間執(zhí)行任務(wù)支持　140
8.4.1　架構(gòu)設(shè)計(jì)　140
8.4.2　任務(wù)管理　142
8.4.3　適用場景　144
8.5　本章小結(jié)　144
第　9 章 FaaS 輕量級函數(shù)與云邊一體 .　145
9.1　輕量級函數(shù)　145
9.2　WebAssembly 輕量級函數(shù)運(yùn)行時(shí)　146
9.2.1　什么是 WebAssembly　146
9.2.2　Hostcall WASI　147
9.2.3　運(yùn)行時(shí)架構(gòu)　149
9.2.4　冷啟動優(yōu)化　150
9.2.5　代碼樣例　151
9.3　JavaScript 輕量級函數(shù)運(yùn)行時(shí)　152
9.3.1　背景知識　153
9.3.2　Host API　153
9.3.3　運(yùn)行時(shí)架構(gòu)　154
9.3.4　冷啟動優(yōu)化　155
9.3.5　代碼樣例　156
9.3.6　兩種函數(shù)輕量級運(yùn)行時(shí)對比　157
9.4　精簡架構(gòu)　158
9.4.1　整體架構(gòu)　158
9.4.2　請求路徑　160
9.4.3　流量調(diào)度　161
9.4.4　冷啟動優(yōu)化　162
9.4.5　高密度部署　164
9.5　云邊架構(gòu)　165
9.5.1　理念介紹　165
9.5.2　流量接入　166
9.5.3　云邊通信　167
9.5.4　邊緣可用性　169
9.6　存儲服務(wù)　171
9.6.1　存儲資源　172
9.6.2　Global KV　172
9.6.3　Local Cache　174
9.6.4　多層緩存機(jī)制　176
9.7　開發(fā)者工具　177
9.7.1　代碼在線預(yù)覽工具　177
9.7.2　JavaScript 輕量級函數(shù)開發(fā)工具　179
9.8　本章小結(jié)　180
第　10 章 Serverless 在字節(jié)跳動的落地實(shí)踐　181
10.1　突破 Serverless 資源和性能的瓶頸　181
10.2　基于 Kubernetes 的云原生體系　183
10.3　觸發(fā)器和自動擴(kuò)縮容，承載大規(guī)模消費(fèi)場景　184
10.3.1　一鍵配置，支持活動業(yè)務(wù)的快速迭代　184
10.3.2　彈性伸縮，潮汐流量的省錢“利器”　185
10.4　通用型 Serverless，多協(xié)議支持PaaS 演進(jìn)　186
10.4.1　早期嘗試：基于 HTTP 的Thrift RPC　186
10.4.2　原生支持：與周邊團(tuán)隊(duì)深度合作，打通 RPC 生態(tài) .　187
10.4.3　進(jìn)一步發(fā)揮 FaaS 優(yōu)勢，RPC 與事件驅(qū)動架構(gòu)結(jié)合 .　188
10.5　輕量級函數(shù)，打造云邊一體架構(gòu)　188
10.5.1　收斂長尾函數(shù)，承載突發(fā)流量　188
10.5.2　邊緣業(yè)務(wù)上線　189
10.6　本章小結(jié)　191
第　11 章 Serverless 展望　193
11.1　規(guī)范標(biāo)準(zhǔn)　193
11.2　通用型 Serverless　194
11.3　云邊一體　196
11.4　本章小結(jié)　197