高斯過程機(jī)器學(xué)習(xí)及其工程應(yīng)用

目錄
前言
第1章 緒論 1
1.1 研究背景 1
1.2 機(jī)器學(xué)習(xí)研究現(xiàn)狀 2
1.2.1 機(jī)器學(xué)習(xí)發(fā)展歷程 2
1.2.2 典型機(jī)器學(xué)習(xí)方法研究 3
1.3 本書內(nèi)容安排 5
參考文獻(xiàn) 6
第2章 高斯過程回歸 10
2.1 引言 10
2.2 基礎(chǔ)理論知識(shí) 10
2.2.1 概率統(tǒng)計(jì)基礎(chǔ)知識(shí) 10
2.2.2 隨機(jī)過程 13
2.2.3 貝葉斯定理 15
2.2.4 *大似然估計(jì) 15
2.2.5 貝葉斯估計(jì) 16
2.2.6 核函數(shù)方法 18
2.3 回歸分析的基本理論 20
2.3.1 回歸分析模型 20
2.3.2 模型的評估策略 21
2.3.3 風(fēng)險(xiǎn)*小化原則 22
2.3.4 模型復(fù)雜度影響 23
2.3.5 模型選擇方法 25
2.3.6 統(tǒng)計(jì)決策理論 26
2.4 常用線性回歸分析方法 27
2.4.1 線性回歸模型 27
2.4.2 *小二乘回歸 28
2.4.3 *大后驗(yàn)(MAP) 回歸 30
2.4.4 貝葉斯線性回歸 31
2.4.5 小結(jié) 36
2.5 高斯過程回歸的基本理論 36
2.5.1 基于權(quán)重空間觀點(diǎn)的原理解釋 37
2.5.2 基于函數(shù)空間觀點(diǎn)的原理解釋 40
2.5.3 *優(yōu)超參數(shù)的自適應(yīng)獲取 45
2.5.4 高斯過程回歸計(jì)算復(fù)雜度 47
2.5.5 主要特性分析 48
2.6 高斯過程回歸的協(xié)方差函數(shù) 50
2.6.1 常用的協(xié)方差函數(shù) 50
2.6.2 不同協(xié)方差函數(shù)回歸特性比較 52
2.7 高斯過程回歸的算法實(shí)現(xiàn) 54
2.7.1 算法實(shí)現(xiàn)步驟 54
2.7.2 算法程序 55
2.7.3 算例分析 55
2.8 高斯過程與人工神經(jīng)網(wǎng)絡(luò)？支持向量機(jī)的關(guān)系 57
2.9 高斯過程回歸的性能測試 58
2.9.1 算例1 58
2.9.2 算例2 64
2.9.3 算例3 65
2.10 本章小結(jié) 66
參考文獻(xiàn) 67
第3章 高斯過程分類 69
3.1 引言 69
3.2 分類問題的基本理論 69
3.2.1 分類問題概述 69
3.2.2 分類問題的不同策略 70
3.3 高斯過程分類的基本理論 73
3.3.1 GPC 的基本原理 73
3.3.2 Laplace 近似方法 76
3.3.3 Expectation Propagation (EP) 近似方法 78
3.3.4 兩種近似方法比較 81
3.4 算法實(shí)現(xiàn) 82
3.5 性能測試 83
參考文獻(xiàn) 88
第4章 基于高斯過程回歸的邊坡位移時(shí)間序列預(yù)測 89
4.1 引言 89
4.2 基于高斯過程回歸的時(shí)間序列預(yù)測方法 90
4.2.1 方法的實(shí)現(xiàn)步驟 90
4.2.2 預(yù)測結(jié)果的評價(jià)指標(biāo) 91
4.2.3 方法驗(yàn)證 93
4.3 邊坡實(shí)測位移時(shí)間序列的高斯過程回歸預(yù)測 99
4.3.1 三峽永久船閘邊坡位移時(shí)間序列預(yù)測 99
4.3.2 臥龍寺新滑坡位移時(shí)間序列預(yù)測 103
4.3.3 龍灘進(jìn)水口邊坡位移時(shí)間序列預(yù)測 107
4.4 基于高斯過程回歸的邊坡位移時(shí)間序列預(yù)測的不確定性分析 109
4.4.1 時(shí)間序列預(yù)測值的不確定性分析 109
4.4.2 工程實(shí)例 111
4.5 本章小結(jié) 119
參考文獻(xiàn) 119
第5章 基于高斯過程的地下工程圍巖非線性行為預(yù)測與識(shí)別 122
5.1 引言 122
5.2 地下工程初始地應(yīng)力預(yù)測 123
5.2.1 地下工程地應(yīng)力預(yù)測的GPR 模型 123
5.2.2 工程實(shí)例分析 124
5.3 地下工程圍巖非線性變形時(shí)間序列預(yù)測 126
5.3.1 圍巖變形時(shí)間序列預(yù)測的GPR 模型 126
5.3.2 工程實(shí)例分析 127
5.4 地下工程圍巖光面爆破效果預(yù)測 131
5.4.1 隧道施工光面爆破效果預(yù)測的GPR 模型 132
5.4.2 工程實(shí)例分析 132
5.5 地下工程巖爆災(zāi)害等級識(shí)別 134
5.5.1 巖爆等級識(shí)別的GPC 模型 135
5.5.2 工程實(shí)例分析 136
5.6 地下工程圍巖分類識(shí)別 141
5.6.1 隧洞圍巖分類的GPC 模型 141
5.6.2 工程實(shí)例分析 142
5.7 地下工程圍巖穩(wěn)定性識(shí)別 144
5.7.1 地下工程圍巖穩(wěn)定性識(shí)別的GPC 模型 145
5.7.2 工程實(shí)例分析 145
5.8 本章小結(jié) 147
參考文獻(xiàn) 147
第6章 高斯過程在水利工程中的應(yīng)用 150
6.1 引言 150
6.2 邊坡穩(wěn)定性快速估計(jì) 150
6.2.1 邊坡安全系數(shù)估計(jì) 151
6.2.2 邊坡穩(wěn)定狀態(tài)識(shí)別 154
6.3 水庫水溫分布結(jié)構(gòu)識(shí)別 157
6.4 地下水位預(yù)測 160
6.5 年徑流預(yù)測 163
6.6 溢流壩挑流沖刷深度估計(jì) 165
6.7 本章小結(jié) 168
參考文獻(xiàn) 168
第7章 工程結(jié)構(gòu)可靠度分析的高斯過程動(dòng)態(tài)響應(yīng)面法 170
7.1 結(jié)構(gòu)可靠度分析簡介 170
7.1.1 結(jié)構(gòu)可靠度的基本概念 170
7.1.2 結(jié)構(gòu)可靠度分析方法綜述 172
7.1.3 當(dāng)前復(fù)雜工程結(jié)構(gòu)可靠度分析方法存在的主要問題 175
7.2 基于高斯過程回歸動(dòng)態(tài)響應(yīng)面的一次二階矩法 176
7.2.1 一次二階矩法 176
7.2.2 GPR-basedFORM 法 179
7.2.3 數(shù)學(xué)算例 181
7.2.4 結(jié)構(gòu)算例 186
7.2.5 參數(shù)敏感性分析 193
7.2.6 小結(jié) 195
7.3 基于高斯過程回歸動(dòng)態(tài)響應(yīng)面的二次二階矩法 195
7.3.1 二次二階矩法 195
7.3.2 GPR-basedSORM 法 196
7.3.3 數(shù)學(xué)算例 197
7.3.4 結(jié)構(gòu)算例 202
7.3.5 小結(jié) 207
7.4 基于高斯過程回歸動(dòng)態(tài)響應(yīng)面的重要抽樣方法 207
7.4.1 重要抽樣法 207
7.4.2 GPR-basedISM 法 208
7.4.3 數(shù)學(xué)算例 208
7.4.4 結(jié)構(gòu)算例 212
7.4.5 方法的參數(shù)敏感性分析 218
7.4.6 小結(jié) 219
7.5 基于高斯過程回歸動(dòng)態(tài)響應(yīng)面的蒙特卡羅模擬法 219
7.5.1 蒙特卡羅模擬法 220
7.5.2 基本思路 220
7.5.3 關(guān)鍵技術(shù) 221
7.5.4 實(shí)現(xiàn)步驟 223
7.5.5 數(shù)學(xué)算例 224
7.5.6 結(jié)構(gòu)算例 230
7.5.7 小結(jié) 231
7.6 基于高斯過程回歸動(dòng)態(tài)響應(yīng)面的粒子群優(yōu)化法 231
7.6.1 基本思路 232
7.6.2 關(guān)鍵技術(shù) 233
7.6.3 實(shí)現(xiàn)步驟 234
7.6.4 數(shù)學(xué)算例 235
7.6.5 結(jié)構(gòu)算例 239
7.6.6 小結(jié) 239
參考文獻(xiàn) 240
第8章 粒子群-高斯過程協(xié)同優(yōu)化算法及其在工程結(jié)構(gòu)優(yōu)化設(shè)計(jì)中的應(yīng)用 243
8.1 引言 243
8.2 高計(jì)算代價(jià)結(jié)構(gòu)優(yōu)化設(shè)計(jì)問題的求解策略 244
8.3 粒子群優(yōu)化算法 246
8.3.1 基本原理 246
8.3.2 實(shí)現(xiàn)步驟 248
8.3.3 性能測試 248
8.4 牛頓法 250
8.4.1 基本原理 250
8.4.2 實(shí)現(xiàn)步驟 251
8.4.3 簡單算例 251
8.5 粒子群-高斯過程協(xié)同優(yōu)化算法 252
8.5.1 基本原理 252
8.5.2 實(shí)現(xiàn)步驟 254
8.5.3 性能測試 256
8.6 結(jié)構(gòu)優(yōu)化設(shè)計(jì)的粒子群-高斯過程協(xié)同優(yōu)化方法 259
8.6.1 結(jié)構(gòu)優(yōu)化設(shè)計(jì)的數(shù)學(xué)模型 259
8.6.2 PSO-GPR-FEM 法 261
8.7 結(jié)構(gòu)優(yōu)化設(shè)計(jì)實(shí)例 262
8.7.1 平面10 桿桁架結(jié)構(gòu)優(yōu)化 262
8.7.2 空間25 桿桁架結(jié)構(gòu)優(yōu)化 264
8.7.3 地震作用下鋼筋混凝土框架結(jié)構(gòu)優(yōu)化設(shè)計(jì) 266
8.8 本章小結(jié) 270
參考文獻(xiàn) 270
附錄A 273
A.1 函數(shù)和集合的凸性質(zhì) 273
A.2 多維高斯分布相關(guān)性質(zhì) 273
A.3 實(shí)對稱矩陣的特征分解 274
A.4 多維高斯分布的樣本函數(shù)曲線 274
A.5 矩陣求導(dǎo) 275
A.6 矩陣求逆 276