在線凸優(yōu)化（第2版）

第1章　導(dǎo)論       1
1.1　在線凸優(yōu)化設(shè)置     2
1.2　可用OCO建模的問題示例    3
1.2.1　從專家建議中預(yù)測   3
1.2.2　在線垃圾郵件過濾   4
1.2.3　在線最短路徑    5
1.2.4　投資組合選擇    6
1.2.5　矩陣補(bǔ)全和推薦系統(tǒng)    7
1.3　混合的開始：從專家建議中學(xué)習(xí)   7
1.3.1　加權(quán)多數(shù)算法    9
1.3.2　隨機(jī)加權(quán)多數(shù)    10
1.3.3　Hedge     12
1.4　文獻(xiàn)評述     13
1.5　練習(xí)      14
第2章　凸優(yōu)化基本概念     17
2.1　基本定義和設(shè)置     17
2.1.1　凸集上的投影    19
2.1.2　最優(yōu)條件介紹    20
2.2　梯度下降     21
2.2.1　Polyak 步長    23
2.2.2　度量與最優(yōu)值之間的距離    24
2.2.3　Polyak 步長分析    25
2.3　約束梯度/次梯度下降   27
2.4　非光滑和非強(qiáng)凸函數(shù)的歸約   30
2.4.1　光滑且非強(qiáng)凸函數(shù)的歸約    30
2.4.2　強(qiáng)凸非光滑函數(shù)的歸約    31
2.4.3　一般凸函數(shù)的歸約    34
2.5　示例：支持向量機(jī)訓(xùn)練   34
2.6　文獻(xiàn)評述     37
2.7　練習(xí)      38
第3章　在線凸優(yōu)化一階算法     41
3.1　在線梯度下降     42
3.2　下界      44
3.3　對數(shù)遺憾     46
3.4　應(yīng)用：隨機(jī)梯度下降    48
3.5　文獻(xiàn)評述     51
3.6　練習(xí)      51
第4章　二階方法      53
4.1　動機(jī)：通用投資組合選擇    53
4.1.1　主流投資組合理論    53
4.1.2　通用投資組合理論    54
4.1.3　持續(xù)再平衡投資組合    55
4.2　指數(shù)凹函數(shù)    56
4.3　指數(shù)加權(quán)OCO     58
4.4　在線牛頓步算法     60
4.5　文獻(xiàn)評述     66
4.6　練習(xí)      67
第5章　正則化       69
5.1　正則化函數(shù)    70
5.2　RFTL算法及其分析    71
5.2.1　元算法定義     72
5.2.2　遺憾界     73
5.3　在線鏡像下降     75
5.3.1　懶惰版在線鏡像下降與RFTL的等價(jià)性  77
5.3.2　鏡像下降的遺憾界    78
5.4　應(yīng)用與特例    79
5.4.1　推導(dǎo)在線梯度下降    79
5.4.2　推導(dǎo)乘法更新    80
5.5　隨機(jī)正則化    81
5.5.1　凸損失擾動    82
5.5.2　線性代價(jià)函數(shù)擾動    86
5.5.3　專家建議的FPL算法    87
5.6　自適應(yīng)梯度下降     89
5.7　文獻(xiàn)評述     95
5.8　練習(xí)      96
第6章　賭博機(jī)凸優(yōu)化     99
6.1　賭博機(jī)凸優(yōu)化設(shè)置     99
6.2　多臂賭博機(jī)問題    100
6.3　從有限信息歸約至完全信息   105
6.3.1　第一部分：使用無偏估計(jì)   105
6.3.2　第二部分：逐點(diǎn)梯度估計(jì)   107
6.4　無需梯度在線梯度下降    110
6.5　賭博機(jī)線性優(yōu)化的最優(yōu)遺憾算法  112
6.5.1　自和諧勢壘    113
6.5.2　一個近似最優(yōu)算法    114
6.6　文獻(xiàn)評述     117
6.7　練習(xí)      118
第7章　無投影算法       121
7.1　回顧：線性代數(shù)的相關(guān)概念   121
7.2　動機(jī)：推薦系統(tǒng)     122
7.3　條件梯度法     124
7.4　投影與線性優(yōu)化    128
7.5　在線條件梯度算法    130
7.6　文獻(xiàn)評述     134
7.7　練習(xí)      134
第8章　博弈，對偶與遺憾     137
8.1　線性規(guī)劃與對偶    138
8.2　零和博弈與均衡    139
8.3　馮 • 諾依曼定理證明    142
8.4　近似線性規(guī)劃     144
8.5　文獻(xiàn)評述     146
8.6　練習(xí)      146
第9章　學(xué)習(xí)理論，泛化性與在線凸優(yōu)化    149
9.1　統(tǒng)計(jì)學(xué)習(xí)理論     149
9.1.1　過擬合      150
9.1.2　免費(fèi)午餐     151
9.1.3　學(xué)習(xí)問題示例    152
9.1.4　定義泛化性與可學(xué)習(xí)性   153
9.2　使用在線凸優(yōu)化的不可知學(xué)習(xí)   155
9.2.1　余項(xiàng)：度量集中和鞅    156
9.2.2　歸約的分析    158
9.3　學(xué)習(xí)與壓縮     160
9.4　文獻(xiàn)評述     161
9.5　練習(xí)      162
第10章　在變化的環(huán)境中學(xué)習(xí)      165
10.1　一個簡單的開始：動態(tài)遺憾    166
10.2　自適應(yīng)遺憾的概念    167
10.3　跟蹤最好的專家     169
10.4　在線凸優(yōu)化的有效自適應(yīng)遺憾   172
10.5　計(jì)算高效的方法     174
10.6　文獻(xiàn)評述    179
10.7　練習(xí)     180
第11章　Boosting與遺憾     183
11.1　Boosting 的問題     184
11.2　基于在線凸優(yōu)化的 Boosting   185
11.2.1　簡化設(shè)置    185
11.2.2　算法與分析    186
11.2.3　AdaBoost     188
11.2.4　補(bǔ)全路線圖    189
11.3　文獻(xiàn)評述    190
11.4　練習(xí)     191
第12章　在線Boosting     193
12.1　動機(jī)：向大量專家學(xué)習(xí)     193
12.1.1　示例：Boosting在線二進(jìn)制分類   194
12.1.2　示例：個性化文章配置   195
12.2　情境學(xué)習(xí)模型     195
12.3　延拓算子    196
12.4　在線 Boosting方法    198
12.5　文獻(xiàn)評述    202
12.6　練習(xí)     202