深度學(xué)習(xí)私房菜：跟著案例學(xué)TensorFlow

目錄
1 卷積神經(jīng)網(wǎng)絡(luò)與環(huán)境搭建1
1．1 概述 1
1．2 卷積神經(jīng)網(wǎng)絡(luò) 2
1．2．1 卷積層 3
1．2．2 修正線(xiàn)性單元． 6
1．2．3 池化層 8
1．2．4 全連接層 8
1．2．5 softmax 層 9
1．2．6 LeNet-5 網(wǎng)絡(luò) 9
1．3 準(zhǔn)備開(kāi)發(fā)環(huán)境 10
1．3．1 Anaconda 環(huán)境搭建 10
1．3．2 安裝TensorFlow 1．x 11
1．3．3 FloydHub 使用介紹 13
1．3．4 AWS 使用介紹 18
1．4 本章小結(jié) 26
2 卷積神經(jīng)網(wǎng)絡(luò)實(shí)踐：圖像分類(lèi)27
2．1 概述 27
2．2 卷積神經(jīng)網(wǎng)絡(luò)項(xiàng)目實(shí)踐：基于TensorFlow 1．x 27
2．2．1 數(shù)據(jù)預(yù)處理． 28
2．2．2 網(wǎng)絡(luò)模型 33
2．2．3 訓(xùn)練網(wǎng)絡(luò) 39
2．3 卷積神經(jīng)網(wǎng)絡(luò)項(xiàng)目實(shí)踐：基于TensorFlow 2．0 41
2．3．1 TensorFlow 2．0 介紹 41
2．3．2 CIFAR-100 分類(lèi)網(wǎng)絡(luò)的TensorFlow 2．0 實(shí)現(xiàn) 44
2．4 本章小結(jié)． 60
3 彩票預(yù)測(cè)和生成古詩(shī)61
3．1 概述 61
3．2 RNN 61
3．3 LSTM 63
3．4 嵌入矩陣． ． 66
3．5 實(shí)現(xiàn)彩票預(yù)測(cè) 69
3．5．1 數(shù)據(jù)預(yù)處理． 70
3．5．2 構(gòu)建神經(jīng)網(wǎng)絡(luò)． 71
3．5．3 訓(xùn)練神經(jīng)網(wǎng)絡(luò) 75
3．5．4 分析網(wǎng)絡(luò)訓(xùn)練情況 83
3．5．5 生成預(yù)測(cè)號(hào)碼． 88
3．6 文本生成． 93
3．7 生成古詩(shī)：基于TensorFlow 2．0 96
3．7．1 數(shù)據(jù)預(yù)處理 96
3．7．2 構(gòu)建網(wǎng)絡(luò) 99
3．7．3 開(kāi)始訓(xùn)練． 102
3．7．4 生成古詩(shī) 102
3．8 自然語(yǔ)言處理 106
3．8．1 序列到序列 106
3．8．2 Transformer ． 108
3．8．3 BERT 112
3．9 本章小結(jié) 118
4 個(gè)性化推薦系統(tǒng)119
4．1 概述 ． 119
4．2 MovieLens 1M 數(shù)據(jù)集分析． 120
4．2．1 下載數(shù)據(jù)集 ． 120
4．2．2 用戶(hù)數(shù)據(jù)． 120
4．2．3 電影數(shù)據(jù)． 122
4．2．4 評(píng)分?jǐn)?shù)據(jù)． 123
4．3 數(shù)據(jù)預(yù)處理． 123
4．3．1 代碼實(shí)現(xiàn)． ． 124
4．3．2 加載數(shù)據(jù)并保存到本地 ． 127
4．3．3 從本地讀取數(shù)據(jù) 128
4．4 神經(jīng)網(wǎng)絡(luò)模型設(shè)計(jì) 128
4．5 文本卷積神經(jīng)網(wǎng)絡(luò) 130
4．6 實(shí)現(xiàn)電影推薦：基于TensorFlow 1．x 131
4．6．1 構(gòu)建計(jì)算圖 131
4．6．2 訓(xùn)練網(wǎng)絡(luò) 139
4．6．3 實(shí)現(xiàn)個(gè)性化推薦 144
4．7 實(shí)現(xiàn)電影推薦：基于TensorFlow 2．0 154
4．7．1 構(gòu)建模型 154
4．7．2 訓(xùn)練網(wǎng)絡(luò) 166
4．7．3 實(shí)現(xiàn)個(gè)性化推薦 166
4．8 本章小結(jié) 169
5 廣告點(diǎn)擊率預(yù)估：Kaggle 實(shí)戰(zhàn)170
5．1 概述 ． 170
5．2 下載數(shù)據(jù)集． ． 170
5．3 數(shù)據(jù)字段的含義 ． 171
5．4 點(diǎn)擊率預(yù)估的實(shí)現(xiàn)思路 172
5．4．1 梯度提升決策樹(shù)． 172
5．4．2 因子分解機(jī)． ． 172
5．4．3 場(chǎng)感知分解機(jī) ． 174
5．4．4 網(wǎng)絡(luò)模型 175
5．5 數(shù)據(jù)預(yù)處理． 176
5．5．1 GBDT 的輸入數(shù)據(jù)處理． 177
5．5．2 FFM 的輸入數(shù)據(jù)處理． 177
5．5．3 DNN 的輸入數(shù)據(jù)處理 179
5．5．4 數(shù)據(jù)預(yù)處理的實(shí)現(xiàn)． 180
5．6 訓(xùn)練FFM 188
5．7 訓(xùn)練GBDT ． 197
5．8 用LightGBM 的輸出生成FM 數(shù)據(jù)． 203
5．9 訓(xùn)練FM ． 207
5．10 實(shí)現(xiàn)點(diǎn)擊率預(yù)估：基于TensorFlow 1．x ． 218
5．10．1 構(gòu)建神經(jīng)網(wǎng)絡(luò) 219
5．10．2 訓(xùn)練網(wǎng)絡(luò) ． 225
5．10．3 點(diǎn)擊率預(yù)估 ． 231
5．11 實(shí)現(xiàn)點(diǎn)擊率預(yù)估：基于TensorFlow 2．0 ． 237
5．12 本章小結(jié) ． 245
6 人臉識(shí)別246
6．1 概述． ． ． ． 246
6．2 人臉檢測(cè)． 247
6．2．1 OpenCV 人臉檢測(cè) ． 247
6．2．2 dlib 人臉檢測(cè) 251
6．2．3 MTCNN 人臉檢測(cè) 254
6．3 提取人臉特征． 264
6．3．1 使用FaceNet 提取人臉特征 ． 264
6．3．2 使用VGG 網(wǎng)絡(luò)提取人臉特征 265
6．3．3 使用dlib 提取人臉特征． 272
6．4 人臉特征的比較． ． 276
6．5 從視頻中找人的實(shí)現(xiàn)． 282
6．6 視頻找人的案例實(shí)踐． ． 284
6．7 人臉識(shí)別：基于TensorFlow 2．0 ． ． 302
6．8 本章小結(jié)． ． 303
7 AlphaZero / AlphaGo 實(shí)踐：中國(guó)象棋304
7．1 概述． ． ． 304
7．2 論文解析 ． ． 305
7．2．1 蒙特卡羅樹(shù)搜索算法． 307
7．2．2 神經(jīng)網(wǎng)絡(luò)． 312
7．2．3 AlphaZero 論文解析． 314
7．3 實(shí)現(xiàn)中國(guó)象棋：基于TensorFlow 1．x ． 317
7．3．1 中國(guó)象棋著法表示和FEN 格式． 317
7．3．2 輸入特征的設(shè)計(jì) 321
7．3．3 實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)． 323
7．3．4 神經(jīng)網(wǎng)絡(luò)訓(xùn)練和預(yù)測(cè)． 327
7．3．5 通過(guò)自我對(duì)弈訓(xùn)練神經(jīng)網(wǎng)絡(luò) 330
7．3．6 自我對(duì)弈 334
7．3．7 實(shí)現(xiàn)蒙特卡羅樹(shù)搜索：異步方式． 340
7．3．8 訓(xùn)練和運(yùn)行 353
7．4 實(shí)現(xiàn)中國(guó)象棋：基于TensorFlow 2．0，多GPU 版． 354
7．5 本章小結(jié) 364
8 漢字OCR 365
8．1 概述． 365
8．2 分類(lèi)網(wǎng)絡(luò)實(shí)現(xiàn)漢字OCR 365
8．2．1 圖片矯正 366
8．2．2 文本切割． 368
8．2．3 漢字分類(lèi)網(wǎng)絡(luò)． 369
8．3 端到端的漢字OCR：基于TensorFlow 1．x ． 371
8．3．1 CNN 設(shè)計(jì) 372
8．3．2 雙向LSTM 設(shè)計(jì)． ． 374
8．3．3 CTC 損失 385
8．3．4 端到端漢字OCR 的網(wǎng)絡(luò)訓(xùn)練． 388
8．4 漢字OCR：基于TensorFlow 2．0 395
8．4．1 CNN 的實(shí)現(xiàn)． 395
8．4．2 雙向LSTM 的實(shí)現(xiàn)． 396
8．4．3 OCR 網(wǎng)絡(luò)的訓(xùn)練． 403
8．5 本章小結(jié)． 406
9 強(qiáng)化學(xué)習(xí)：玩轉(zhuǎn)Flappy Bird 和超級(jí)馬里奧407
9．1 概述． 407
9．2 DQN 算法． 407
9．3 實(shí)現(xiàn)DQN 玩Flappy Bird：基于TensorFlow 1．x ． 412
9．4 實(shí)現(xiàn)DQN 玩Flappy Bird：基于TensorFlow 2．0 ． 417
9．5 使用OpenAI Baselines 玩超級(jí)馬里奧． ． 424
9．5．1 Gym ． 424
9．5．2 自定義Gym 環(huán)境． ． 426
9．5．3 使用Baselines 訓(xùn)練． ． 431
9．5．4 使用訓(xùn)練好的智能體玩游戲． ． 437
9．5．5 開(kāi)始訓(xùn)練馬里奧游戲智能體． ． 438
9．6 具有好奇心的強(qiáng)化學(xué)習(xí)算法． 443
9．7 本章小結(jié)． ． 444
10 生成對(duì)抗網(wǎng)絡(luò)實(shí)踐：人臉生成445
10．1 概述 ． 445
10．2 GAN ． 446
10．3 DCGAN?。?447
10．3．1 生成器． ?。?448
10．3．2 判別器．　 449
10．4 WGAN 　 449
10．5 WGAN-GP ． 　451
10．5．1 WGAN-GP 算法． 　 451
10．5．2 訓(xùn)練WGAN-GP 生成人臉：基于TensorFlow 1．x ．　 452
10．5．3 訓(xùn)練WGAN-GP 生成人臉：基于TensorFlow 2．0 ．　 ． 462
10．6 PG-GAN 和TL-GAN ．　． 469
10．7 本章小結(jié)． ?。?473