Swift機(jī)器學(xué)習(xí)：面向iOS的人工智能實(shí)戰(zhàn)

目錄
譯者序
原書(shū)前言
關(guān)于作者
關(guān)于評(píng)審者
第1章　機(jī)器學(xué)習(xí)入門(mén)1
　1.1　什么是人工智能1
　1.2　機(jī)器學(xué)習(xí)的動(dòng)機(jī)2
　1.3　什么是機(jī)器學(xué)習(xí)3
　1.4　機(jī)器學(xué)習(xí)的應(yīng)用3
　　1.4.1　數(shù)字信號(hào)處理4
　　1.4.2　計(jì)算機(jī)視覺(jué)4
　　1.4.3　自然語(yǔ)言處理4
　　1.4.4　機(jī)器學(xué)習(xí)的其他應(yīng)用5
　1.5　利用機(jī)器學(xué)習(xí)構(gòu)建iOS智能應(yīng)用程序5
　1.6　了解數(shù)據(jù)6
　　1.6.1　特征7
　　1.6.2　特征類型7
　　1.6.3　選擇適當(dāng)?shù)奶卣骷?
　　1.6.4　獲取數(shù)據(jù)集9
　　1.6.5　數(shù)據(jù)預(yù)處理10
　1.7　模型選擇10
　　1.7.1　機(jī)器學(xué)習(xí)算法類型10
　　1.7.2　監(jiān)督學(xué)習(xí)11
　　1.7.3　無(wú)監(jiān)督學(xué)習(xí)12
　　1.7.4　強(qiáng)化學(xué)習(xí)13
　　1.7.5　數(shù)學(xué)優(yōu)化－學(xué)習(xí)的工作原理13
　　1.7.6　移動(dòng)端與服務(wù)器端的機(jī)器學(xué)習(xí)14
　　1.7.7　了解移動(dòng)平臺(tái)的局限性15
　1.8　小結(jié)16
　參考文獻(xiàn)16
第2章　分類－決策樹(shù)學(xué)習(xí)17
　2.1　機(jī)器學(xué)習(xí)工具箱17
　2.2　第一個(gè)機(jī)器學(xué)習(xí)應(yīng)用程序原型18
　　2.2.1　工具19
　　2.2.2　設(shè)置機(jī)器學(xué)習(xí)環(huán)境19
　2.3　IPython notebook速成21
　2.4　實(shí)踐練習(xí)22
　2.5　用于“外星生命探索器”的機(jī)器學(xué)習(xí)23
　2.6　加載數(shù)據(jù)集24
　2.7　探索性數(shù)據(jù)分析25
　2.8　數(shù)據(jù)預(yù)處理28
　　2.8.1　轉(zhuǎn)換分類變量28
　　2.8.2　從標(biāo)簽提取特征29
　　2.8.3　獨(dú)熱編碼29
　　2.8.4　數(shù)據(jù)拆分30
　2.9　無(wú)處不在的決策樹(shù)30
　2.10　訓(xùn)練決策樹(shù)分類器30
　　2.10.1　決策樹(shù)可視化31
　　2.10.2　預(yù)測(cè)33
　　2.10.3　預(yù)測(cè)準(zhǔn)確率評(píng)估33
　　2.10.4　超參數(shù)調(diào)節(jié)35
　　2.10.5　理解模型容量的權(quán)衡35
　2.11　決策樹(shù)學(xué)習(xí)的工作原理36
　　2.11.1　由數(shù)據(jù)自動(dòng)生成決策樹(shù)37
　　2.11.2　組合熵37
　　2.11.3　根據(jù)數(shù)據(jù)評(píng)估模型性能38
　2.12　在Swift中實(shí)現(xiàn)第一個(gè)機(jī)器學(xué)習(xí)應(yīng)用程序42
　2.13　CoreML簡(jiǎn)介42
2.13.1　CoreML特征42
　　2.13.2　導(dǎo)出iOS模型42
　　2.13.3　集成學(xué)習(xí)隨機(jī)森林44
　　2.13.4　訓(xùn)練隨機(jī)森林44
　　2.13.5　隨機(jī)森林準(zhǔn)確率評(píng)估44
　　2.13.6　將CoreML模型導(dǎo)入iOS項(xiàng)目45
　　2.13.7　iOS模型性能評(píng)估47
　　2.13.8　決策樹(shù)學(xué)習(xí)的優(yōu)缺點(diǎn)50
　2.14　小結(jié)50
第3章　k近鄰分類器52
　3.1　距離計(jì)算52
　　3.1.1　動(dòng)態(tài)時(shí)間規(guī)整54
　　3.1.2　在Swift中實(shí)現(xiàn)DTW 56
　3.2　利用基于實(shí)例的模型進(jìn)行分類和聚類58
　3.3　基于慣性傳感器的人體運(yùn)動(dòng)識(shí)別59
　3.4　理解KNN算法59
　　3.4.1　在Swift中實(shí)現(xiàn)KNN 61
　3.5　基于KNN識(shí)別人體運(yùn)動(dòng)62
　　3.5.1　冷啟動(dòng)問(wèn)題63
　　3.5.2　平衡數(shù)據(jù)集65
　　3.5.3　選擇適當(dāng)?shù)膋值65
　3.6　高維空間中的推理66
　3.7　KNN的優(yōu)點(diǎn)67
　3.8　KNN的缺點(diǎn)67
　3.9　改進(jìn)的解決方案67
　　3.9.1　概率解釋67
　　3.9.2　更多數(shù)據(jù)源68
　　3.9.3　更智能的時(shí)間序列塊68
　　3.9.4　硬件加速68
　　3.9.5　加速推理的決策樹(shù)68
　　3.9.6　利用狀態(tài)遷移68
　3.10　小結(jié)68
　參考文獻(xiàn)69
第4章　k－均值聚類70
　4.1　無(wú)監(jiān)督學(xué)習(xí)70
　4.2　k－均值聚類算法概述71
　4.3　在Swift中實(shí)現(xiàn)k－均值72
　　4.3.1　更新步驟74
　　4.3.2　分配步驟74
　4.4　聚類地圖中的對(duì)象75
　4.5　聚類個(gè)數(shù)選擇77
　4.6　k－均值聚類－問(wèn)題78
　4.7　k－均值＋＋ 79
　4.8　基于k－均值算法的圖像分割82
　4.9　小結(jié)83
第5章　關(guān)聯(lián)規(guī)則學(xué)習(xí)84
　5.1　查看關(guān)聯(lián)規(guī)則84
　5.2　定義數(shù)據(jù)結(jié)構(gòu)85
　5.3　利用關(guān)聯(lián)測(cè)度進(jìn)行規(guī)則評(píng)估86
　　5.3.1　支持度關(guān)聯(lián)測(cè)度87
　　5.3.2　置信度關(guān)聯(lián)測(cè)度88
　　5.3.3　提升度關(guān)聯(lián)測(cè)度89
　　5.3.4　確信度關(guān)聯(lián)測(cè)度90
　5.4　問(wèn)題分解90
　5.5　生成所有可能的規(guī)則90
　5.6　查找頻繁項(xiàng)集91
　5.7　Apriori算法92
　5.8　Swift中的Apriori算法實(shí)現(xiàn)93
　5.9　運(yùn)行Apriori算法94
　5.10　在實(shí)際數(shù)據(jù)上運(yùn)行Apriori算法95
　5.11　Apriori算法的優(yōu)缺點(diǎn)96
　5.12　建立適應(yīng)性強(qiáng)的用戶體驗(yàn)96
　5.13　小結(jié)97
　參考文獻(xiàn)98
第6章　線性回歸和梯度下降99
　6.1　了解回歸任務(wù)99
　6.2　簡(jiǎn)單線性回歸簡(jiǎn)介100
　　6.2.1　利用最小二乘法擬合回歸線102
　　6.2.2　利用簡(jiǎn)單線性回歸預(yù)測(cè)未來(lái)105
　6.3　特征縮放106
　6.4　特征標(biāo)準(zhǔn)化107
　　6.4.1　多元線性回歸109
　6.5　在Swift中實(shí)現(xiàn)多元線性回歸109
　　6.5.1　多元線性回歸的梯度下降111
　　6.5.2　特征標(biāo)準(zhǔn)化115
　　6.5.3　理解并改善線性回歸的局限性117
　6.6　利用正則化解決線性回歸問(wèn)題120
　　6.6.1　嶺回歸和Tikhonov正則化120
　　6.6.2　彈性網(wǎng)回歸121
　6.7　小結(jié)121
　參考文獻(xiàn)122
第7章　線性分類器和邏輯回歸123
　7.1　回顧分類任務(wù)123
　　7.1.1　線性分類器123
　　7.1.2　邏輯回歸124
　7.2　Swift中的邏輯回歸實(shí)現(xiàn)125
　　7.2.1　邏輯回歸中的預(yù)測(cè)部分126
　　7.2.2　訓(xùn)練邏輯回歸127
　　7.2.3　成本函數(shù)128
　7.3　預(yù)測(cè)用戶意圖130
　　7.3.1　處理日期130
　7.4　針對(duì)具體問(wèn)題選擇回歸模型131
　7.5　偏差－方差權(quán)衡131
　7.6　小結(jié)132
第8章　神經(jīng)網(wǎng)絡(luò)133
　8.1　究竟什么是人工神經(jīng)網(wǎng)絡(luò)134
　8.2　構(gòu)建神經(jīng)元134
　　8.2.1　非線性函數(shù)135
　8.3　構(gòu)建神經(jīng)網(wǎng)絡(luò)138
　8.4　在Swift中構(gòu)建一個(gè)神經(jīng)網(wǎng)絡(luò)層138
　8.5　利用神經(jīng)元構(gòu)建邏輯函數(shù)139
　8.6　在Swift中實(shí)現(xiàn)層140
　8.7　訓(xùn)練神經(jīng)網(wǎng)絡(luò)141
　　8.7.1　梯度消失問(wèn)題141
　　8.7.2　與生物類比141
　8.8　基本神經(jīng)網(wǎng)絡(luò)子程序142
　　8.8.1　BNNS示例143
　8.9　小結(jié)145
第9章　卷積神經(jīng)網(wǎng)絡(luò)146
　9.1　理解用戶情感146
　9.2　計(jì)算機(jī)視覺(jué)問(wèn)題概述147
　9.3　卷積神經(jīng)網(wǎng)絡(luò)概述149
　9.4　池化操作149
　9.5　卷積運(yùn)算150
　　9.5.1　CNN中的卷積運(yùn)算152
　9.6　構(gòu)建網(wǎng)絡(luò)153
　　9.6.1　輸入層155
　　9.6.2　卷積層155
　　9.6.3　全連接層156
　　9.6.4　非線性層156
　　9.6.5　池化層156
　　9.6.6　正則化層156
　9.7　損失函數(shù)157
　9.8　批量訓(xùn)練網(wǎng)絡(luò)157
　9.9　訓(xùn)練用于面部表情識(shí)別的CNN 158
　9.10　環(huán)境設(shè)置158
　9.11　深度學(xué)習(xí)框架159
　　9.11.1　 Keras 159
　9.12　加載數(shù)據(jù)160
　9.13　拆分?jǐn)?shù)據(jù)161
　9.14　數(shù)據(jù)擴(kuò)充162
　9.15　創(chuàng)建網(wǎng)絡(luò)163
　9.16　繪制網(wǎng)絡(luò)結(jié)構(gòu)165
　9.17　訓(xùn)練網(wǎng)絡(luò)167
　9.18　繪制損失值167
　9.19　預(yù)測(cè)168
　9.20　以HDF5格式保存模型169
　9.21　轉(zhuǎn)換為CoreML格式169
　9.22　可視化卷積濾波器170
　9.23　在iOS上部署CNN 171
　9.24　小結(jié)173
　參考文獻(xiàn)174
第10章　自然語(yǔ)言處理175
　10.1　移動(dòng)開(kāi)發(fā)領(lǐng)域中的NLP 175
　10.2　文字聯(lián)想游戲176
　10.3　Python NLP庫(kù)178
　10.4　文本語(yǔ)料178
　10.5　常用NLP方法和子任務(wù)179
　　10.5.1　標(biāo)記分割179
　　10.5.2　詞干提取181
　　10.5.3　詞形還原182
　　10.5.4　詞性標(biāo)注182
　　10.5.5　命名實(shí)體識(shí)別184
　　10.5.6　刪除停止詞和標(biāo)點(diǎn)符號(hào)185
　10.6　分布式語(yǔ)義假設(shè)186
　10.7　詞向量表示186
　10.8　自編碼器神經(jīng)網(wǎng)絡(luò)187
　10.9　Word2Vec 187
　10.10　 Gensim中的Word2Vec 190
　10.11　向量空間特性190
　10.12　iOS應(yīng)用程序191
　　10.12.1　聊天機(jī)器人剖析191
　　10.12.2　語(yǔ)音輸入192
　　10.12.3　NSLinguisticTagger及其相關(guān)193
　　10.12.4　iOS上的Word2Vec 195
　　10.12.5　文本－語(yǔ)音輸出196
　　10.12.6　UIReferenceLibraryViewController 197
　　10.12.7　集成197
　10.13　 Word2Vec的各種相關(guān)算法199
　10.14　發(fā)展趨勢(shì)200
　10.15　小結(jié)200
第11章　機(jī)器學(xué)習(xí)庫(kù)201
　11.1　機(jī)器學(xué)習(xí)和人工智能API 201
　11.2　庫(kù)202
　11.3　通用機(jī)器學(xué)習(xí)庫(kù)202
　　11.3.1　AIToolbox 204
　　11.3.2　BrainCore 205
　　11.3.3　Caffe 205
　　11.3.4　Caffe2 205
　　11.3.5　dlib 206
　　11.3.6　FANN 206
　　11.3.7　LearnKit 206
　　11.3.8　MLKit 206
　　11.3.9　Multilinear-math 207
　　11.3.10　MXNet 207
　　11.3.11　Shark 207
　　11.3.12　TensorFlow 207
　　11.3.13　tiny-dnn 208
　　11.3.14　Torch 208
　　11.3.15　 YCML 209
　11.4　僅用于推理的庫(kù)209
　　11.4.1　Keras 210
　　11.4.2　LibSVM 210
　　11.4.3　Scikit-learn 210
　　11.4.4　XGBoost 210
　11.5　NLP庫(kù)211
　　11.5.1　Word2Vec 211
　　11.5.2　Twitter文本211
　11.6　語(yǔ)音識(shí)別211
　　11.6.1　TLSphinx 211
　　11.6.2　OpenEars 211
　11.7　計(jì)算機(jī)視覺(jué)212
　　11.7.1　OpenCV 212
　　11.7.2　ccv 212
　　11.7.3　OpenFace 212
　　11.7.4　Tesseract213
　11.8　底層子程序庫(kù)213
　　11.8.1　Eigen 213
　　11.8.2　fmincg-c 213
　　11.8.3　IntuneFeatures 214
　　11.8.4　SigmaSwiftStatistics 214
　　11.8.5　STEM 214
　　11.8.6　Swix 214
　　11.8.7　LibXtract 214
　　11.8.8　libLBFGS 215
　　11.8.9　NNPACK 215
　　11.8.10　Upsurge 215
　　11.8.11　YCMatrix 215
　11.9　選擇深度學(xué)習(xí)框架216
　11.10　小結(jié)216
第12章　優(yōu)化移動(dòng)設(shè)備上的神經(jīng)網(wǎng)絡(luò)217
　12.1　提供完美的用戶體驗(yàn)217
　12.2　計(jì)算卷積神經(jīng)網(wǎng)絡(luò)規(guī)模218
　12.3　無(wú)損壓縮220
　12.4　緊湊型CNN架構(gòu)221
　　12.4.1　SqueezeNet 221
　　12.4.2　MobileNet 221
　　12.4.3　ShuffleNet 222
　　12.4.4　CondenseNet 222
　12.5　防止神經(jīng)網(wǎng)絡(luò)擴(kuò)大222
　12.6　有損壓縮223
　　12.6.1　推理優(yōu)化224
　12.7　網(wǎng)絡(luò)壓縮示例226
　12.8　小結(jié)226
　參考文獻(xiàn)226
第13章　最佳實(shí)踐227
　13.1　移動(dòng)平臺(tái)機(jī)器學(xué)習(xí)項(xiàng)目的生命周期227
　　13.1.1　準(zhǔn)備階段227
　　13.1.2　創(chuàng)建原型230
　　13.1.3　移植或部署到移動(dòng)平臺(tái)233
　　13.1.4　實(shí)際應(yīng)用234
　13.2　最佳實(shí)踐指南234
　　13.2.1　基準(zhǔn)測(cè)試234
　　13.2.2　隱私和差異化隱私235
　　13.2.3　調(diào)試和可視化236
　　13.2.4　歸檔236
　13.3　機(jī)器學(xué)習(xí)問(wèn)題237
　　13.3.1　數(shù)據(jù)怪物237
　　13.3.2　訓(xùn)練問(wèn)題238
　　13.3.3　產(chǎn)品設(shè)計(jì)噩夢(mèng)238
　13.4　學(xué)習(xí)資源推薦240
　　13.4.1　數(shù)學(xué)基本知識(shí)241
　13.5　小結(jié)242