Python機器學習算法及應用

查看源碼
第1章在數(shù)據(jù)上的計算機學習能力
1.1轉(zhuǎn)換機器學習
1.1.1轉(zhuǎn)換機器學習簡介
1.1.2轉(zhuǎn)換機器學習對比其他方法
1.1.3轉(zhuǎn)換機器學習的改進
1.1.4轉(zhuǎn)換機器學習的可解釋性
1.1.5轉(zhuǎn)換機器學習對比深度神經(jīng)網(wǎng)絡
1.1.6構(gòu)建機器學習的生態(tài)系統(tǒng)
1.2三種不同類型的機器學習
1.2.1用監(jiān)督學習預測未來
1.2.2用強化學習解決交互問題
1.2.3用無監(jiān)督學習發(fā)現(xiàn)隱藏的結(jié)構(gòu)
1.2.4分類和回歸術(shù)語
1.3評估機器學習模型
1.3.1簡單的留出驗證
1.3.2K折驗證
1.3.3帶有打亂數(shù)據(jù)的重復K折驗證
1.4數(shù)據(jù)預處理、特征工程和特征學習
1.4.1神經(jīng)網(wǎng)絡的數(shù)據(jù)預處理
1.4.2特征工程
1.5過擬合和欠擬合
1.5.1減小網(wǎng)絡大小
1.5.2添加權(quán)重正則化
1.5.3添加dropout正則化
1.6機器學習工作流程
1.6.1收集數(shù)據(jù)集
1.6.2選擇衡量成功的指標
1.6.3確定評估法
1.6.4開發(fā)更好的模型
1.6.5擴大模型規(guī)模
1.6.6正則化與調(diào)節(jié)超參數(shù)
1.7應用Python解決機器學習問題
1.7.1使用Python的原因
1.7.2Python的安裝
1.7.3Jupyter Notebook的安裝與使用
1.7.4使用pip安裝第三方庫
1.8用于機器學習的軟件包
1.8.1NumPy軟件包
1.8.2SciPy軟件包
1.8.3Pandas軟件包
第2章簡單的機器學習分類算法
2.1機器學習的早期歷史——人工神經(jīng)網(wǎng)絡
2.1.1人工神經(jīng)網(wǎng)絡的定義
2.1.2感知機學習規(guī)則
2.2感知機分類鳶尾
2.3自適應神經(jīng)學習
2.4大規(guī)模機器學習與隨機梯度下降
2.4.1梯度下降算法概述
2.4.2批量梯度下降算法
2.4.3隨機梯度下降算法
2.4.4小批量梯度下降算法
2.4.5梯度下降算法的調(diào)優(yōu)
第3章sklearn機器學習分類器
3.1分類器的選擇
3.2訓練感知器
3.3基于邏輯回歸的分類概率建模
3.3.1幾個相關(guān)定義
3.3.2邏輯代價函數(shù)的權(quán)重
3.3.3正則化解決過擬合問題
3.4支持向量機最大化分類間隔
3.4.1超平面
3.4.2函數(shù)間隔和幾何間隔
3.4.3間隔最大化
3.5核SVM解決非線性分類問題
3.5.1處理非線性不可分數(shù)據(jù)的核方法
3.5.2核函數(shù)實現(xiàn)高維空間的分離超平面
3.6決策樹
3.6.1何為決策樹
3.6.2決策樹生成
3.6.3決策樹的剪枝
3.6.4使用sklearn預測個人情況
3.7K近鄰算法
3.7.1K近鄰算法的原理
3.7.2K近鄰算法的實現(xiàn)
3.8貝葉斯算法
3.8.1貝葉斯算法的基本思想 
3.8.2貝葉斯算法的模型
3.8.3用sklearn實現(xiàn)貝葉斯分類
第4章數(shù)據(jù)預處理
4.1數(shù)據(jù)清洗
4.1.1缺失值處理
4.1.2異常值分析
4.2對某一列編碼
4.3劃分訓練集與測試集
4.3.1偽隨機數(shù)劃分
4.3.2交叉驗證
4.4數(shù)據(jù)特征縮放
4.4.1特征標準化/方差縮放
4.4.2特征歸一化
4.5特征選擇
4.5.1Filter
4.5.2Wrapper
4.5.3基于L1的正則化
第5章降維實現(xiàn)數(shù)據(jù)壓縮
5.1數(shù)據(jù)降維
5.2主成分降維
5.2.1主成分分析步驟
5.2.2PCA算法實現(xiàn)
5.2.3降維映射PCA的實現(xiàn)與應用
5.3線性判別分析監(jiān)督數(shù)據(jù)壓縮
5.3.1線性判別分析基本思想
5.3.2LDA公式推導
5.3.3拉格朗日函數(shù)問題
5.3.4LDA實現(xiàn)數(shù)據(jù)降維
5.3.5基于sklearn的線性判別分析
5.4非線性映射核主成分降維
5.4.1核函數(shù)與核技巧
5.4.2KPCA與PCA降維實現(xiàn)
第6章不同模型的集成學習
6.1集成學習
6.2多投票機制組合分類器
6.3Bagging算法
6.4Boosting模型
6.4.1Boosting的基本思路
6.4.2AdaBoost算法
6.4.3Gradient Boosting算法
6.5Stacking模型
6.5.1Stacking原理
6.5.2Stacking模型實現(xiàn)
第7章連續(xù)變量的回歸分析
7.1線性回歸
7.1.1簡單線性回歸
7.1.2多元線性回歸
7.1.3相關(guān)矩陣查看關(guān)系
7.1.4協(xié)方差與相關(guān)性
7.2最小二乘線性回歸
7.2.1梯度下降法
7.2.2通過sklearn估計回歸模型的系數(shù)
7.3使用RANSAC算法擬合健壯回歸模型
7.4線性回歸模型性能的評估
7.4.1線性回歸算法的衡量標準
7.4.2線性回歸算法應用實例
7.5利用正則化方法進行回歸
7.5.1嶺回歸
7.5.2Lasso回歸
7.5.3彈性網(wǎng)絡
7.6將線性回歸模型轉(zhuǎn)換為多項式回歸
7.7用隨機森林處理非線性關(guān)系
7.7.1決策樹
7.7.2隨機森林回歸
第8章數(shù)據(jù)的聚類分析
8.1KMeans算法
8.1.1KMeans算法原理
8.1.2KMeans算法步驟
8.1.3KMeans算法的缺陷
8.1.4使用sklearn進行KMeans聚類
8.1.5肘法與輪廓法
8.1.6KMeans 算法
8.2層次聚類
8.3DBSCAN算法
8.3.1DBSCAN算法相關(guān)概念
8.3.2DBSCAN算法的優(yōu)缺點
8.3.3DBSCAN算法實現(xiàn)
第9章從單層到多層的人工神經(jīng)網(wǎng)絡
9.1人工神經(jīng)網(wǎng)絡建模復雜函數(shù)
9.1.1單隱層神經(jīng)網(wǎng)絡概述
9.1.2多層神經(jīng)網(wǎng)絡結(jié)構(gòu)
9.1.3前向傳播激活神經(jīng)網(wǎng)絡
9.1.4反向傳播
9.2識別手寫數(shù)字
9.2.1神經(jīng)網(wǎng)絡算法實現(xiàn)數(shù)字的識別
9.2.2實現(xiàn)多層感知器
第10章使用深度卷積神經(jīng)網(wǎng)絡實現(xiàn)圖像分類
10.1構(gòu)建卷積神經(jīng)網(wǎng)絡
10.1.1深度學習
10.1.2CNN的原理
10.1.3使用CNN實現(xiàn)手寫體識別
10.2使用LeNet5實現(xiàn)圖像分類
10.3使用AlexNet實現(xiàn)圖片分類
10.3.1AlexNet結(jié)構(gòu)分析
10.3.2AlexNet的分類實現(xiàn)
10.4VGG16的遷移學習實現(xiàn)
10.5使用OpenCV實現(xiàn)人臉識別
10.5.1人臉檢測
10.5.2車牌檢測
10.5.3目標檢測
10.6使用OpenCV實現(xiàn)網(wǎng)絡遷移
第11章使用循環(huán)神經(jīng)網(wǎng)絡實現(xiàn)序列建模
11.1RNN
11.1.1RNN的發(fā)展歷史
11.1.2什么是RNN
11.1.3LSTM結(jié)構(gòu)和GRU結(jié)構(gòu)
11.1.4序列模型實現(xiàn)
11.2雙向循環(huán)神經(jīng)網(wǎng)絡
11.3Seq2Seq模型序列分析
11.3.1Seq2Seq模型
11.3.2如何訓練Seq2Seq模型
11.3.3利用Seq2Seq進行時間序列預測
第12章使用生成對抗網(wǎng)絡合成新數(shù)據(jù)
12.1GAN原理
12.2GAN應用
12.3強化學習
12.3.1強化學習的方式
12.3.2強化學習系統(tǒng)與特點
12.3.3GAN損失函數(shù)
12.3.4馬爾可夫決策
12.3.5Qlearning算法
12.3.6策略梯度
12.3.7強化學習的經(jīng)典應用