動(dòng)手學(xué)推薦系統(tǒng)：基于PyTorch的算法實(shí)現(xiàn)（微課視頻版）

第1章 推薦系統(tǒng)的初步了解（ 28min）
1.1什么是推薦系統(tǒng)
1.2推薦系統(tǒng)的由來(lái)
1.2.1Tapestry
1.2.2GroupLens
1.3推薦系統(tǒng)的概況
1.4推薦算法的概況
參考文獻(xiàn)
第2章 基礎(chǔ)推薦算法（ 398min）
2.1協(xié)同過(guò)濾
2.2基礎(chǔ)近鄰指標(biāo)
2.2.1CN相似度
2.2.2Jaccard相似度
2.2.3Cos相似度
2.2.4Pearson相似度
2.2.5Pearson相似度與Cos相似度之間的聯(lián)系
2.3基于近鄰的協(xié)同過(guò)濾算法
2.3.1UserCF
2.3.2行為相似與內(nèi)容相似的區(qū)別
2.3.3ItemCF
2.3.4實(shí)戰(zhàn)： UserCF
2.3.5實(shí)戰(zhàn)： ItemCF
2.3.6實(shí)戰(zhàn)： 標(biāo)注為1~5的評(píng)分
2.4推薦模型評(píng)估： 入門篇
2.4.1廣義的準(zhǔn)確率、精確率、召回率
2.4.2推薦系統(tǒng)的準(zhǔn)確率、精確率、召回率
2.4.3推薦列表評(píng)測(cè)
2.4.4對(duì)近鄰協(xié)同過(guò)濾模型進(jìn)行評(píng)測(cè)
2.5進(jìn)階近鄰指標(biāo)
2.5.1UserIIF與ItemIUF
2.5.2更高效地利用流行度定義近鄰指標(biāo)
2.5.3自定義相似度指標(biāo)的范式
2.6矩陣分解協(xié)同過(guò)濾算法
2.6.1SVD矩陣分解
2.6.2將SVD用作推薦
2.6.3LFM隱因子模型
2.6.4ALS代碼實(shí)現(xiàn)
2.6.5推薦模型評(píng)估： MSE、RMSE、MAE
2.6.6以深度學(xué)習(xí)端到端訓(xùn)練思維理解ALS
2.6.7ALS代碼實(shí)現(xiàn)PyTorch版
2.7邏輯回歸出發(fā)的推薦算法
2.7.1顯式反饋與隱式反饋
2.7.2邏輯回歸
2.7.3POLY2
2.7.4FM
2.7.5以深度學(xué)習(xí)端到端訓(xùn)練思維理解FM
2.8本章 總結(jié)
2.8.13個(gè)重要算法： 近鄰協(xié)同過(guò)濾、ALS、FM
2.8.2協(xié)同過(guò)濾算法總結(jié)
參考文獻(xiàn) 
第3章 進(jìn)階推薦算法（ 351min）
3.1神經(jīng)網(wǎng)絡(luò)推薦算法推導(dǎo)范式
3.1.1ALS MLP
3.1.2特征向量 MLP
3.1.3結(jié)合CNN的推薦
3.1.4結(jié)合RNN的推薦
3.1.5ALS結(jié)合RNN
3.1.6聯(lián)合訓(xùn)練的RNN
3.1.7小節(jié)總結(jié)
3.2FM在深度學(xué)習(xí)中的應(yīng)用
3.2.1FNN
3.2.2改進(jìn)后的FNN
3.2.3Wide & Deep
3.2.4DeepFM
3.2.5AFM
3.2.6小節(jié)總結(jié)
3.3序列推薦算法
3.3.1基本序列推薦模型
3.3.2DIN與注意力計(jì)算方式
3.3.3從PReLU到Dice激活函數(shù)
3.3.4DIEN模擬興趣演化的序列網(wǎng)絡(luò)
3.4Transformer在推薦算法中的應(yīng)用
3.4.1從推薦角度初步了解Transformer
3.4.2多頭注意力與縮放點(diǎn)乘注意力算法
3.4.3殘差
3.4.4Layer Normalization
3.4.5前饋神經(jīng)網(wǎng)絡(luò)層
3.4.6位置編碼
3.4.7Transformer Encoder
3.4.8利用Transformer編碼器的推薦算法BST
3.4.9Transformer Decoder
3.4.10結(jié)合Transformer解碼器的推薦算法推導(dǎo)
3.5本章 總結(jié)
參考文獻(xiàn)
第4章 圖神經(jīng)網(wǎng)絡(luò)與推薦算法（ 275min）
4.1圖論基礎(chǔ)
4.1.1什么是圖
4.1.2無(wú)向圖與有向圖
4.1.3無(wú)權(quán)圖與有權(quán)圖
4.1.4同構(gòu)圖與異構(gòu)圖
4.1.5圖的表示： 鄰接矩陣
4.1.6圖的表示： 鄰接列表
4.1.7圖的表示： 邊集
4.1.8鄰居與度
4.1.9結(jié)構(gòu)特征、節(jié)點(diǎn)特征、邊特征
4.1.10處理圖的Python庫(kù)推薦
4.2基于圖的基礎(chǔ)推薦方式
4.2.1鏈路預(yù)測(cè)(Link Prediction)
4.2.2什么是路徑
4.2.3基于路徑的基礎(chǔ)鏈路預(yù)測(cè)
4.2.4圖游走算法DeepWalk
4.2.5圖游走算法Node2Vec
4.3圖神經(jīng)網(wǎng)絡(luò)
4.3.1GCN圖卷積網(wǎng)絡(luò)
4.3.2GAT圖注意力網(wǎng)絡(luò)
4.3.3消息傳遞
4.3.4圖采樣介紹
4.3.5圖采樣算法： GraphSAGE
4.3.6圖采樣算法： PinSAGE
4.4基于圖神經(jīng)網(wǎng)絡(luò)的推薦
4.4.1利用GCN的推薦算法
4.4.2利用GAT的推薦算法
4.4.3圖神經(jīng)網(wǎng)絡(luò)結(jié)合FM的推薦算法： GFM
4.4.4GFM加入注意力機(jī)制的推薦算法： GAFM
4.4.5小節(jié)總結(jié)
4.5本章 總結(jié)
參考文獻(xiàn)
第5章 知識(shí)圖譜與推薦算法（ 408min）
5.1知識(shí)圖譜基礎(chǔ)
5.1.1知識(shí)圖譜定義
5.1.2RDF到HRT三元組
5.1.3知識(shí)圖譜推薦算法與圖神經(jīng)網(wǎng)絡(luò)推薦算法的發(fā)展脈絡(luò)
5.1.4知識(shí)圖譜推薦算法的概覽
5.1.5基于知識(shí)圖譜推薦的優(yōu)劣勢(shì)
5.1.6Freebase數(shù)據(jù)集介紹
5.2Knowledge Graph Embedding知識(shí)圖譜嵌入
5.2.1翻譯距離模型TransE
5.2.2翻譯距離模型TransH
5.2.3翻譯距離模型TransR
5.2.4其他翻譯距離模型
5.2.5語(yǔ)義匹配模型RESCAL
5.2.6其他語(yǔ)義匹配模型
5.3基于知識(shí)圖譜嵌入的推薦算法
5.3.1利用知識(shí)圖譜嵌入做推薦模型的基本思路
5.3.2簡(jiǎn)單的知識(shí)圖譜推薦算法CKE
5.3.3CKE擴(kuò)展及演化
5.3.4加強(qiáng)知識(shí)圖譜信息的影響： MKR
5.3.5MKR擴(kuò)展
5.3.6針對(duì)更新頻率很快的新聞場(chǎng)景知識(shí)圖譜推薦算法： DKN
5.4基于知識(shí)圖譜路徑的推薦算法
5.4.1元路徑
5.4.2路徑相似度(PathSim)
5.4.3學(xué)習(xí)元路徑的權(quán)重： PER
5.4.4異構(gòu)圖的圖游走算法： MetaPath2Vec
5.4.5MetaPath2Vec的擴(kuò)展
5.5知識(shí)圖譜嵌入結(jié)合圖路徑的推薦RippLeNet
5.5.1RippLeNet基礎(chǔ)思想
5.5.2RippLeNet計(jì)算過(guò)程
5.5.3水波圖采樣
5.5.4RippLeNet實(shí)際操作時(shí)的注意事項(xiàng)與代碼范例
5.6圖神經(jīng)網(wǎng)絡(luò)與知識(shí)圖譜
5.6.1基礎(chǔ)的基于圖神經(jīng)網(wǎng)絡(luò)的知識(shí)圖譜推薦算法KGCN
5.6.2KGCN的擴(kuò)展 KGNNLS
5.6.3圖注意力網(wǎng)絡(luò)在知識(shí)圖譜推薦算法中的應(yīng)用KGAT
5.6.4GFM與知識(shí)圖譜的結(jié)合KGFM
5.7本章 總結(jié)
參考文獻(xiàn)
第6章 推薦系統(tǒng)的構(gòu)造（ 228min）
6.1推薦系統(tǒng)結(jié)構(gòu)
6.1.1預(yù)測(cè)服務(wù)概覽
6.1.2模型訓(xùn)練概覽
6.1.3數(shù)據(jù)處理概覽
6.1.4推薦系統(tǒng)結(jié)構(gòu)概覽
6.2預(yù)測(cè)服務(wù)部分
6.2.1邏輯召回
6.2.2近鄰召回
6.2.3Embedding召回
6.2.4基于模型的召回： 粗排序?qū)?br />6.2.5精排序?qū)?br />6.2.6小節(jié)總結(jié)
6.3LSHEmbedding匹配的加速算法
6.3.1MinHash
6.3.2LSH
6.3.3雙塔模型 LSH召回實(shí)戰(zhàn)
6.4模型訓(xùn)練部分
6.4.1全量訓(xùn)練與增量訓(xùn)練
6.4.2定時(shí)訓(xùn)練與實(shí)時(shí)訓(xùn)練
6.4.3離線訓(xùn)練與在線訓(xùn)練
6.4.4小節(jié)總結(jié)
6.5數(shù)據(jù)處理部分
6.5.1特征工程數(shù)據(jù)流
6.5.2用戶畫像與產(chǎn)品畫像
6.5.3生成標(biāo)注
6.5.4負(fù)例采樣
6.5.5統(tǒng)計(jì)類數(shù)據(jù)流
6.5.6批處理與流處理
6.5.7大數(shù)據(jù)處理工具簡(jiǎn)介： Spark
6.5.8大數(shù)據(jù)處理工具簡(jiǎn)介： Flink
6.5.9小節(jié)總結(jié)
6.6冷啟動(dòng)
6.6.1用戶冷啟動(dòng)
6.6.2物品冷啟動(dòng)
6.6.3物品冷啟動(dòng)到沉寂的生命周期
6.6.4系統(tǒng)冷啟動(dòng)
參考文獻(xiàn)
第7章 推薦系統(tǒng)的評(píng)估（ 134min）
7.1基礎(chǔ)機(jī)器學(xué)習(xí)模型評(píng)測(cè)指標(biāo)
7.1.1準(zhǔn)確率
7.1.2精確率
7.1.3召回率
7.1.4F1Score
7.1.5ROC曲線
7.1.6AUC
7.1.7Log Loss
7.1.8MSE、RMSE、MAE
7.2TopK推薦評(píng)測(cè)指標(biāo)
7.2.1TopK精確率與召回率
7.2.2TopK測(cè)試與普通模型測(cè)試的區(qū)別
7.2.3Mean Average Precision(MAP)
7.2.4Hit Ratio(HR)
7.2.5Mean Reciprocal Rank(MRR)
7.2.6Normalized Discounted Cumulative Gain(NDCG)
7.2.7小節(jié)總結(jié)
7.3業(yè)務(wù)性評(píng)測(cè)指標(biāo)
7.3.1點(diǎn)擊率CTR (Click Through Rate)
7.3.2轉(zhuǎn)化率CVR (Conversion Rate)
7.3.3覆蓋率(Coverage)
7.3.4多樣性(Diversity)
7.3.5信息熵(Entropy)
7.3.6新穎度(Novelty)
7.3.7驚喜度(Surprise)
7.3.8小節(jié)總結(jié)
7.4在線對(duì)比測(cè)試
7.4.1A/B 測(cè)試
7.4.2交叉測(cè)試
7.4.3A/B測(cè)試與交叉測(cè)試的優(yōu)劣勢(shì)
參考文獻(xiàn)
第8章 推薦工程的生命周期（ 75min）
8.1了解數(shù)據(jù)與推薦目的
8.2初期的特征篩選
8.2.1去除空值太多的特征類目
8.2.2去除單一值太多的特征類目
8.2.3去除一一映射關(guān)系的特征
8.2.4計(jì)算信息增益比篩選特征
8.2.5計(jì)算皮爾遜相關(guān)系數(shù)篩選特征
8.2.6通過(guò)L1正則過(guò)濾特征
8.2.7通過(guò)業(yè)務(wù)知識(shí)篩選特征
8.3推薦系統(tǒng)結(jié)構(gòu)設(shè)計(jì)
8.4模型研發(fā)
8.5搭建推薦系統(tǒng)
8.6優(yōu)化推薦系統(tǒng)
參考文獻(xiàn)
結(jié)語(yǔ)（ 14min）