課程描述INTRODUCTION
Python分類模型
· 技術(shù)主管· 高層管理者· 中層領(lǐng)導(dǎo)
日程安排SCHEDULE
課程大綱Syllabus
Python分類模型
【課程目標(biāo)】
本課程主要講解如何利用Python進(jìn)行時(shí)間序列的數(shù)據(jù)建模。
通過本課程的學(xué)習(xí),達(dá)到如下目的:
1、掌握數(shù)據(jù)建模的標(biāo)準(zhǔn)流程。
2、掌握各種分類預(yù)測(cè)模型的原理,以及算法實(shí)現(xiàn)。
3、掌握各種分類模型類的重要參數(shù),以及應(yīng)用。
4、掌握模型的評(píng)估指標(biāo)、評(píng)估方法,以及過擬合評(píng)估。
5、掌握模型優(yōu)化的基本方法,學(xué)會(huì)超參優(yōu)化。
6、掌握集成優(yōu)化思想,掌握高級(jí)的分類模型。
【授課對(duì)象】
業(yè)務(wù)支持部、IT系統(tǒng)部、大數(shù)據(jù)系統(tǒng)開發(fā)部、大數(shù)據(jù)分析中心、網(wǎng)絡(luò)運(yùn)維部等相關(guān)技術(shù)人員。
【課程大綱】
一、預(yù)測(cè)建?;A(chǔ)
1、數(shù)據(jù)建模六步法
-選擇模型:基于業(yè)務(wù)選擇恰當(dāng)?shù)臄?shù)據(jù)模型
-屬性篩選:選擇對(duì)目標(biāo)變量有顯著影響的屬性來建模
-訓(xùn)練模型:采用合適的算法,尋找到最合適的模型參數(shù)
-評(píng)估模型:進(jìn)行評(píng)估模型的質(zhì)量,判斷模型是否可用
-優(yōu)化模型:如果評(píng)估結(jié)果不理想,則需要對(duì)模型進(jìn)行優(yōu)化
-應(yīng)用模型:如果評(píng)估結(jié)果滿足要求,則可應(yīng)用模型于業(yè)務(wù)場(chǎng)景
2、數(shù)據(jù)挖掘常用的模型
-數(shù)值預(yù)測(cè)模型:回歸預(yù)測(cè)、時(shí)序預(yù)測(cè)等
-分類預(yù)測(cè)模型:邏輯回歸、決策樹、神經(jīng)網(wǎng)絡(luò)、支持向量機(jī)等
-市場(chǎng)細(xì)分:聚類、RFM、PCA等
-產(chǎn)品推薦:關(guān)聯(lián)分析、協(xié)同過濾等
-產(chǎn)品優(yōu)化:回歸、隨機(jī)效用等
-產(chǎn)品定價(jià):定價(jià)策略/最優(yōu)定價(jià)等
3、屬性篩選/特征選擇/變量降維
-基于變量本身特征
-基于相關(guān)性判斷
-因子合并(PCA等)
-IV值篩選(評(píng)分卡使用)
-基于信息增益判斷(決策樹使用)
4、訓(xùn)練模型及實(shí)現(xiàn)算法
-模型原理
-算法實(shí)現(xiàn)
5、模型評(píng)估
-評(píng)估指標(biāo)
-評(píng)估方法
-過擬合評(píng)估
6、模型優(yōu)化
-優(yōu)化模型:選擇新模型/修改模型
-優(yōu)化數(shù)據(jù):新增顯著自變量
-優(yōu)化公式:采用新的計(jì)算公式
7、模型應(yīng)用
-模型解讀
-模型部署
-模型應(yīng)用
8、好模型是優(yōu)化出來的
二、分類模型評(píng)估
1、三個(gè)方面評(píng)估:指標(biāo)、方法、過擬合
2、兩大矩陣
-混淆矩陣
-代價(jià)矩陣
3、六大指標(biāo)
-正確率Accuracy
-查準(zhǔn)率Precision
-查全率Recall
-特異度Specify
-F度量值(/)
-提升指標(biāo)lift
4、三條曲線
-ROC曲線和AUC
-PR曲線和BEP
-KS曲線和KS值
5、多分類模型評(píng)估指標(biāo)
-宏指標(biāo):macro_P, macro_R
-宏指標(biāo):micro_P, micro_R
6、模型評(píng)估方法
-原始評(píng)估法
-留出法(Hold-Out)
-交叉驗(yàn)證法(k-fold cross validation)
-自助采樣法(Bootstrapping)
7、其它評(píng)估
-過擬合評(píng)估:學(xué)習(xí)曲線
-殘差評(píng)估:白噪聲評(píng)估
三、邏輯回歸
問題:如何評(píng)估客戶購買產(chǎn)品的可能性?如何預(yù)測(cè)客戶行為?
如何預(yù)測(cè)客戶流失?銀行如何實(shí)現(xiàn)欠貸風(fēng)險(xiǎn)控制?
1、邏輯回歸模型簡(jiǎn)介
2、邏輯回歸的種類
-二項(xiàng)邏輯回歸
-多項(xiàng)邏輯回歸
3、邏輯回歸方程解讀
4、帶分類自變量的邏輯回歸
5、邏輯回歸的算法實(shí)現(xiàn)及優(yōu)化
-迭代樣本的隨機(jī)選擇
-變化的學(xué)習(xí)率
6、邏輯回歸+正則項(xiàng)
7、求解算法與懲罰項(xiàng)的互斥關(guān)系
8、多元邏輯回歸處理
-ovo
-ovr
9、邏輯回歸建模過程
案例:用sklearn庫實(shí)現(xiàn)銀行貸款違約預(yù)測(cè)
案例:訂閱者用戶的典型特征(二元邏輯回歸)
案例:通信套餐的用戶畫像(多元邏輯回歸)
四、決策樹
1、分類決策樹簡(jiǎn)介
演練:識(shí)別銀行欠貨風(fēng)險(xiǎn),提取欠貸者的特征
2、決策樹的三個(gè)關(guān)鍵問題
-最優(yōu)屬性選擇
-熵、基尼系數(shù)
-信息增益、信息增益率
-屬性*劃分
-多元?jiǎng)澐峙c二元?jiǎng)澐?br />
-連續(xù)變量最優(yōu)劃分
-決策樹修剪
-剪枝原則
-預(yù)剪枝與后剪枝
3、構(gòu)建決策樹的算法
-C5.0、CHAID、CART、QUEST
-各種算法的比較
4、決策樹的超參優(yōu)化
5、決策樹的解讀
6、決策樹建模過程
案例:商場(chǎng)酸奶購買用戶特征提取
案例:客戶流失預(yù)警與客戶挽留
案例:識(shí)別拖欠銀行貨款者的特征,避免不良貨款
案例:識(shí)別電信詐騙者嘴臉,讓通信更安全
案例:電力竊漏用戶自動(dòng)識(shí)別
五、人工神經(jīng)網(wǎng)絡(luò)
1、神經(jīng)網(wǎng)絡(luò)簡(jiǎn)介(ANN)
2、神經(jīng)元基本原理
-加法器
-激活函數(shù)
3、神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)
-隱藏層數(shù)量
-神經(jīng)元個(gè)數(shù)
4、神經(jīng)網(wǎng)絡(luò)的建立步驟
5、神經(jīng)網(wǎng)絡(luò)的關(guān)鍵問題
6、BP算法實(shí)現(xiàn)
7、MLP多層神經(jīng)網(wǎng)絡(luò)
案例:評(píng)估銀行用戶拖欠貨款的概率
案例:神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)產(chǎn)品銷量
六、線性判別分析(LDA)
1、判別分析簡(jiǎn)介
-基本思想
2、判別分析種類
3、判別分析算法
-類間散席
-類內(nèi)散席
4、LDA線性判別模型
5、多分類判別分析
案例:MBA學(xué)生錄取判別分析
案例:上市公司類別評(píng)估
七、最近鄰分類(KNN)
1、KNN的基本原理
2、K近鄰的關(guān)鍵問題
3、K近鄰的實(shí)現(xiàn)算法
-Brute暴力計(jì)算
-Kd_tree
-Ball_tre
八、樸素貝葉斯分類(NBN)
1、貝葉斯簡(jiǎn)介
2、貝葉斯分類原理
-先驗(yàn)概率和后驗(yàn)概率
-條件概率和類概率
3、常見貝葉斯網(wǎng)絡(luò)
4、計(jì)算類別屬性的條件概率
5、估計(jì)連續(xù)屬性的條件概率
6、預(yù)測(cè)分類概率(計(jì)算概率)
7、拉普拉斯修正
案例:評(píng)估銀行用戶拖欠貨款的概率
九、支持向量機(jī)(SVM)
1、支持向量機(jī)簡(jiǎn)介
-適用場(chǎng)景
2、支持向量機(jī)原理
-支持向量
-*邊界超平面
3、線性不可分處理
-松弛系數(shù)
4、非線性SVM分類
5、常用核函數(shù)
-線性核函數(shù)
-多項(xiàng)式核
-高斯RBF核
-核函數(shù)的選擇原則
6、SMO算法
十、模型集成優(yōu)化篇
1、模型的優(yōu)化思想
2、集成模型的框架
-Bagging
-Boosting
-Stacking
3、集成算法的關(guān)鍵過程
-弱分類器如何構(gòu)建
-組合策略:多個(gè)弱學(xué)習(xí)器如何形成強(qiáng)學(xué)習(xí)器
4、Bagging集成算法
-數(shù)據(jù)/屬性重抽樣
-決策依據(jù):少數(shù)服從多數(shù)
-隨機(jī)森林RandomForest
5、Boosting集成算法
-基于誤分?jǐn)?shù)據(jù)建模
-樣本選擇權(quán)重更新
-決策依據(jù):加權(quán)投票
-AdaBoost模型
6、GBDT模型
7、XGBoost模型
8、LightGBM模型
十一、案例實(shí)戰(zhàn)
1、客戶流失預(yù)測(cè)和客戶挽留模型
2、銀行欠貸風(fēng)險(xiǎn)預(yù)測(cè)模型
結(jié)束:課程總結(jié)與問題答疑。
Python分類模型
轉(zhuǎn)載:http://szsxbj.com/gkk_detail/265685.html
已開課時(shí)間Have start time
- 傅一航
IT相關(guān)內(nèi)訓(xùn)
- Fine BI 數(shù)據(jù)分析與 張曉如
- 信息安全風(fēng)險(xiǎn)評(píng)估與加固技能 張勝生
- 電力信息化:價(jià)值和建設(shè)分析 劉宇佳
- 云計(jì)算的應(yīng)用領(lǐng)域和實(shí)踐 武威
- Python高效辦公自動(dòng)化 張曉如
- 軟件安全意識(shí)加強(qiáng)與技能提高 張勝生
- CISSP認(rèn)證培訓(xùn)課程 張勝生
- 網(wǎng)安管理崗培訓(xùn) 張勝生
- 互聯(lián)網(wǎng)新技術(shù)在銀行的應(yīng)用 武威
- IT崗位數(shù)智化能力提升路徑 甄文智
- 滲透測(cè)試與攻防實(shí)戰(zhàn)高級(jí)課程 張勝生
- 大模型技術(shù)與應(yīng)用培訓(xùn) 葉梓