大数据建模培训

第 一部分： 数据建模基本过程

1、 预测建模六步法

●选择模型：基于业务选择恰当的数据模型

●属性筛选：选择对目标变量有显著影响的属性来建模

●训练模型：采用合适的算法对模型进行训练，寻找到**合适的模型参数

●评估模型：进行评估模型的质量，判断模型是否可用

●优化模型：如果评估结果不理想，则需要对模型进行优化

●应用模型：如果评估结果满足要求，则可应用模型于业务场景

2、 数据挖掘常用的模型

●数值预测模型：回归预测、时序预测等

●分类预测模型：逻辑回归、决策树、神经网络、支持向量机等

●市场细分：聚类、RFM、PCA等

●产品推荐：关联分析、协同过滤等

●产品优化：回归、随机效用等

●产品定价：定价策略/**定价等

3、 属性筛选/特征选择/变量降维

●基于变量本身特征

●基于相关性判断

●因子合并（PCA等）

●IV值筛选（评分卡使用）

●基于信息增益判断（决策树使用）

4、 模型评估

●模型质量评估指标：R^2、正确率/查全率/查准率/特异性等

●预测值评估指标：MAD、MSE/RMSE、MAPE、概率等

●模型评估方法：留出法、K拆交叉验证、自助法等

●其它评估：过拟合评估

5、 模型优化

●优化模型：选择新模型/修改模型

●优化数据：新增显著自变量

●优化公式：采用新的计算公式

6、 模型实现算法（暂略）

7、 好模型是优化出来的

案例：通信客户流失分析及预警模型

第二部分： 属性筛选方法

问题：如何选择合适的属性来进行建模预测？

比如：价格是否可用于产品销量的预测？套餐的合理性是否会影响客户流失？在欺诈风险中有哪些数据会有异常表现？

1、 属性筛选/变量降维的常用方法

●基于变量本身特征来选择属性

●基于数据间的相关性来选择属性

●基于因子合并（如PCA分析）实现变量的合并

●利用IV值筛选

●基于信息增益来选择属性

2、 相关分析（衡量变量间的线性相关性）

问题：这两个属性是否会相互影响？影响程度大吗？

●相关分析简介

●相关分析的三个种类

●简单相关分析

●偏相关分析

●距离相关分析

●相关系数的三种计算公式

●Pearson相关系数

●Spearman相关系数

●Kendall相关系数

●相关分析的假设检验

●相关分析的四个基本步骤

演练：体重与腰围的关系

演练：营销费用会影响销售额吗

演练：哪些因素与汽车销量有相关性

演练：通信费用与开通月数的相关分析

●偏相关分析

●偏相关原理：排除不可控因素后的两变量的相关性

●偏相关系数的计算公式

●偏相关分析的适用场景

●距离相关分析

3、 方差分析(衡量类别变量与数据变量的相关性)

问题：哪些才是影响销量的关键因素？

●方差分析的应用场景

●方差分析的三个种类

●单因素方差分析

●多因素方差分析

●协方差分析

●方差分析的原理

●方差分析的四个步骤

●解读方差分析结果的两个要点

演练：终端摆放位置与终端销量有关吗

演练：开通月数对客户流失的影响分析

演练：客户学历对消费水平的影响分析

演练：广告和价格是影响终端销量的关键因素吗

演练：营业员的性别、技能级别对产品销量有影响吗

演练：寻找影响产品销量的关键因素

●多因素方差分析原理

●多因素方差分析的作用

●多因素方差结果的解读

演练：广告形式、地区对销量的影响因素分析（多因素）

●协方差分析原理

●协方差分析的适用场景

演练：饲料对生猪体重的影响分析（协方差分析）

4、 列联分析/卡方检验（两类别变量的相关性分析）

●交叉表与列联表

●卡方检验的原理

●卡方检验的几个计算公式

●列联表分析的适用场景

案例：套餐类型对客户流失的影响分析

案例：学历对业务套餐偏好的影响分析

案例：行业/规模对风控的影响分析

5、 相关性分析各种方法的适用场景

6、 主成份分析（PCA）

●因子分析的原理

●因子个数如何选择

●如何解读因子含义

案例：提取影响电信客户流失的主成分分析

第三部分： 回归预测模型篇

问题：如何预测产品的销量/销售金额？如果产品跟随季节性变动，该如何预测？新产品上市，如果评估销量上限及销售增速？

1、 常用的数值预测模型

●回归预测

●时序预测

2、 回归预测/回归分析

问题：如何预测未来的销售量（定量分析）？

●回归分析的基本原理和应用场景

●回归分析的种类（一元/多元、线性/曲线）

●得到回归方程的四种常用方法

●Excel函数

●散点图+趋势线

●线性回归工具

●规范求解

●线性回归分析的五个步骤

●回归方程结果的解读要点

●评估回归模型质量的常用指标

●评估预测值的准确度的常用指标

演练：散点图找推广费用与销售额的关系（一元线性回归）

演练：推广费用、办公费用与销售额的关系（多元线性回归）

演练：让你的营销费用预算更准确

演练：如何选择*的回归预测模型（曲线回归）

●带分类变量的回归预测

演练：汽车季度销量预测

演练：工龄、性别与终端销量的关系

演练：如何评估销售目标与资源配置（营业厅）

3、 自动筛选不显著自变量

第四部分： 回归预测模型优化篇

1、 回归分析的基本原理

●三个基本概念：总变差、回归变差、剩余变差

●方程的显著性检验：是否可以做回归分析？

●因素的显著性检验：自变量是否可用？

●拟合优度检验：回归模型的质量评估？

●理解标准误差的含义：预测的准确性？

2、 回归模型优化思路：寻找*回归拟合线

●如何处理预测离群值（剔除离群值）

●如何剔除非显著因素（剔除不显著因素）

●如何进行非线性关系检验（增加非线性自变量）

●如何进行相互作用检验（增加相互作用自变量）

●如何进行多重共线性检验（剔除共线性自变量）

●如何检验误差项（修改因变量）

●如何判断模型过拟合（模型过拟合判断）

案例：模型优化案例

3、 规划求解工具简介

4、 自定义回归模型（如何利用规划求解进行自定义模型）

案例：如何对餐厅客流量进行建模及模型优化

5、 好模型都是优化出来的

第五部分： 时序预测模型

问题：无法找到影响因素，无法回归建模，怎么办？随着业务受季节性因素影响，未来的销量如何预测？

1、 时序序列简介

2、 时序分析的原理及应用场景

3、 常见时序预测模型

1、 评估预测值的准确度指标

●平均*误差MAD

●均方差MSE/RMSE

●平均误差率MAPE

4、 移动平均

●应用场景及原理

●移动平均种类

●一次移动平均

●二次移动平均

●加权移动平均

●移动平均比率法

●移动平均关键问题

●*期数N的选择原则

●**权重系数的选取原则

演练：平板电脑销量预测及评估

演练：快销产品季节销量预测及评估

5、 指数平滑

●应用场景及原理

●**平滑系数的选取原则

●指数平滑种类

●一次指数平滑

●二次指数平滑（Brown线性、Holt线性、Holt指数、阻尼线性、阻尼指数）

●三次指数平滑

演练：煤炭产量预测

演练：航空旅客量预测及评估

6、 温特期季节性预测模型

●适用场景及原理

●Holt-Winters加法模型

●Holt-Winters乘法模型

演练：汽车销量预测及评估

7、 回归季节预测模型

●季节性回归模型的参数

●基于时期t的相加模型

●基于时期t的相乘模型

●怎样解读模型的含义

案例：*航空旅客里程的季节性趋势分析

8、 新产品预测模型与S曲线

●新产品累计销量的S曲线模型

●如何评估销量增长的上限以及拐点

●珀尔曲线与龚铂兹曲线

案例：如何预测产品的销售增长拐点，以及销量上限

演戏：预测IPad产品的销量

第六部分： 分类预测模型

问题：如何评估客户购买产品的可能性？或者说，影响客户购买意向的产品关键特性是什么？

1、 分类预测模型概述

2、 常见分类预测模型

3、 评估分类模型的常用指标

●正确率、查全率/查准率、特异性等

4、 逻辑回归分析模型（LR）

问题：如果评估用户是否购买产品的概率？

●逻辑回归模型原理及适用场景

●逻辑回归的种类

●二项逻辑回归

●多项逻辑回归

●如何解读逻辑回归方程

●带分类自变量的逻辑回归分析

●多项逻辑回归

案例：如何评估用户是否会购买某产品（二项逻辑回归）

案例：多品牌选择模型分析（多项逻辑回归）

5、 决策树分类（DT）

问题：如何提取客户流失者、拖欠货款者的特征？如何预测其流失的概率？

●决策树分类的原理

●决策树的三个关键问题

●如何选择*属性来构建节点

●如何分裂变量

●如何修剪决策树

●选择**属性

●熵、基尼索引、分类错误

●属性划分增益

●如何分裂变量

●多元划分与二元划分

●连续变量离散化（**划分点）

●修剪决策树

●剪枝原则

●预剪枝与后剪枝

●构建决策树的四个算法

●C5.0、CHAID、CART、QUEST

●各种算法的比较

●如何选择**分类模型？

案例：识别银行欠货风险，提取欠货者的特征

案例：客户流失预警与客户挽留模型

6、 人工神经网络（ANN）

●神经网络概述

●神经网络基本原理

●神经网络的结构

●神经网络的建立步骤

●神经网络的关键问题

●BP反向传播网络（MLP）

●径向基网络（RBF）

案例：评估银行用户拖欠货款的概率

7、 判别分析（DA）

●判别分析原理

●距离判别法

●典型判别法

●贝叶斯判别法

案例：MBA学生录取判别分析

案例：上市公司类别评估

8、 **近邻分类（KNN）

●基本原理

●关键问题

9、 贝叶斯分类（NBN）

●贝叶斯分类原理

●计算类别属性的条件概率

●估计连续属性的条件概率

●贝叶斯网络种类：TAN/马尔科夫毯

●预测分类概率（计算概率）

案例：评估银行用户拖欠货款的概率

第七部分： 分类模型优化篇（集成方法）

1、 集成方法的基本原理：利用弱分类器构建强分类模型

●选取多个数据集，构建多个弱分类器

●多个弱分类器投票决定

2、 集成方法/元算法的种类

●Bagging算法

●Boosting算法

3、 Bagging原理

●如何选择数据集

●如何进行投票

●随机森林

4、 Boosting的原理

●AdaBoost算法流程

●样本选择权重计算公式

●分类器投票权重计算公式

第八部分： 银行信用评分卡模型

1、 信用评分卡模型简介

2、 评分卡的关键问题

3、 信用评分卡建立过程

●筛选重要属性

●数据集转化

●建立分类模型

●计算属性分值

●确定审批阈值

4、 筛选重要属性

●属性分段

●基本概念：WOE、IV

●属性重要性评估

5、 数据集转化

●连续属性**分段

●计算属性取值的WOE

6、 建立分类模型

●训练逻辑回归模型

●评估模型

●得到字段系数

7、 计算属性分值

●计算补偿与刻度值

●计算各字段得分

●生成评分卡

8、 确定审批阈值

●画K-S曲线

●计算K-S值

●获取**阈值

更多课程详情请点击咨询专属客服