广义线性模型在数据挖掘中的应用研究

generalized additive model (gam)

摘要：

1.广义加性模型（GAM）的定义与特点

2.GAM 的应用领域与优势

3.GAM 的局限性与未来发展方向

正文：

广义加性模型（Generalized Additive Model，简称 GAM）是一种用于分析多元回归数据的统计模型，它基于加性模型（Additive Model）的理论，通过对数据中的非线性关系进行建模，来研究各个自变量对因变量的影响。GAM 具有较强的灵活性，可以处理各种复杂的非线性关系，因此在统计学、数据挖掘、机器学习等领域得到了广泛应用。

GAM 的应用领域主要集中在以下几个方面：

1.时间序列分析：GAM 可以用于分析时间序列数据，预测未来的趋势和波动。

2.医学研究：GAM 可以用于研究患者的病史、生物指标和药物剂量等因素对病情的影响，从而为临床决策提供依据。

3.金融分析：GAM 可以用于分析股票、债券等金融产品的价格波动，预测市场走势。

4.生态环境研究：GAM 可以用于研究气候、土壤、植被等因素对生态环境的影响，为环境保护提供科学依据。

尽管 GAM 具有很多优势，但它也存在一些局限性。首先，GAM 的计算复杂度较高，对计算资源的需求较大，可能导致计算速度较慢。其次，GAM

对数据中的噪声较为敏感，可能会导致模型的预测效果较差。因此，在未来的研究中，如何提高 GAM 的计算效率和鲁棒性，将是一个重要的研究方向。

总之，广义加性模型（GAM）是一种具有广泛应用前景的统计模型，可以用于分析各种多元回归数据，研究各个自变量对因变量的影响。

数据挖掘的常⽤分类算法

分类算法

分类是在⼀群已经知道类别标号的样本中，训练⼀种分类器，让其能够对某种未知的样本进⾏分类。分类算法属于⼀种有监督的学习。分类

算法的分类过程就是建⽴⼀种分类模型来描述预定的数据集或概念集，通过分析由属性描述的数据库元组来构造模型。分类的⽬的就是使⽤

分类对新的数据集进⾏划分，其主要涉及分类规则的准确性、过拟合、⽭盾划分的取舍等。分类算法分类效果如图所⽰。

常⽤的分类算法包括：NBC（Naive Bayesian Classifier，朴素贝叶斯分类）算法、LR（Logistic Regress，逻辑回归）算法、ID3（Iterative Dichotomiser 3 迭代⼆叉树3 代）决策树算法、C4.5 决策树算法、C5.0 决策树算法、SVM（Support Vector Machine，⽀持

向量机）算法、KNN(K-Nearest Neighbor，K 最近邻近)算法、ANN（Artificial Neural Network，⼈⼯神经⽹络）算法等。

NBC算法

NBC 模型发源于古典数学理论，有着坚实的数学基础。该算法是基于条件独⽴性假设的⼀种算法，当条件独⽴性假设成⽴时，利⽤贝叶斯

公式计算出其后验概率，即该对象属于某⼀类的概率，选择具有最⼤后验概率的类作为该对象所属的类。NBC算法的优点

NBC算法逻辑简单，易于实现；

NBC算法所需估计的参数很少；

NBC 算法对缺失数据不太敏感；

NBC 算法具有较⼩的误差分类率；

NBC 算法性能稳定，健壮性⽐较好；

NBC算法的缺点

1.在属性个数⽐较多或者属性之间相关性较⼤时，NBC 模型的分类效果相对较差；

2.算法是基于条件独⽴性假设的，在实际应⽤中很难成⽴，故会影响分类效果

⼀、LR算法

LR 回归是当前业界⽐较常⽤的机器学习⽅法，⽤于估计某种事物的可能性。它与多元线性回归同属⼀个家族，即⼴义线性模型。简单来说

多元线性回归是直接将特征值和其对应的概率进⾏相乘得到⼀个结果，逻辑回归则是在这样的结果上加上⼀个逻辑函数。在此选择LR 作为

1 实验一 Clementine12.0数据挖掘分析方法与应用

一、[实验目的]

熟悉Clementine12.0进行数据挖掘的基本操作方法与流程，对实际的问题能熟练利用Clementine12.0开展数据挖掘分析工作。

二、[知识要点]

1、数据挖掘概念；

2、数据挖掘流程；

3、Clementine12.0进行数据挖掘的基本操作方法。

三、[实验内容与要求]

1、熟悉Clementine12.0操作界面；

2、理解工作流的模型构建方法；

3、安装、运行Clementine12.0软件；

4、构建挖掘流。

四、[实验条件]

Clementine12.0软件。

五、[实验步骤]

1、主要数据挖掘模式分析；

2、数据挖掘流程分析；

3、Clementine12.0下载与安装；

4、Clementine12.0功能分析；

5、Clementine12.0决策分析实例。

六、[思考与练习]

1、Clementine12.0软件进行数据挖掘的主要特点是什么？

2、利用Clementine12.0构建一个关联挖掘流（购物篮分析）。

2 实验部分

一、Clementine简述

Clementine是ISL(Integral Solutions Limited)公司开发的数据挖掘工具平台。1999年SPSS公司收购了ISL公司，对Clementine产品进行重新整合和开发，现在Clementine已经成为SPSS公司的又一亮点。

作为一个数据挖掘平台， Clementine结合商业技术可以快速建立预测性模型，进而应用到商业活动中，帮助人们改进决策过程。强大的数据挖掘功能和显著的投资回报率使得Clementine在业界久负盛誉。同那些仅仅着重于模型的外在表现而忽略了数据挖掘在整个业务流程中的应用价值的其它数据挖掘工具相比， Clementine其功能强大的数据挖掘算法，使数据挖掘贯穿业务流程的始终，在缩短投资回报周期的同时极大提高了投资回报率。

龙源期刊网

NBA金州勇士队取胜的影响因素分析

作者：会渊凯

来源：《大东方》2019年第10期

摘 要：NBA联赛是集竞技水平、商业运作最高境界于一身的职业篮球联赛，受到世界各地篮球爱好者的喜爱。在NBA联赛中每支球队都有自己独有的技术特点和战术体系，都会选择适合自身球队特点的阵容组合模式和进攻方式。金州勇士队连续四年打进总决赛，并三次获得总冠军。本文运用Logistic回归及有监督的决策树数据挖掘技术，对金州勇士队比赛取胜的影响因素进行分析。

关键词：NBA联赛;数据挖掘;因素分析

一.Logistic回归探究金州勇士队取胜指标

1.Logistic回归

Logistic回归为广义线性模型的一种，解决的是数据相响应变量取值非连续型，分布不是正态的情况。因变量Y为二元变量，取值为1或0[1]。在给定自变量的情况下，因变量的条件期望实际上就是在自变量的某种水平下取“1”的概率，即所关心事件发生的概率为：，因此，Logistic的模型表示为：

公式中 ;表示事件发生的概率。在做Logistic回归时，为使模型的形式更清楚，解释更方便，往往将上式做Logit 变换，即转化为如下形式：

該等式的左边是事件发生概率与不发生概率之比，当这个比值越大，说明事件越容易发生，它的取值范围在之间。

2.探究金州勇士队取胜指标

本文选取2014年至2018年金州勇士队连续四年打入NBA总决赛的四个赛季的数据，以比赛结果（result）作为二元变量，取胜为1，未取胜为0。以主客场（host），主场为1，客场为0。投篮命中率（shot），三分球投篮命中率（threepoint），罚球命中率（freeball），篮板个数（rebound），助攻个数（assistant），抢断个数（steal），失误个数（fault）以及每场失分情况（lose）作为自变量，进行Logistic回归，探究金州勇士队的取胜指标。结果如下：