近似、随机与局部搜索的相关

np算法的近似算法
近似算法是一种用于解决NP难问题的方法，它可以在有限时
间内找到一个近似最优解。

在计算复杂性理论中，一个问题被称为NP问题，如果给定一
个解，可以在多项式时间内验证该解的正确性。

然而，找到一个最优解可能需要指数时间，因此，这些问题被认为是非常困难的。

为了解决这些问题，近似算法提出了一种近似最优解的方法。

近似算法的基本思想是在可接受的时间内找到一个近似最优解，该解与真正的最优解之间存在可控制的差距。

近似算法的性能通常通过近似比或逼近比来度量。

近似比是一个常数，它描述了近似解与最优解之间的差异程度，而逼近比则是一个函数，它描述了近似解质量与输入规模之间的关系。

近似算法的设计和分析是一个活跃的研究领域，有许多经典的近似算法已经被提出。

其中一些方法包括贪婪算法、局部搜索算法、随机化算法和近似固定参数算法等。

这些算法通常基于一些启发式策略，以在有限时间内找到一个好的解。

尽管这些方法不能保证找到最优解，但它们通常能够找到一个近似最优解，这在实际应用中已经被证明是非常有用的。

运筹学中整数规划问题的近似算法运筹学是一门研究如何在有限资源下做最优决策的学科，其中整数规划是其中一种重要的决策方法。

整数规划问题是指在线性规划问题的基础上，对决策变量的取值加以限定，限定为整数值。

整数规划问题在实际应用中非常常见，例如优化生产计划、物流配送、资源分配等。

然而，整数规划问题的解空间通常是离散的，由于整数规划问题的NP难解性质，寻找准确解的效率很低，因此近似算法成为解决整数规划问题的重要手段。

一、近似算法的概念近似算法是指在可接受的误差范围内，通过有效的计算方法得到问题的近似最优解。

在整数规划问题中，近似算法主要通过松弛约束条件、局部搜索等方法寻找问题的近似解。

二、近似算法的分类近似算法可以根据问题的特性和解决方法的不同进行分类，下面介绍几种常见的近似算法。

1. 线性松弛算法（Linear Relaxation）线性松弛算法是整数规划问题中常用的近似算法之一。

该算法的基本思想是将整数规划问题的整数约束放宽为实数约束，得到一个线性规划问题。

然后通过求解线性规划问题的松弛解，并将松弛解的整数部分作为整数规划问题的一个近似解。

2. 近似局部搜索算法（Approximate Local Search）近似局部搜索算法通过在整数规划问题的解空间中进行局部搜索，通过一系列的改进和优化策略来逐步提高解的质量。

该算法在每一步都根据某种准则选择当前最优解，并通过局部搜索来寻找局部最优解。

然后，通过重复进行局部搜索和改进操作，逐渐向全局最优解靠近。

3. 启发式算法（Heuristic Algorithm）启发式算法是一种基于经验和直觉的算法，通过在可行解空间中搜索一组近似解，并根据某种评价准则选择最优解。

在解决整数规划问题时，启发式算法通过寻找有效的近似解，来替代寻找准确解，从而节省计算资源和时间。

三、近似算法的应用案例近似算法在实际问题中有广泛的应用，下面以物流配送问题为例，介绍近似算法的应用。

假设某物流公司需要将一批货物从仓库分配到多个客户，其中仓库和客户的位置已知，货物的需求和供应量也已知。

TSP问题的近似算法近似算法是解决优化问题的一种有效方法，它可以在较短时间内得到一个接近最优解的解，而不是花费大量时间去寻找最优解。

TSP问题（Traveling Salesman Problem）是一个经典的优化问题，它的目标是找到一条经过所有城市的最短路径。

这个问题是一个经典的NP难题，意味着在合理的时间内找到准确的最优解是不可能的，最多只能得到近似解。

因此，近似算法在TSP问题中具有重要的应用价值。

常见的近似算法包括贪心算法、局部搜索算法、动态规划算法等。

下面我们将介绍其中几种经典的算法。

1. 贪心算法贪心算法是一种基于贪心策略的近似算法。

它的基本思想是每次选择当前最优解，直到得到一个接近最优解的解。

在TSP问题中，贪心算法的思路是从起点出发，每次选择距离当前城市最近的城市，直到遍历所有城市。

但是这种贪心策略往往不能得到最优解，因为它可能陷入局部最优解。

2. 局部搜索算法局部搜索算法是一种基于局部优化的近似算法。

它的基本思想是从一个随机的解出发，不断地进行局部搜索，直到得到一个接近最优解的解。

在TSP问题中，局部搜索算法的思路是从一个随机的解出发，通过交换城市的顺序来不断优化当前解，直到达到一定的迭代次数或无法继续优化为止。

这种算法的优点是效率高，缺点是易陷入局部最优解。

3. 动态规划算法动态规划算法是一种基于状态转移的近似算法。

它的基本思想是将一个复杂问题分解成若干个子问题，通过按顺序解决子问题来求解原问题。

在TSP问题中，动态规划算法通过定义状态、状态转移方程和初始状态来求解最短路径。

其时间复杂度为O(n^2*2^n)，因此不适用于大规模的问题。

总结以上是常见的几种近似算法，在实际运用中可以根据问题的特点选择合适的算法。

虽然这些算法不能得到准确的最优解，但它们可以在短时间内得到一个接近最优解的解，具有重要的实际应用价值。

第三章遗传算法习题与答案1.填空题（1）遗传算法的缩写是，它模拟了自然界中过程而提出，可以解决问题。

在遗传算法中，主要的步骤是、、。

（2）遗传算法的三个算子是、、。

解释：本题考查遗传算法的基础知识。

具体内容请参考课堂视频“第3章遗传算法”及其课件。

答案：（1）GA，生物进化，全局优化，编码，计算适应度函数，遗传算子（2）选择，交叉，变异2.对于编码长度为7的二进制编码，判断以下编码的合法性。

（1）[1020110]（2）[1011001]（3）[0110010]（4）[0000000]（5）[2134576]解释：本题考查遗传算法的二进制编码的合法性。

具体内容请参考课堂视频“第3章遗传算法”及其课件。

答案：（1）[1020110]不合法，不能出现“2”（2）[1011001]合法（3）[0110010]合法（4）[0000000]合法（5）[2134576]不合法，不能出现0、1以外的数字3.下图能够基本反映生物学遗传与优胜劣汰的过程。

理解该图，联想计算类问题求解，回答下列问题。

（1）下列说法正确的是_____。

（多选）A）任何一个生物个体的性状是由其染色体确定的，染色体是由基因及其有规律的排列所构成的，因此生物个体可由染色体来代表。

B）生物的繁殖过程是通过将父代染色体的基因复制到子代染色体中完成的，在复制过程中会发生基因重组或基因突变。

基因重组是指同源的两个染色体之间基因的交叉组合，简称为“杂交/交配”。

基因突变是指复制过程中基因信息的变异，简称“突变”。

C）不同染色体会产生不同生物个体的性状，其适应环境的能力也不同。

D）自然界体现的是“优胜劣汰，适者生存”的丛林法则。

不适应环境的生物个体将被淘汰，自然界生物的生存能力会越来越强。

解释：本题考核对生物遗传观点以及所给图片的理解。

具体内容请参考课堂视频“第3章遗传算法”及其课件。

答案：A、B、C、D关于生物遗传进化的基本观点如下：（1）生物的所有遗传信息都包含在其染色体中，染色体决定了生物的性状。

全局搜索和局部搜索.目前使用较普遍的、有影响的全局搜索算法主要包括主从面算法、单曲面算法、级域算法、位码算法及NBS 算法;局部接触搜索算法主要有基于"点面算法"、基于"小球算法"、基于光滑曲面(曲线)算法三大类.接触界面算法目前主要有拉格朗日乘子法和罚函数法,以及扰动拉氏法和增广拉氏法.此外,接触问题的并行计算也是不可忽视的研究内容模拟退火算法和遗传算法等是较新发展起来的算法，算法引入了随机因素，不一定能找到最优解，但一般能快速找到满意的解。

局部搜索算法是从爬山法改进而来的。

爬山法：在没有任何有关山顶的其他信息的情况下，沿着最陡的山坡向上爬。

局部搜索算法的基本思想：在搜索过程中，始终选择当前点的邻居中与离目标最近者的方向搜索。

现实问题中，f在D上往往有多个局部的极值点。

一般的局部搜索算法一旦陷入局部极值点，算法就在该点处结束，这时得到的可能是一个糟糕的结果。

解决的方法就是每次并不一定选择邻域内最优的点，而是依据一定的概率，从邻域内选择一个点。

指标函数优的点，被选中的概率大，指标函数差的点，被选中的概率小。

考虑归一化问题，使得邻域内所有点被选中的概率和为1。

一般的局部搜索算法是否能找到全局最优解，与初始点的位置有很大的依赖关系。

解决的方法就是随机生成一些初始点，从每个初始点出发进行搜索，找到各自的最优解。

再从这些最优解中选择一个最好的结果作为最终的结果。

起始点位置影响搜索结果示意图爬山算法1, n := s;2, LOOP: IF GOAL(n) THEN EXIT(SUCCESS);3, EXPAND(n) →{mi},计算h(mi), nextn=min{h(mi)}4, IF h(n)<h(nextn) THEN EXIT(Fail);5, n:=nextn;6, GO LOOP;该算法在单峰的条件下，必能达到山顶。

局部搜索算法（1）随机选择一个初始的可能解x0 ∈D，xb=x0,P=N(xb);//D是问题的定义域，xb用于记录到目标位置的最优解，P为xb的邻域。

TS算法在配电网络重构中的应用【摘要】本文主要讨论了TS算法在配电网络重构中的应用。

首先介绍了TS 算法的原理，然后详细描述了配电网络重构问题。

接着分析了TS算法在配电网络重构中的具体应用和优势，并列举了一些实际案例。

最后总结了TS算法在配电网络重构中的重要性，并展望了TS算法的发展前景。

通过本文的分析，可以看出TS算法在配电网络重构中的重要作用，为提高配电网络重构的效率和质量提供了有效的解决方案。

TS算法的不断发展和完善将为配电网络重构领域带来更多的创新和进步。

【关键词】TS算法、配电网络重构、应用、原理、问题描述、优势、应用案例、重要性、发展前景1. 引言1.1 TS算法在配电网络重构中的应用配电网络重构是提高电力系统运行效率和可靠性的重要手段，而TS算法是一种常用的优化算法，在配电网络重构中具有广泛的应用价值。

TS算法通过模拟退火的方式，通过一定的概率接受更差的解，从而避免陷入局部最优解，寻找到全局最优解。

在配电网络重构问题中，TS算法可以帮助优化电网拓扑结构，提高电网的供电可靠性和经济性。

TS算法在配电网络重构中的具体应用包括，通过重新配置配电网中的开关位置，实现供电可靠性的最大化和线损的最小化。

TS算法还可以优化配电网的电压水平，减少过载和电压不平衡等问题，提高电网的运行效率。

TS算法在配电网络重构中的优势主要体现在其全局寻优能力和对复杂约束条件的处理能力。

相比传统的遗传算法和模拟退火算法，TS 算法在配电网络重构中往往能够更快地找到较为优化的解决方案。

TS算法在配电网络重构中发挥着重要的作用，为优化电网结构、提高供电可靠性和经济性提供了有效的工具和方法。

随着电力系统的不断发展和变化，TS算法在配电网络重构中的应用前景将更加广阔。

2. 正文2.1 TS算法的原理TS算法（Tabu Search Algorithm）是一种基于局部搜索的启发式优化算法，旨在找到问题的最优解或近似最优解。

其原理基于在搜索过程中维护一个禁忌表，记录经过的解及其邻域结构，以避免陷入局部最优解并促进全局搜索。

机器人运动规划与控制近年来，随着机器人技术的不断发展，机器人在各方面应用越来越广泛。

然而，机器人的运动规划和控制一直是机器人技术中的瓶颈问题。

本文将重点探讨机器人运动规划与控制的相关知识。

一、机器人运动规划机器人运动规划是指规划机器人在空间中的运动轨迹，使其能够按照既定的路径完成任务。

机器人运动规划包括路径规划和轨迹生成两个方面。

1、路径规划路径规划是指根据机器人的运动要求和环境特点，在给定的场景中寻找一条合适的路径，使机器人能够从起点到达终点，并且避开障碍物和危险区域。

路径规划的主要目标是最短时间、最短距离、最小能耗、最小误差等。

路径规划方法主要包括全局搜索算法、局部搜索算法和随机搜索算法三种。

其中，全局搜索算法采用整个环境的信息进行搜索，局部搜索算法只考虑当前位置周围区域的信息，随机搜索算法则是根据机器人各关节的运动范围，在指定的区域中随机搜索路径。

2、轨迹生成轨迹生成是指根据规划出的路径和运动要求，通过数学模型计算机器人运动轨迹，产生机器人运动控制信息，使其沿着规划路径进行运动。

轨迹生成是机器人运动规划中的重点和难点。

在实际应用中，由于机器人关节自由度较高，路径规划产生的路径可能并不是由机器人运动的实际轨迹，需要设计合理的轨迹生成算法来解决这一问题。

二、机器人运动控制机器人运动控制是指控制机器人按照规划好的轨迹进行运动，使其能够完成既定任务。

机器人运动控制包括开环控制和闭环控制两种。

1、开环控制开环控制是指根据机器人运动规划产生的轨迹，直接执行控制命令，以使机器人按照规划好的路径进行运动。

开环控制方法简单、控制量容易计算，但由于没有反馈控制，所以对外部干扰容易敏感，控制精度不高。

2、闭环控制闭环控制是指通过传感器对机器人运动过程进行反馈控制，使其按照规划好的路径进行运动。

闭环控制方法通过测量机器人的实际运动状态，与期望运动状态进行比较，计算误差，并根据误差大小执行控制命令。

闭环控制方法对机器人运动过程中的干扰具有一定的抗干扰能力，表现出一定的控制精度和稳定性。

㊀收稿日期:２０２２－０９－０７基金项目:中央高校基本科研业务费专项资金资助项目(１９ＪＮＱＭ２５)ꎻ广州市哲学社会科学发展 十四五 规划课题(２０２１ＧＺＹＢ１８)ꎻ深圳市哲学社会科学规划课题(ＳＺ２０２２Ｂ０１４)作者简介:景秀丽(１９７９－)ꎬ女ꎬ辽宁营口人ꎬ博士ꎬ硕士生导师ꎬ副教授ꎬ研究方向:大数据ꎬ文本处理ꎬ电子商务等.㊀㊀辽宁大学学报㊀㊀㊀自然科学版第５０卷㊀第２期㊀２０２３年ＪＯＵＲＮＡＬＯＦＬＩＡＯＮＩＮＧＵＮＩＶＥＲＳＩＴＹＮａｔｕｒａｌＳｃｉｅｎｃｅｓＥｄｉｔｉｏｎＶｏｌ.５０㊀Ｎｏ.２㊀２０２３基于ＸＧＢｏｏｓｔ算法的电商用户重复购买行为预测景秀丽１ꎬ史明曦２(１.暨南大学深圳旅游学院ꎬ广东深圳５１８０５２ꎻ２.圣路易斯华盛顿大学奥林商学院ꎬ美国密苏里州圣路易斯６３１３０)摘㊀要:机器学习算法广泛应用于电商用户行为数据分析及商业预测.其中ꎬＸＧＢｏｏｓｔ算法作为一种常用的有监督机器学习算法ꎬ能够实现电商用户行为特征最优选择与行为模型构建㊁评估消费价值㊁预测重复购买行为概率㊁提高商业决策的精准性与可行性.本研究采用阿里云天池大数据竞赛 天猫复购预测 所提供的 双十一 电商购物节关联数据集中约４２万电商平台用户产生的５５００万条行为数据ꎬ基于促销活动情境完成特征构造ꎬ实现有监督分类学习.本研究实现了ＸＧＢｏｏｓｔ算法的参数优化与数据特征值处理过程优化ꎬ完成了促销活动后６个月内电商用户重复购买行为的预测模型演算.结果表明:优化后的ＸＧＢｏｏｓｔ算法能够比较精准地预测电商用户重复购买行为㊁评估在线用户潜在购买价值㊁实现精准营销以及真正促进促销活动的长期投资回报率提高.关键词:ＸＧＢｏｏｓｔ算法ꎻ集成学习ꎻ特征工程ꎻ重购预测ꎻ精准营销中图分类号:ＴＰ３９１㊀㊀㊀文献标志码:Ａ㊀㊀㊀文章编号:１０００－５８４６(２０２３)０２－０１３４－１２ＲｅｐｕｒｃｈａｓｅＰｒｅｄｉｃｔｉｏｎｏｆＥ￣ＣｏｍｍｅｒｃｅＵｓｅｒＢａｓｅｄｏｎＸＧＢｏｏｓｔＪＩＮＧＸｉｕ￣ｌｉ１ꎬＳＨＩＭｉｎｇ￣ｘｉ２(１.ＳｈｅｎｚｈｅｎＴｏｕｒｉｓｍＣｏｌｌｅｇｅꎬＪｉｎａｎＵｎｉｖｅｒｓｉｔｙꎬＳｈｅｎｚｈｅｎ５１８０５３ꎬＣｈｉｎａꎻ２.ＯｌｉｎＢｕｓｉｎｅｓｓＳｃｈｏｏｌꎬＷａｓｈｉｎｇｔｏｎＵｎｉｖｅｒｓｉｔｙｉｎＳｔ.ＬｏｕｉｓꎬＳｔ.Ｌｏｕｉｓ６３１３０ꎬＵ.Ｓ.Ａ)Ａｂｓｔｒａｃｔ:㊀ＭａｃｈｉｎｅｌｅａｒｎｉｎｇｉｓｗｉｄｅｌｙｕｓｅｄｉｎＥ￣ｃｏｍｍｅｒｃｅｕｓｅｒｂｅｈａｖｉｏｒａｎａｌｙｓｉｓａｎｄＥ￣ｃｏｍｍｅｒｃｅｐｌａｔｆｏｒｍｂｕｓｉｎｅｓｓｆｏｒｅｃａｓｔｓ.ＸＧＢｏｏｓｔｉｓａｃｏｍｍｏｎｌｙｕｓｅｄｓｕｐｅｒｖｉｓｅｄｅｎｓｅｍｂｌｅｌｅａｒｎｉｎｇａｌｇｏｒｉｔｈｍ.Ｉｔｃａｎｂｅｕｓｅｄｔｏｃｏｎｓｔｒｕｃｔｐｒｅｃｉｓｅｕｓｅｒｓᶄｂｅｈａｖｉｏｒｍｏｄｅｌｓꎬｔｈｕｓｅｖａｌｕａｔｉｎｇｃｕｓｔｏｍｅｒｖａｌｕｅꎬａｎｄｐｒｅｄｉｃｔｉｎｇｔｈｅｉｒｒｅｐｕｒｃｈａｓｅｐｒｏｂａｂｉｌｉｔｙꎬａｓｗｅｌｌａｓｉｍｐｒｏｖｉｎｇｂｕｓｉｎｅｓｓｄｅｃｉｓｉｏｎｓᶄｐｒｅｃｉｓｉｏｎａｎｄｆｅａｓｉｂｉｌｉｔｙ.Ｔｈｉｓｒｅｓｅａｒｃｈａｄｏｐｔｓｔｈｅｕｓｅｒｒｅｐｕｒｃｈａｓｅｄａｔａｓｅｔｒｅｌａｔｅｄｔｏｔｈｅ ＤｏｕｂｌｅＥｌｅｖｅｎ ｓｈｏｐｐｉｎｇｅｖｅｎｔｏｆｆｅｒｅｄｂｙＡｌｉｂａｂａＴｉａｎｃｈｉꎬｗｈｉｃｈｃｏｌｌｅｃｔｓｕｐｔｏ５５ｍｉｌｌｉｏｎｂｅｈａｖｉｏｒａｌｄａｔａｇｅｎｅｒａｔｅｄｂｙ４２０ｔｈｏｕｓａｎｄｕｓｅｒｓꎬｃｏｎｓｔｒｕｃｔｓｆｅａｔｕｒｅｓｂａｓｅｄｏｎｔｈｅｐｒｏｍｏｔｉｏｎｂａｃｋｇｒｏｕｎｄａｎｄｃｏｎｄｕｃｔｓｓｕｐｅｒｖｉｓｅｄｌｅａｒｎｉｎｇ.ＴｈｉｓｒｅｓｅａｒｃｈｏｐｔｉｍｉｚｅｓｔｈｅＸＧＢｏｏｓｔｐａｒａｍｅｔｅｒｔｕｎｉｎｇａｎｄｆｅａｔｕｒｅ㊀㊀ｐｒｏｃｅｓｓｉｎｇꎬａｎｄｃｏｎｓｔｒｕｃｔｓａｒｅｐｕｒｃｈａｓｅｆｏｒｅｃａｓｔｍｏｄｅｌｆｏｒｓｐｅｃｉｆｉｃｕｓｅｒ￣ｓｅｌｌｅｒｐａｉｒｓｏｎａｓｉｘ￣ｍｏｎｔｈｐｅｒｉｏｄａｆｔｅｒｔｈｅｐｒｏｍｏｔｉｏｎ.ＴｈｅｒｅｓｕｌｔｉｎｄｉｃａｔｅｓｔｈａｔｔｈｅｏｐｔｉｍｉｚｅｄａｌｇｏｒｉｔｈｍＸＧＢｏｏｓｔｃａｎｐｒｅｃｉｓｅｌｙｐｒｅｄｉｃｔＥ￣ｃｏｍｍｅｒｃｅｕｓｅｒｒｅｐｕｒｃｈａｓｅｂｅｈａｖｉｏｒａｎｄｂｅｕｓｅｄｉｎｅｖａｌｕａｔｉｎｇｕｓｅｒｓᶄｐｏｔｅｎｔｉａｌｉｎｒｅｐｕｒｃｈａｓｅꎬｉｍｐｒｏｖｉｎｇＥ￣ｃｏｍｍｅｒｃｅｐｌａｔｆｏｒｍｓᶄｐｒｅｃｉｓｉｏｎｍａｒｋｅｔｉｎｇａｎｄｔｒｕｌｙｉｍｐｒｏｖｉｎｇｔｈｅｌｏｎｇ￣ｔｅｒｍＲＯＩ(ＲｅｔｕｒｎｏｎＩｎｖｅｓｔｍｅｎｔ)ｏｆｐｒｏｍｏｔｉｏｎｅｖｅｎｔｓ.Ｋｅｙｗｏｒｄｓ:㊀ＸＧＢｏｏｓｔꎻｅｎｓｅｍｂｌｅｌｅａｒｎｉｎｇꎻｆｅａｔｕｒｅｅｎｇｉｎｅｅｒｉｎｇꎻｒｅｐｕｒｃｈａｓｅｐｒｅｄｉｃｔｉｏｎꎻｐｒｅｃｉｓｉｏｎｍａｒｋｅｔｉｎｇ０㊀引言我国电子商务行业的发展历经二十多年ꎬ在线零售市场不断创新和扩展ꎬ推动了新经济业态的成长与进步.Ｓｔａｔｉｓｔａ全球统计数据库的«２０２１年电子商务报告»显示ꎬ中国是目前世界最大和渗透率最高的电子商务市场.国内各大在线零售平台发展迅速ꎬ在激烈竞争中为了吸引用户源和争夺市场份额ꎬ积极探索促销活动形式与种类ꎬ例如天猫淘宝的 双十一购物狂欢节 ㊁京东的 ６１８ 购物节等.多样化高频率的购物节给平台引流了大量新用户(促销活动中出现首次购买行为的用户)和短期高成交额.陈可旺[１]分析促销作为一种短期刺激性工具ꎬ虽然能够有效激发用户对特定商品服务进行立即购买的欲望ꎬ但是电商平台更需要锁定长期持续的有效收益.Ｒｏｓｅｎｂｅｒｇ等[２]提出企业重视客户留存并且开发一个新客户所需的成本是维护一个老客户所需成本的６倍.陈龙[３]研究表明电商平台及商家有必要确定哪些用户有可能转化为重复购买者ꎬ并对这些潜在忠诚用户进行精准营销ꎬ降低促销成本ꎬ提高投资回报率.蔡一凡[４]做了用户聚类和特征选择的在线购买行为研究.张李义等[５]聚焦新消费者重复购买意向的预测研究.当前对用户重复购买行为预测方法主要有两类方法ꎬ一是以Ｐａｒｅｔｏ/ＮＢＤ(Ｎｅｇａｔｉｖｅｂｉｎｏｍｉａｌｄｉｓｔｒｉｂｕｔｉｏｎ)㊁ＭＢＧ(Ｍｏｄｉｆｉｅｄｂｅｔａｇｅｏｍｅｔｒｉｃ)/ＮＢＤ为代表的概率模型ꎬ二是以决策树㊁逻辑回归㊁ＳＶＭ(Ｓｕｐｐｏｒｖｅｃｔｏｒｍａｃｈｉｎｅ)为代表的机器学习模型[６].基于海量数据的机器学习算法为电商平台精准地把握消费者偏好需求㊁预测消费者行为㊁评估客户价值提供了有效分析方法ꎬ采用数据挖掘技术能够运用多维变量进行预测ꎬ结果更加客观真实[７].电商平台用户数据对象涵盖用户信息㊁商品信息㊁商家信息ꎬ用户在网站上浏览商品时产生的一系列在线行为数据(如登录㊁点击㊁收藏㊁购买㊁评论㊁咨询客服等)ꎬ并且实时在网站日志中进行同步ꎬ构成了海量丰富的大数据集.通过对大数据集进行分析ꎬ电商平台可以提取出用户的需求㊁偏好㊁购买能力等价值信息ꎬ完成重复购买行为预测模型设计[８].消费者重复购买的预测问题转化为消费者是否将重复购买的分类问题ꎬ运用机器学习中的分类算法进行有监督训练.例如Ｒａｈｉｍ等[９]基于ＲＦＭ(Ｒｅｃｅｎｃｙꎬｆｒｅｑｕｅｎｃｙꎬｍｏｎｅｔａｒｙｖａｌｕｅ)模型研究客户重复购买行为ꎬ运用ＳＶＭ算法和决策树算法对客户进行分类ꎬ准确率超过了９７％.相比单种算法构建的预测模型ꎬ集成学习方法通过串行或并行的方式将多个弱监督模型进行组合ꎬ可以进一步提高模型预测的准确性ꎬ代表算法有随机森林算法和ＧＢＤＴ(Ｇｒａｄｉｅｎｔ￣ｂｏｏｓｔｅｄｄｅｃｉｓｉｏｎｔｒｅｅｓ)算法等ꎻ或运用多模型融合策略ꎬ将不同类型算法训练出的模型以Ｓｔａｃｋｉｎｇ㊁Ｖｏｔｉｎｇ㊁Ｂｌｅｎｄｉｎｇ㊁Ｒａｎｋｉｎｇ等方法进行５３１㊀第２期㊀㊀㊀㊀㊀㊀景秀丽ꎬ等:基于ＸＧＢｏｏｓｔ算法的电商用户重复购买行为预测㊀㊀融合ꎬ提高模型的准确率和泛化能力[１０].胡晓丽等[１１]基于集成学习对用户重购行为进行预测ꎬ引入 分段下采样 的方法解决类别不平衡问题ꎬ并用Ｓｔａｃｋｉｎｇ融合了ＲａｎｄｏｍＦｏｒｅｓｔ㊁ＸＧＢｏｏｓｔ㊁ＬｉｇｈｔＧＢＭ构建预测模型ꎬ结果表明ꎬＳｔａｃｋｉｎｇ方法能够带来０.４％至２％的ＡＵＣ(Ａｒｅａｕｎｄｅｒｔｈｅｒｅｃｅｉｖｅｒｏｐｅｒａｔｉｎｇｃｈａｒａｃｔｅｒｉｓｔｉｃｃｕｒｖｅ)提升.吕泽宇等[１２]使用了ＬｉｇｈｔＧＢＭ和ＸＧＢｏｏｓｔ两种方法构建模型ꎬ并用Ｈｙｐｅｒｏｐｔ进行参数搜索ꎬ证明该方法只需少量特征即可达到较好的预测效果.基于先进的机器学习算法ꎬ引入特征工程设计ꎬ也是数据挖掘的关键技术之一.机器学习算法用于解决多个领域多个方向问题ꎬ学习效果如何很大程度上依赖于特征工程中提取的特征是否真正贴合业务需要ꎬ这一过程需要结合许多研究领域的专家知识.文献研究发现ꎬ针对电商购物节后消费者重复购买行为预测研究不多ꎬ通过提取特征值ꎬ结合促销活动变量对消费者行为产生的特殊影响ꎬ可构建更精准的重复购买预测模型.此外ꎬ运用天猫大数据平台提供的公开数据集ꎬ针对促销前和促销中的用户短期行为等数据维度提取更加详细的特征值ꎬ运用ＸＧＢｏｏｓｔ集成学习算法构建电商购物节后新用户重复购买行为预测模型ꎬ提高预测能力.１㊀算法背景决策树算法在机器学习中常用于预测和分类ꎬ是一种有监督的机器学习方法.在数据复杂的情况下ꎬ使用单一决策树进行预测有时无法取得较好的效果.Ｋｅａｒｎｓ等[１３]认为可通过集成学习将弱学习算法提升为强学习算法.集成算法主要有Ｂａｇｇｉｎｇ和Ｂｏｏｓｔｉｎｇ两类.其中Ｂｏｏｓｔｉｎｇ提升算法由Ｓｃｈａｐｉｒｅ[１４]通过构造多项式级算法ꎬ率先提出验证Ｋｅａｒｎｓ弱学习算法提升的思路ꎬ其各个相互依赖的分类器串行ꎬ根据预测能力的不同ꎬ预测函数的权重也不同.陈凯等[１５]研究表明ꎬ在训练的过程中增加对分类错误样本的学习权重ꎬ在迭代中能够不断调整和持续提高准确度ꎬ将各个基学习器进行加权集成输出最终结果.ＸＧＢｏｏｓｔ算法全称ｅＸｔｒｅｍｅＧｒａｄｉｅｎｔＢｏｏｓｔꎬ由Ｃｈｅｎ等[１６]在经典Ｂｏｏｓｔｉｎｇ算法ＧＢＤＴ的基础上改进提出ꎬ在计算速度上表现优秀.ＸＧＢｏｏｓｔ的核心思想是采用向前分布算法ꎬ每轮迭代产生的弱分类器都在上一轮迭代的残差基础上继续训练ꎬ通过不断减小残差来实现回归和分类ꎬ并将ＣＡＲＴ(Ｃｌａｓｓｆｉｃａｔｉｏｎａｎｄｒｅｇｒｅｓｓｉｏｎｔｒｅｅ)分类回归树作为基学习器.ＸＧＢｏｏｓｔ算法的目标函数由损失函数和复杂度函数相加而成ꎬ模型误差小ꎬ更加简单ꎬ可防止过拟合ꎬ使用梯度提升法可使目标函数最小化.其目标函数在经过泰勒二次展开后可以简化为Ｏｂｊ＝－１２ðＴｊ＝１Ｇｊ２Ｈｊ＋λ＋γＴ(１)式中:Ｔ为叶子节点数ꎻγ为学习率限制叶子节点个数ꎻλ为正则化参数限制叶子节点分数ꎻＧｊ为一阶导数ꎻＨｊ为二阶导数.在每棵树选择特征进行分裂时ꎬＸＧＢｏｏｓｔ使用的是贪心法ꎬ遍历特征计算每个节点的分裂收益ꎬ选择增益最大的特征进行分裂:Ｇａｉｎ＝１２ＧＬ２ＨＬ＋λ＋ＧＲ２ＨＲ＋λ－(ＧＬ＋ＧＲ)２ＨＬ＋ＨＲ＋λ[]－γ(２)即用分割后的目标函数值减去分割前的目标函数值ꎬ当增益大于γ阈值时ꎬ树才分裂ꎬ这样目标函数在优化的同时也实现了预剪枝.当数据量极大时贪心算法十分耗费内存ꎬ对此ＸＧＢｏｏｓｔ算法还提出了一种近似搜索方法ꎬ在难以精确搜索情况下运用全局近似或者局部近似选取候选分裂点ꎬ再从中选择最佳分裂点ꎬ结果同样具有准确性.通过调用Ｐｙｔｈｏｎ开发环境的ＸＧＢｏｏｓｔ工具包进行重复６３１㊀㊀㊀辽宁大学学报㊀㊀自然科学版２０２３年㊀㊀㊀㊀购买行为的预测.２㊀数据采集与分析２.１㊀数据集数据集来源于阿里云天池大数据平台 天猫复购预测大赛 的公开数据集.该数据集包含了４２４１７０名匿名用户的基本信息以及他们在 双十一购物狂欢节 前６个月以及 双十一购物狂欢节 当天的交互行为记录和购物记录ꎬ同时标记了这些用户在购物节后６个月是否有重复购买行为.数据集一共包括 用户信息表 用户行为日志表 用户－商家消费行为表 ３张数据表ꎬ提供了 用户编号 用户年龄范围 用户性别 商品编号 商品类别编号 商品品牌编号 商家编号 行为时间 行为类型 ９个属性.数据初筛发现ꎬ数据集的样本用户皆有过一次以上的购买记录ꎬ且 双十一购物狂欢节 期间都有首次进行消费的商家.用户信息表和用户行为表包含了所有样本用户的相关数据.为满足模型训练及测试的需求ꎬ天池大数据平台提供的数据集将样本用户分为数量相当的两部分ꎬ并分别归入电商用户行为模型的训练集和测试集之中.其中训练集中的ｌａｂｅｌ字段已经完成对用户的标签化ꎬ即标明用户在 双十一购物狂欢节 后是否会重复购买ꎬ用于有监督学习对模型进行分类训练ꎻ而测试集中的ｐｒｏｂ字段表示预测用户是否在促销活动后重复购买ꎬ在模型训练后对无标签对象进行预测.２.２㊀数据清洗２.２.１㊀缺失值处理原数据集用户信息表中的ａｇｅ＿ｒａｎｇｅ(用户年龄范围)字段有９２９１４条缺失值㊁ｇｅｎｄｅｒ(用户性别)字段有１０４２６条缺失值ꎬ缺失值在属性中占比较大ꎬ使用均值替换法在已有数据中寻找缺失数据的最可能值.购买同一产品的用户群体往往具有相似的年龄和性别.对应数据处理流程包括:首先ꎬ在用户信息表中获取缺失年龄或性别属性用户对应的ｕｓｅｒ＿ｉｄ(用户编号)ꎬ通过这些ｕｓｅｒ＿ｉｄ在用户行为日志表中寻找属性值缺失用户购买过的所有商品的ｉｔｅｍ＿ｉｄ(商品编号)ꎻ其次ꎬ在用户行为表中寻找购买过这些商品的其他用户的编号ꎬ通过用户信息表得到这些用户的年龄范围或性别属性ꎬ以此计算商品用户群的平均年龄范围或性别属性ꎻ最后ꎬ以所有已购商品的平均用户年龄和性别的平均值填补该用户缺失的年龄或性别属性.用户行为日志表中的ｂｒａｎｄ＿ｉｄ(商品品牌编号)字段有９１０１５个缺失值ꎬ但由于同一商家售卖同一类别的同一商品ꎬ其品牌应当是相同的ꎬ其中大部分的缺失值可以通过与ｉｔｅｍ＿ｉｄ(商品编号)ꎬｃａｔ＿ｉｄ(商品类别编号)ꎬｓｅｌｌｅｒ＿ｉｄ(商家编号)进行匹配找回.２.２.２㊀数据转换在特征构造过程中需要按照时间进行数据提取ꎬ而原字段 ｔｉｍｅ＿ｓｔａｍｐ 时间戳以ｍｍｄｄ标识ꎬ如５月１１日记为 ０５１１ 的ｓｔｒｉｎｇ类型数据ꎬ来记录用户在线行为发生时间ꎬ无法进行数学运算ꎬ因此在数据集成时对 ｔｉｍｅ＿ｓｔａｍｐ 时间戳进行转换并添加一个ｉｎｔ类型的新字段 ｄａｙ ꎬ用来表示用户在线行为发生时间在从５月１１日至１１月１１日这１８５ｄ的时间周期内所处的位置ꎬ如将 ０５１１ 转化为 １ ꎬ将 １１１１ 转化为 １８５ ꎬ这样就不必考虑每月天数之间的差异并可以按时间进行数据提取.３㊀特征工程特征工程即对原始数据进行一系列处理的工程ꎬ最大限度地提炼出特征ꎬ作为输入供模型和算７３１㊀第２期㊀㊀㊀㊀㊀㊀景秀丽ꎬ等:基于ＸＧＢｏｏｓｔ算法的电商用户重复购买行为预测㊀㊀法使用.特征工程是对数据进行理解㊁表示和展示的过程ꎬ其在实际过程中要求尽可能地去除原始数据里的噪声ꎬ提炼出更加高效的特征以供预测模型调用解决问题.高质量特征对于提高模型的性能和精准度有很大意义.特征工程需要结合多学科知识ꎬ首先对电商用户重复购买行为的影响因素模型进行分析.用户自身属性方面ꎬ徐鹏鹏[１７]构建结构方程模型研究用户重复购买电商品牌的影响因素ꎬ认为客户的个人特征㊁质量关注㊁感知价值㊁网购依赖及购物满意度会造成影响.商品属性方面ꎬ李海霞[１８]根据环境心理学理论和社会交换理论ꎬ认为客户面对与商家在口碑㊁技术㊁人员㊁产品等服务接触时产生的刺激ꎬ会对社会关系及经济关系进行是否满意和信任的考量ꎬ从而决定是否重复购买.在用户与商家间的交互关系上ꎬ经典的ＲＦＭ模型通过客户最近一次的消费时间㊁消费频度和消费金额对客户价值进行衡量.针对电商行业特点ꎬ李敏等[１９]在ＲＦＭ模型的基础上加入客户对商品满意度和关注度的考量ꎬ构建ＲＦＭＳＡ(Ｒｅｃｅｎｃｙꎬｆｒｅｑｕｅｎｃｙꎬｍｏｎｅｔａｒｙꎬｓｔａｔｉｓｆａｃｔｉｏｎꎬａｔｔｅｎｔｉｏｎ)模型对用户忠诚度进行分类.薛红松等[２０]验证了电商客户重购行为和商家商品销量和排名符合幂律分布ꎬ重购行为倾向于在一定时期内集中发生ꎬ且随着购买次数增加ꎬ重购周期将缩短ꎬ状态趋向稳定.由此可见ꎬ当前针对电商用户重复购买行为影响因素的研究ꎬ很多学者尚未将商家推广促销和电商平台购物节活动等纳入具体分析.促销刺激可以加速新用户与商家产生交互关系ꎬ也增加了对新用户价值判断的难度.对新老客户重复购买意愿的不同特点ꎬ卢美丽等[２１]考虑了购买强化效应ꎬ并验证受此影响顾客购买次数可呈幂律分布或广延指数分布ꎬ即可将客户分为易受促销影响的提升区顾客和已形成购物惯性的稳定区顾客.结合上述研究以及数据集提供的有限信息ꎬ本研究将在特征提取时构建４大类特征ꎬ即用户特征㊁商家特征㊁关系特征㊁促销特征.原数据集的可用特征维度较低ꎬ因此在提取原特征之外还需要通过对原属性进行分割和结合ꎬ构造出新的特征.商家特征考虑商家热度㊁口碑㊁产品对重复购买的影响ꎻ用户特征考虑其人口特征㊁网购依赖度㊁网购信任度㊁稳定忠诚度ꎻ交互特征考虑用户对商家的交互时间㊁交互频次ꎻ促销特征考虑商家的促销力度以及用户的价格敏感度.如图１所示.图１㊀特征工程设计３.１㊀用户特征用户特征是对用户个人属性和购物偏好的描述ꎬ包括人口特征㊁网购依赖度㊁网购信任度㊁稳定度ꎬ会对其是否重复购买造成影响.多数研究者会从原始数据集的用户信息表中提取用户人口特征数据ꎬ参照此方法ꎬ本研究基于所用数据集中的用户信息表提取用户年龄和性别数据ꎬ探究其对消费８３１㊀㊀㊀辽宁大学学报㊀㊀自然科学版２０２３年㊀㊀㊀㊀者的购买行为和购买偏好的影响作用ꎬ即将上述两类数据属性作为原特征进行提取[１４].网购依赖度则体现用户是否为电商平台的重度使用者ꎬ主要考虑其活跃度和使用深度.用户行为日志表中记录了用户在促销活动前和促销活动中的６个月内在平台内点击㊁加入购物车㊁购买收藏的行为.用户各类行为频次越高ꎬ登录天数越多ꎬ说明其对平台越忠实ꎬ具有更高的维护价值.因此可以从行为日志表统计出用户的点击总次数㊁加入购物车总次数㊁购买总次数㊁收藏总次数㊁登录总天数㊁购买总天数作为特征.另一方面ꎬ相较于只在平台购买小部分类别产品的用户ꎬ部分用户对平台使用程度更深ꎬ运用平台满足其大部分购物需求ꎬ有更高的重复购买可能性.可以据此统计用户购买类别总数㊁购买品牌总数㊁购买不同商品总数这几个特征.网购信任度代表用户对电商产品可靠性的认知以及对性价比的敏感度.一些用户属于冲动型消费者ꎬ在电商平台上查询到喜欢的商品之后无需多做了解就能提交订单ꎻ一些用户属于理智型消费者ꎬ在选购商品时习惯货比三家ꎬ争取最大可能以更优惠的价格买到性价比高的商品.通过用户行为日志表可以计算用户购买行为和非购买行为所有操作的比例ꎬ即购买行为占比和非购买行为占比ꎬ以及非购买行为的购买转化率ꎬ计算公式为用户操作行为占比＝用户某种操作行为总次数用户所有操作行为总次数(３)非购买行为转化率＝购买行为次数各种非购买行为总次数(４)用户稳定度说明用户转移购买的难易程度.电商平台产品质量相对难以直接判断ꎬ一些高稳定度用户在积攒购物经验ꎬ找到自己满意的商家后ꎬ会倾向于在该商家进行持续的购买以节省搜寻试错成本ꎬ有更高的重复购买可能性.此处重复购买者指的是在某商家购买天数超过两天的用户ꎬ可以对用户购买商家总数㊁用户重复购买次数㊁用户重复购买商家总数㊁重复购买率进行统计计算ꎬ公式如下:用户重复购买率＝所有重复购买过的商家所有购买过的商家(５)３.２㊀商家特征商家特征描述的是商家的形象和吸引力ꎬ商家的热度㊁口碑以及产品特征会对重复购买决策造成影响.商家热度反映商家的客户及潜在客户数量ꎬ商家的热度越高说明其吸引顾客完成订单的能力越强.可以构建出商家被点击总次数㊁被加入购物车总次数㊁被购买总次数㊁被收藏总次数等特征.商家口碑及其客户满意度是用户决定是否重复购买的关键因素.如果有更多用户在查看㊁加购㊁收藏商家商品ꎬ进行多重信息搜集和产品比较后ꎬ最终能够完成转化进行购买ꎬ说明商家在信誉㊁价格等方面能够让顾客信任ꎬ有较好的口碑ꎬ这也将增加再次购买的可能性.据此构造商家的点击购买转化率㊁加购购买转化率㊁收藏购买转化率.此外购买者总数和重复购买者总数也是商家口碑的一个重要考量因素ꎬ重复购买率越大ꎬ说明其客户满意度越高.可构建的特征有商家购买者总数㊁重复购买者总数㊁重复购买率.重复购买率的计算公式是重复购买率＝重复购买者总数购买者总数(６)商家产品类型和特点也会影响用户在店内重复购买的意向ꎬ商家的产品种类越丰富ꎬ越能吸引９３１㊀第２期㊀㊀㊀㊀㊀㊀景秀丽ꎬ等:基于ＸＧＢｏｏｓｔ算法的电商用户重复购买行为预测㊀㊀用户进行搜索.因此统计出商家种类总数㊁品牌总数㊁商品总数的特征ꎬ将商家对用户吸引力进一步量化.３.３㊀交互特征交互特征描述的是每条记录中指定用户和商家之间存在的关系ꎬ关系越强ꎬ再次购买的可能性越大.关系强度可以通过最近一次交互行为的时间㊁交互频次体现.最近一次行为发生的时间越相近ꎬ说明用户近期对商家越关注ꎬ因此要计算用户最近一次与商家发生交互行为距离 双十一狂欢购物节 促销活动的天数.而用户对商品进行点击㊁加入购物车㊁收藏等操作的频次越高ꎬ说明用户对商品和商家越关注ꎬ可以构造出特定用户在特定商户中的点击总次数㊁点击总天数㊁加购商家总次数㊁收藏商家总次数等相关特征.用户单次在商家内部购买的商品数量会影响消费者与商家之间的关系深度ꎬ用户对商家内的多种不同商品有购买意向会影响未来重购行为的发生概率.从用户行为日志表中可以构造出用户在商家的购买总件数㊁购买不同商品数㊁购买品牌数㊁购买类别数等特征.３.４㊀促销特征促销帮助商家吸引了更多新用户ꎬ所以有必要针对促销构建特征帮助判断新客户重复购买的可能性ꎬ主要观察商家的促销力度及用户的价格敏感度.当商家活动力度大时ꎬ可能会导致短期购买量大涨ꎬ但在活动后一段时间内客户由于反差过大而不愿再次购买.可以通过比较商家近期关注度与长期关注度进行观察ꎬ构造商家促销月被点击次数㊁被加购次数㊁被购买次数㊁被收藏次数ꎬ促销月被点击占比㊁被加购占比㊁被购买占比㊁被收藏占比特征.当用户价格敏感度高时ꎬ在促销的驱动下可能会在短期内活跃度提高ꎬ产生更多交互记录ꎬ而促销结束后可能受价格影响不选择重复购买.对此可以在用户行为日志表中构造一些趋势特征来对用户的促销敏感度进行衡量ꎬ如促销月用户点击㊁加入购物车㊁购买㊁收藏行为的次数ꎬ以及这４种行为的次数在所有对应行为次数中的占比ꎬ即用户促销月点击占比㊁加购占比㊁购买占比㊁收藏占比.最终一共提取了３类５５个特征.促销月某行为占比＝促销月(商家受到或用户进行)某行为次数(商家受到或用户进行)某行为总次数(７)通过对数据集直接分析ꎬ构造出来的特征往往在取值范围上存在着较大的落差.如果某一特征的量级过大㊁方差过大ꎬ很有可能导致该特征在模型训练时发挥主导作用ꎬ从而使得其他特征失效.为了避免这一情况发生ꎬ在模型训练之前对特征值进行均值归一化处理ꎬ使所有特征值呈服从均值为０㊁标准差为１的标准正态分布.运用Ｐｙｔｈｏｎ中ｓｋｌｅａｒｎ包的ＳｔａｎｄａｒｄＳｃａｌｅｒ完成这一操作.４㊀模型构建训练与预测４.１㊀模型构建４.１.１㊀样本划分与比例调整通过Ｐｙｔｈｏｎ程序中的ＸＧＢｏｏｓｔ包和ｓｋｌｅａｒｎ包对预测模型进行构建与训练.运用ＸＧＢｏｏｓｔ算法进行有监督训练.阿里云天池大数据平台 天猫复购预测大赛 数据集提供了带有用户分类标签的训练表一共包含２６０８６４条数据ꎬ数据量较为充足ꎬ可以按照标准形式将样本划分为训练集和测试集ꎬ比例为７ʒ３.样本数据中的正样本ꎬ即重复购买用户样本为１５９５２条ꎬ负样本ꎬ即非重复购买用户样０４１㊀㊀㊀辽宁大学学报㊀㊀自然科学版２０２３年㊀㊀㊀㊀本为２４４９１２条.样本数量正负样本比例约为１ʒ１５ꎬ数量差距较大ꎬ存在类别不平衡的问题.严重的类别不均衡在机器学习的过程中可能会导致模型倾向样本数量多的类别ꎬ引起过拟合问题ꎬ影响模型预测结果的准确性ꎬ因此通过一定的采样策略ꎬ保证模型训练时正负样本比例协调.Ｐｙｔｈｏｎ的ＸＧＢｏｏｓｔ包为解决数据类别不均衡的问题提供了方法.如果只考虑模型的ＲＯＣ(Ｒｅｃｅｉｖｅｒｏｐｅｒｔａｔｉｎｇｃｈａｒａｃｔｅｒｉｓｔｉｃｃｕｒｖｅ)㊁ＡＵＣ㊁召回率指标ꎬ而不关心样本为某一类别的概率大小ꎬ可以通过将Ｂｏｏｓｔｅｒ参数中的 ｓｃａｌｅ＿ｐｏｓ＿ｗｅｉｇｈｔ 设置为数据负样本数量/正样本数量ꎬ为比例小的样本赋予更大的权重ꎬ改变样本在训练中的贡献ꎬ减弱类别数量不平衡的影响ꎬ即将 ｓｃａｌｅ＿ｐｏｓ＿ｗｅｉｇｈｔ 的参数值设置为１５.４.１.２㊀参数设置Ｐｙｔｈｏｎ程序中的ＸＧＢｏｏｓｔ包对学习目标参数ｅｖａｌ＿ｍｅｔｒｉｃ设置指定分类器训练情况的输出指标ꎬ再调用ｓｋｌｅａｒｎ包中的ｍｅｔｒｉｃｓ选择整个模型需要输出的评估指标.ＸＧＢｏｏｓｔ一共有通用参数㊁Ｂｏｏｓｔｅｒ参数㊁学习目标参数３类.１)通用参数对模型宏观功能进行控制.Ｂｏｏｓｔｅｒ决定的是迭代所用的模型ꎬ有树模型和线性模型ꎬ本实验使用的是树模型ｇｂｔｒｅｅ.ｓｉｌｅｎｔ决定运行时是否输出信息ꎬ默认值０输出.ｎｔｈｒｅａｄ决定运行时使用的线程数ꎬ默认值为－１ꎬ代表自动获取最大值.２)Ｂｏｏｓｔｅｒ参数用于控制每一步Ｂｏｏｓｔｅｒ(树或回归)的生成ꎬ如表１所示.ｅｔａ即学习率ꎬ决定每次迭代的收缩步长ꎬ参数值越大越难以收敛ꎬ因此将参数值设置为偏小值０.１ꎬ提升学习过程的精细化.ｍｉｎ＿ｃｈｉｌｄ＿ｗｅｉｇｈｔ为最小叶子节点样本权重和ꎬ当一个叶子节点的样本权重总和小于该参数值时则停止分裂ꎬ取值范围为[０ꎬ＋ɕ)ꎬ取值越大越保守ꎬ可以防止过拟合ꎬ默认值为１.ｍａｘ＿ｄｅｐｔｈ为树的最大深度ꎬ该值越大模型则越复杂ꎬ越容易导致过拟合ꎬ默认值为６.ｓｕｂ＿ｓａｍｐｌｅ控制构建每棵树时采用的样本比例ꎬ可以防止过拟合ꎬ取值于(０ꎬ１]之间ꎬ此处设为值０.８.ｃｏｌｓａｍｐｌｅ＿ｂｙｔｒｅｅ控制构建每棵树时随机抽取的特征占比ꎬ取值于(０ꎬ１]之间ꎬ此处设为值０.８.ｇａｍｍａ指的是节点分裂要求的最小损失函数减少值ꎬ参数越大越能避免过拟合ꎬ默认值为０.ａｌｐｈａ为控制复杂度的权重的Ｌ１正则化项ꎬ参数值越大越能避免过拟合ꎬ可以加快高维度数据的运算速度ꎬ此处设为值１.ｓｃａｌｅ＿ｐｏｓ＿ｗｅｉｇｈｔ可在类别样本数不平衡时加快算法收敛速度ꎬ此处设为值１５.表１㊀Ｂｏｏｓｔｅｒ参数初始值设置参数名参数值ｅｔａ０.１ｍｉｎ＿ｃｈｉｌｄ＿ｗｅｉｇｈｔ１ｇａｍｍａ０ｍａｘ＿ｄｅｐｔｈ６ｓｕｂ＿ｓａｍｐｌｅ０.８ｃｏｌｓａｍｐｌｅ＿ｂｙｔｒｅｅ０.８ａｌｐｈａ１ｓｃａｌｅ＿ｐｏｓ＿ｗｅｉｇｈｔ１５３)学习目标参数ꎬ确定模型学习目标.ｏｂｊｅｃｔｉｖｅ确定需要被最小化的损失函数ꎬ由于研究的问题是二分类问题ꎬ并要求以概率的形式输出结果ꎬ因此将此参数设定为ｂｉｎａｒｙ:ｌｏｇｉｓｔｉｃꎬ即二分类回归.ｅｖａｌ＿ｍｅｔｒｉｃ定义的是分类器的评估指标ꎬ可以同时添加多种指标ꎬ此处添加常用的ａｕｃ㊁ｌｏｇｌｏｓｓ(负对数似然函数值)㊁ｅｒｒｏｒ(二分类错误率).ｓｅｅｄ为随机数种子ꎬ该参数值能使随机数据复现ꎬ此处设置为１００.４.２㊀模型训练４.２.１㊀初始参数训练ＸＧＢｏｏｓｔ包中的ＸＧＢｏｏｓｔ.ｔｒａｉｎ()用于对分类器进行训练ꎬ参数主要包括ｐａｒａｍｓ㊁ｄｔｒａｉｎ㊁ｎｕｍ＿ｂｏｏｓｔ＿ｒｏｕｎｄ㊁ｅｖａｌｓ＝()㊁ｅａｒｌｙ＿ｓｔｏｐｐｉｎｇ＿ｒｏｕｎｄｓ.ｄｔｒａｉｎ指的是被训练的数据.ｎｕｍ＿ｂｏｏｓｔ＿ｒｏｕｎｄ指的是１４１㊀第２期㊀㊀㊀㊀㊀㊀景秀丽ꎬ等:基于ＸＧＢｏｏｓｔ算法的电商用户重复购买行为预测。