当前位置：文档之家 › 一种距离边界合成少数类过采样技术

一种距离边界合成少数类过采样技术

  • 格式：pdf
  • 大小：362.43 KB
  • 文档页数：7

第３９卷第２期　

Ｖｏ１．３９　ＮＯ．２　丽水学院学报　ＪｏＵＲＮＡＬ　ｏＦ　ＬＩＳＨＵＩ　ＵＮＩＶＥＲＳＩＴＹ　２０１７年３月　

Ｍａｒ．２０１７　

一种距离边界合成少数类过采样技术　

尚旭　，谢林森　２　

（１．浙江师范大学数理与信息工程学院，浙江金　华３２１００４；２．丽水学院工学院，浙江丽水３２３０００）　

摘要：在不平衡数据集的分类问题中，由于某一类或某几类样本数量相对较少，标准的分类器会　倾向于数量多的类别，导致少数类样本在分类过程中容易被误分。合成少数类过采样技术（ＳＭＯＴＥ）是　

一种常用的过采样数据预处理方法。通过合成少数类样本来平衡数据集各类样本的分布，能够有效　地改善数据集的不平衡分布，从而提高不平衡数据集的分类精度。但ＳＭＯＴＥ采样方法将所有的少数　类样本都用来合成新样本，存在一定的盲目性。在分类中，处于边界的样本对分类决策往往有着更重　要的作用，需要得到更大的关注。基于以上考虑提出一种改进的过采样方法——距离边界合成少数　类过采样技术（ＤＢＳＭＯＴＥ）。该方法根据少数类样本与多数类样本的距离确定边界样本，并在边界样　本集上进行样本的合成，理论分析和实验结果表明ＤＢＳＭＯＴＥ是有效的。　

关键词：不平衡数据集；过采样；边界样本；ＳＭＯＴＥ　

ｄｏｉ：１０．３９６９／ｊ．ｉｓｓｎ．２０９５—３８０１．２０１７．０２．００１　中图分类号：ＴＰ１８１　文献标志码：Ａ　文章编号：２０９５—３８０１（２０１７）０２—０００１—０７　

Ａ　Ｄｉｓｔａｎｃｅ　Ｂｏｒｄｅｒｌｉｎｅ　Ｓｙｎｔｈｅｔｉｃ　Ｍｉｎｏｒｉｔｙ　Ｏｖｅｒ－ｓａｍｐｌｉｎｇ　Ｔｅｃｈｎｉｑｕｅ　

ＳＨＡＮＧ　Ｘｕ　．ＸＩＥ　Ｌｉｎｓｅｎ　

（１．Ｃｏｌｌｅｇｅ　ｏｆＭａｔｈｅｍａｔｉｃｓ，Ｐｈｙｓｉｃｓ　ａｎｄ　Ｉｎｆｏｒｍａｔｉｏｎ　Ｅｎｇｉｎｅｅｒｉｎｇ，Ｚｈｅｊｉａｎｇ　Ｎｏｒｍａｌ　Ｕｎｉｖｅｒｓｉｔｙ，Ｊｉｎｈｕａ　３２１００４，Ｚｈｅｊｉａｎｇ；　２．Ｆａｃｕｌｔｙ　ｏｆＥｎｇｉｎｅｅｒｉｎｇ，Ｌｉｓｈｕｉ　Ｕｎｉｖｅｒｓｉｔｙ，Ｌｉｓｈｕｉ　３２３０００，Ｚｈｅｊｉａｎｇ）　Ａｂｓｔｒａｃｔ：Ｆｏｒ　ｃｌａｓｓｉｆｉｃａｔｉｏｎ　ｐｒｏｂｌｅｍ　ｏｆ　ｉｍｂａｌａｎｃｅｄ　ｄａｔａ　ｓｅｔｓ，ｓｉｎｃｅ　ｔｈｅ　ｎｕｍｂｅｒ　ｏｆ　ｏｎｅ　ｃｌａｓｓ　ｏｒ　ａ　ｆｅｗ　ｃｅｒｔａｉｎ　ｃｌａｓｓｅｓ　ｉｓ　ｒｅｌｅｃｔｉｖｅｌｙ　ｓｍａｌｌ，ｓｔａｎｄａｒｄ　ｃｌａｓｓｉｆｉｅｒｓ　ｗｉｌｌ　ｔｅｎｄ　ｔｏ　ｍａｊｏｒ　ｃｌａｓｓｅｓ，ｗｈｉｃｈ　ｒｅｓｕｌｔｓ　ｉｎ　ｍｉｓｃｌａｓｓｉｆｉｃａｔｉｏｎ　ｏｆ　ｔｈｅ　ｍｉｎｏｒｉｔｙ　

ｃｌａｓｓ　ｓａｍｐｌｅｓ．Ｓｙｎｔｈｅｔｉｃ　ｍｉｎｏｒｉｔｙ　ｏｖｅｒ－ｓａｍｐｌｉｎｇ　ｔｅｃｈｎｉｑｕｅ（ＳＭＯＴＥ）ｉｓ　ａ　ｃｏｍｍｏｎｌｙ　ｕｓｅｄ　ｏｖｅｒ－ｓａｍｐｌｉｎｇ　ｍｅｔｈｏｄ　ｉｎ　

ｄａｔａ　ｐｒｅｐｒｏｃｅｓｓｉｎｇ　ｆｏｒ　ｉｍｂａｌａｎｃｅｄ　ｄａｔａ　ｓｅｔｓ，ｏｗｅ　ｔｏ　ｔｈｅ　ｓｙｎｔｈｅｓｉｓ　ｏｆ　ｍｉｎｏｒｉｔｙ　ｃｌａｓｓ　ｓａｍｐｌｅｓ，ＳＭＯＴＥ　ｃａｎ　ｂａｌａｎｃｅ　

ｔｈｅ　ｎｕｍｂｅｒ　ｏｆ　ｓａｍｐｌｅｓ　ｏｆ　ｐｅｒ　ｃｌａｓｓ，ｔｈｕｓ　ｉｔ　ｃａｎ　ｉｍｐｒｏｖｅ　ｔｈｅ　ｉｍｂａｌａｎｃｅｄ　ｄｉｓｔｒｉｂｕｔｉｏｎ　ｏｆ　ｄａｔａ　ｓｅｔｓ　ｅｆｆｅｃｔｉｖｅｌｙ，ａｎｄ　ｔｈｅｎ　ｉｍｐｒｏｖｅ　ｔｈｅ　ｃｌａｓｓｉｆｉｃａｔｉｏｎ　ａｃｃｕｒａｃｙ　ｏｆ　ｔｈｅ　ｉｍｂａｌａｎｃｅｄ　ｄａｔａ　ｓｅｔｓ．Ｈｏｗｅｖｅｒ．ＳＭＯＴＥ　ｕｓｅ　ａｌｌ　ｏｆ　ｍｉｎｏｒｉｔｙ　ｃｌａｓｓ　

ｓａｍｐｌｅｓ　ｔｏ　ｓｙｎｔｈｅｓｉｚｅ　ｎｅｗ　ｓａｍｐｌｅｓ，ｉｔ　ｉｓ　ｏｆ　ｓｏｍｅ　ｂｌｉｎｄｎｅｓｓ．Ｉｎ　ｃｌａｓｓｉｆｉｃａｔｉｏｎ　ｐｒｏｂｌｅｍｓ，ｔｈｅ　ｂｏｕｎｄａｒｙ　ｓａｍｐｌｅｓ　ｐｌａｙ　ａ　

ｍｏｒｅ　ｉｍｐｏｒｔａｎｔ　ｒｏｌｅ　ｉｎ　ｔｈｅ　ｄｅｃｉｓｉｏｎ，ｗｈｉｃｈ　ｎｅｅｄ　ｔｏ　ａｔｔｒａｃｔ　ｍｏｒｅ　ａｔｔｅｎｔｉｏｎ．Ａｃｃｏｒｄｉｎｇ　ｔｏ　ａｂｏｖｅ　ｃｏｎｓｉｄｅｒａｔｉｏｎ，ｔｈｉｓ　

收稿日期：２０１７—０１—１０；修回日期：２０１７一Ｏ１—２８　基金项目：国家自然科学基金资助项目“神经网络的代数构造特征和可算性”（１１１７１１３７）；　浙江省自然科学基金资助项目“矩阵平方根理论中一些问题的研究”（ＬＹ１３Ａ０１ｏ０Ｏ８）　作者简介：尚旭，男，陕西蓝田人，硕士生。　通讯作者：谢林森，男，上海嘉定人，教授，博士。

　２　丽水学院学报　２０１７焦　

ｐａｐｅｒ　ｐｒｏｐｏｓｅｄ　ａｎ　ｉｍｐｒｏｖｅｄ　ｍｅｔｈｏｄ　ｎａｍｅｄ　ｄｉｓｔａｎｃｅ　ｂｏｒｄｅｒｌｉｎｅ　ｓｙｎｔｈｅｔｉｃ　ｍｉｎｏｒｉｔｙ　ｏｖｅｒ－ｓａｍｐｌｉｎｇ　ｔｅｃｈｎｉｑｕｅ　（ＤＢＳＭＯＴＥ）．Ｔｈｅ　ＤＢＳＭＯＴＥ　ｓｅｌｅｃｔｓ　ｔｈｅ　ｂｏｕｎｄａｒｙ　ｓａｍｐｌｅｓ　ａｃｃｏｒｄｉｎｇ　ｔｏ　ｔｈｅ　ｄｉｓｔａｎｃｅ　ｂｅｔｗｅｅｎ　ｔｈｅ　ｍｉｎｏｒｉｔｙ　

ｓａｍｐｌｅｓ　ａｎｄ　ｔｈｅ　ｍａｊｏｒｉｔｙ　ｓａｍｐｌｅｓ　ｆｉｒｓｔｌｙ，ｔｈｅｎ　ｔｈｅ　ｍｉｎｏｒｉｔｙ　ｓａｍｐｌｅｓ　ａｒｅ　ｓｙｎｔｈｅｓｉｚｅｄ　ｂａｓｅｄ　ｏｎ　ｔｈｅ　ｂｏｕｎｄａｒｙ　ｓａｍｐｌｅｓ．　

Ｔｈｅｏｒｅｔｉｃａｌ　ａｎａｌｙｓｉｓ　ａｎｄ　ｅｘｐｅｒｉｍｅｎｔａｌ　ｒｅｓｕｈｓ　ｓｈｏｗ　ｔｈａｔ　ｔｈｅ　ＤＢＳＭＯＴＥ　ｉｓ　ｅｆｆｅｃｔｉｖｅ．　Ｋｅｙ　ｗｏｒｄｓ：ｉｍｂａｌａｎｃｅｄ　ｄａｔａ　ｓｅｔｓ；ｏｖｅｒ－ｓａｍｐｌｉｎｇ；ｂｏｕｎｄａｒｙ　ｓａｍｐｌｅ；ＳＭＯＴＥ　

０　引言　不平衡数据集【　＿３】通常是指在一个数据集中，一类或几类样本在数量上远远小于其他类的样本，其中　样本数量少的类称为少数类，样本数量多的类称为多数类［４１。由于多分类问题可以转化为二分类问题，因　此本文主要研究二分类问题，称少数类为正类，多数类为负类［５１。在实际应用中，数据不平衡问题很常见。　

例如，对于电信运营商来说，客户流失是个例，与正常客户相比，流失客户所占的比重很少，那么客户流失　

预测就是一个典型的不平衡数据集分类问题　。又如，飞行飞机故障的监测，银行信用差的客户的识别　

等，都是不平衡问题，都涉及对不平衡数据的分类。在不平衡数据集中，许多标准的分类算法尽管对不平　衡数据集的整体分类精度很高，但是对于少数类样本的分类精度却相对较低，这是因为少数类样本数量　少，样本信息量少使得该类内部规律无法通过训练样本充分挖掘出来，标准的分类算法大都面向平衡数　

据集的。然而通常人们更关心的是数据集中的少数类样本，少数类样本的分类错误所产生的代价有时更　

大。比如在医疗诊断中，如果一个没有病的人被医生诊断为有病，这会给人带来精神压力，然而如果医生　把一个有病的患者误诊为没有病，就有可能耽误治疗，甚至危及病人的生命，因此在不平衡数据集的分类　中，提高少数类样本的分类准确率成为数据挖掘与机器学习领域应该关注和需要解决的问题［８１。　

１　相关研究　目前不平衡数据分类问题的处理技术非常丰富，主要分为两类　“】：一类是对现有的分类算法进行改　进或提出新的算法，如代价敏感学习『ｌ２＿　１、集成（Ｂｏｏｓｔｉｎｇ）学习　习等。另一类是数据的预处理，主要包括欠　采样技术【・６１和过采样技术【１７１，其中欠采样技术的思想是删除部分多数类样本以达到数据类别间的样本数量　平衡，但欠采样技术可能会造成信息的丢失，过采样算法通常合成少数类样本以达到少数类与多数类在　

数量上的平衡，随机过采样方法通过简单的复制来合成少数类样本，但随机过采样方法可能会造成少数　

类过拟合。过采样方法中一种常用的方法是Ｃｈａｗｌａ等人【ｌ８］提出的合成少数类向上采样方法（Ｓｙｎｔｈｅｔｉｃ　ｍｉｎｏｒｉｔｖ　ｏｖｅｒ—ｓａｍ　ｐｉｉｎｇ　ｔｅｃｈｎｉｑｕｅ，ＳＭＯＴＥ），该方法在少数类样本与其同类最近邻的连线上随机选择一点　

作为新样本的方式来增加样本数量，此方法可以有效地解决随机过采样技术由于决策变小而引起的分类　

过拟合现象。　其具体步骤可概括为：对少数类的每个样本　，搜索其　（通常取５）个少数类最近邻样本，若向上采样　

的倍率为Ⅳ，则在其ｋ个最近样本中随机选择Ⅳ个样本，记为Ｙ　，Ｙ　，…，　，在少数类样本　和），　（ｉ＝１，２，　

…，Ⅳ）之间进行随机线性插值构造新的少数类样本。　

如式：ｎｅｗ＿ｄａｔａ＝ｘ＋ｒａｎｄ＊（Ｙｉ－ｘ），（　１，２，…，Ⅳ）。　

其中ｒａｎｄ表示为（Ｏ，１）内的一个随机数，ｎｅｗ＿ｄａｔａ表示新合成的样本。　但同时ＳＭＯＴＥ也存在一个缺点，对少数类样本没有实施有区别的选择，由于ＳＭＯＴＥ算法不加区别　

地将所有少数类样本用来合成新样本，可能导致大量冗余样本生成，因此Ｈａｎ等人㈣提出了一种称为边　

界合成技术（ｂｏｒｄｅｒｌｉｎｅ—ＳＭＯＴＥ，ＢＳＭＯＴＥ）方法，其基本思想是对于少数类样本有区别的选择，首先确定少　

数类的边界样本，然后利用边界样本集合成新样本，进一步改善了数据集的不平衡分布，其主要步骤：

首先　第２期　尚旭，谢林森：一种距离边界合成少数类过采样技术　３　

寻找数据集中每个少数类样本的ｋ个最近邻样本，然后统计ｋ近邻中多数类样本和少数类样本的数量，　

若多数类样本数量多于少数类样本的数量，则该样本被选为边界样本，最后，在边界样本集上利用ＳＭＯＴＥ　

技术的合成规则合成少数类样本。　ＢＳＭＯＴＥ采样方法中ｋ近邻的选取，影响着边界样本集的选取，当少数类样本数量极少时，其近邻中　

大多数都是多数类样本，将会导致所有的少数类样本被选为边界样本，如果选取的边界样本过少，生成的　样本过于集中，分布不均匀，如果选取的边界样本过多，每个样本周围所合成的新样本有限，起不到提高　

少数类的分类精度的作用，反而可能会影响少数类的分类精度。　

基于以上考虑，本文提出一种基于距离的边界过采样方法（Ｄｉｓｔａｎｃｅ　ｂｏｒｄｅｒｌｉｎｅ　ｓｙｎｔｈｅｔｉｃ　ｍｉｎｏｒｉｔｙ　ｏｖｅｒ—ｓａｍｐｌｉｎｇ，ＤＢＳＭＯＴＥ），该方法通过分析数据集的分布，比对少数类样本与多数类样本的距离来确定　

边界样本，最后在边界样本集上随机插值合成新样本。该采样方法不同于ＢＳＭＯＴＥ采样方法根据近邻中　少数类样本和多数类样本的数量来确定边界样本，较好地选择边界样本，在生成新样本时避免了线性插　

值合成样本的约束。　２　主要工作　２．１　ＤＢＳＭＯＴＥ采样方法　

ＳＭＯＴＥ算法是将所有的少数类样本视为地位同等重要的，这样具有一定盲目性，对于分类来说，处于　

类边界的样本对分类具有重要的作用，尤其是对于少数类样本来说。在不平衡数据集中，在类边界上，由　于边界上少数类样本数量少为我们提供的样本信息有限，使得我们在分类决策时，很难做出正确判断，边　

界上的少数类样本更容易被误分，从而影响少数类的分类精度。基于此，本文提出一种边界过采样算法。　算法思想：首先计算每个少数类样本与所有多数类样本的距离和；其次，求出少数类样本到所有多数类样　

合集下载

基于层次聚类改进SMOTE的过采样方法

基于层次聚类改进SMOTE的过采样方法

基于层次聚类改进SMOTE的过采样方法

【摘要】

本文介绍了一种基于层次聚类改进SMOTE的过采样方法。在研究背景和研究意义被详细探讨。接着正文部分分别介绍了SMOTE算法、层次聚类和基于层次聚类的过采样方法。在实验设计与结果分析部分，详细讨论了实验过程和结果。随后在性能评估与比较部分对该方法进行评估和比较。结论部分总结了基于层次聚类改进SMOTE方法的优势，并展望了未来研究方向。通过本文可以了解到这种新的过采样方法在处理不平衡数据集时的潜在优势，为相关研究提供了新思路。

【关键词】

层次聚类、SMOTE、过采样方法、实验设计、结果分析、性能评估、优势、未来研究、研究背景、研究意义

1. 引言

1.1 研究背景

随着数据挖掘和机器学习的快速发展，样本不平衡问题也逐渐成为了一个热门的研究领域。在实际的数据集中，往往会存在着正负样本之间数量差异巨大的情况，这就导致了在建模过程中，模型更倾向于对数量较多的类别进行学习，而忽视了数量较少的类别。这种情况会严重影响模型的性能和泛化能力，导致模型在实际应用中无法有效预测少数类别样本。 本文将介绍基于层次聚类改进SMOTE的过采样方法，通过引入层次聚类的思想，对样本空间进行划分和聚类，从而提高合成样本的质量和多样性。该方法能够有效地提高模型的性能，降低过拟合的风险，为解决样本不平衡问题提供了一种新的思路和方法。通过实验设计与结果分析，本文将验证基于层次聚类改进SMOTE的方法在不同数据集上的效果，同时对比传统的过采样方法，评估其性能优劣。

1.2 研究意义

过少啊，等等。在重要性上，的研究可以提高机器学习模型在处理不平衡数据集时的性能和效果，从而在各个领域中获得更好的应用结果。当前，随着大数据时代的到来，数据的不平衡性问题越来越突出，传统的机器学习算法在处理不平衡数据集时容易出现类别失衡和预测偏倚的情况。研究如何有效处理不平衡数据集是十分重要的。而的研究，可以通过结合层次聚类和SMOTE算法的优势，克服传统过采样方法中存在的一些问题，提高模型的泛化能力和适应性。本研究的意义在于为解决不平衡数据集问题提供了一种新的思路和方法，有望在实际应用中取得更好的效果。

基于层次聚类改进SMOTE的过采样方法 2

基于层次聚类改进SMOTE的过采样方法 2

基于层次聚类改进SMOTE的过采样方法

1. 引言

1.1 研究背景

随着机器学习和数据挖掘技术的不断发展，数据样本不平衡问题在监督学习中变得越来越常见。在实际应用中，很多分类问题中正例样本（少数类）的数量远远少于负例样本（多数类），这会导致分类器的性能下降，因为模型更倾向于预测出现频率更高的类别。为了解决这一问题，研究人员提出了过采样方法来增加少数类样本的数量。

在过采样方法中，SMOTE（Synthetic Minority Over-sampling

Technique）是一种被广泛应用的方法。该方法通过对少数类样本进行插值生成新的合成样本，从而平衡数据集中不同类别的样本数量。传统的SMOTE算法存在着一些问题，比如在处理数据集中存在噪声和边界样本时可能会导致生成的合成样本不准确，从而影响分类器性能。

本研究旨在基于层次聚类的方法对SMOTE算法进行改进，提出一种新的过采样方法，以解决传统SMOTE算法存在的问题。通过引入层次聚类的思想，我们希望能够更准确地生成合成样本，从而提高分类器的性能。这也是本研究的研究背景和动机。

1.2 研究意义

本文提出了一种基于层次聚类的改进SMOTE算法，通过将数据集进行层次聚类分析，再在每个聚类子集上分别应用SMOTE算法，从而生成更具代表性且高质量的合成样本。这种基于层次聚类的改进SMOTE算法在解决数据不平衡问题时具有显著的优势，能够提高分类模型的性能和稳定性。该方法在处理不平衡数据集时可以更好地保持数据的分布特性，有效避免过拟合和欠拟合问题，提高了训练模型的泛化能力。

本研究具有重要的理论和应用意义，可以为解决数据不平衡问题提供新的思路和方法，进一步推动机器学习领域中数据挖掘技木的发展。通过对基于层次聚类改进SMOTE的过采样方法进行实验分析和比较，可以验证其在实际应用中的有效性和可行性，为相关领域研究工作提供参考和借鉴。

基于CPD-SMOTE的类不平衡数据分类算法研究

基于CPD-SMOTE的类不平衡数据分类算法研究

基于CPD-SMOTE的类不平衡数据分类算法研究

彭如香;杨涛;孔华锋;姜国庆;凡友荣

【摘 要】类不平衡现象普遍存在于不同应用领域中,如金融欺诈、网络入侵、垃圾邮件过滤、医学检测,直接采用传统的学习分类算法,分类准确率较低.针对类不平衡情况对分类器的影响,基于传统过采样算法SMOTE(Synthetic Minority

Oversampling Technique)算法处理类不平衡的有效性,致力进一步提升SMOTE算法性能,提出一种面向类不平衡数据集分类的改进型SMOTE算法——CPD-SMOTE算法.通过考虑训练集小样本的特征、位置及其周围样本分布,来确定小样本的强相关邻居集,以此作为SMOTE最近邻居集,产生新的小样本.实验结果表明,CPD-SMOTE算法在处理不平衡数据集上相比SMOTE、Borderline-SMOTE、ADASYN、LN-SMOTE等算法有所提高.

【期刊名称】《计算机应用与软件》

【年(卷),期】2018(035)012

【总页数】5页(P259-262,268)

【关键词】SMOTE;类不平衡;分类算法

【作 者】彭如香;杨涛;孔华锋;姜国庆;凡友荣

【作者单位】公安部第三研究所 上海201204;信息网络安全公安部重点实验室 上海201204;;;

【正文语种】中 文

【中图分类】TP301.6

0 引 言

类不平衡是指属于某一类别的观测样本的数量显著少于其他类别，通常情况下把多数类样本的比例为100∶1、1 000∶1，甚至是10 000∶1这种情况下为不平衡数据[1]。类不平衡现象普遍存在着不同应用领域中，如金融欺诈、网络入侵、垃圾邮件过滤、医学检测，直接采用传统的学习分类算法，分类准确率较低[1-3]。通常采用重采样方法处理类不平衡问题,重采样包括欠采用和过采样两种[1]。相比于传统欠采样方法，SMOTE算法克服传统随机欠采样导致的数据丢失问题。但是，SMOTE容易出现过泛化和高方差的问题，进而影响数据分布特征。为了解决这些问题，Borderline-SMOTE、ADASYN、LN-SMOTE等SMOTE改进算法相继被提出[4-6]。这些算法充分考虑小样本的分布，新增的样本不影响小样本的分布。然而这些算法未考虑小样本与大样本的交叉区域，最终形成的数据集将改变原有数据集的分布，而影响分类算法的准确性。

特征抽取中的过采样与欠采样技术解决类别不平衡

特征抽取中的过采样与欠采样技术解决类别不平衡

特征抽取中的过采样与欠采样技术解决类别不平衡

在机器学习和数据挖掘领域，我们经常会面临一个问题，那就是类别不平衡。类别不平衡指的是训练数据中不同类别的样本数量存在明显的差异。这种情况下，机器学习算法会倾向于将样本分类为数量较多的类别，而对数量较少的类别则表现较差。为了解决这个问题，特征抽取中的过采样与欠采样技术被广泛应用。

过采样技术是指通过增加少数类样本的数量来平衡数据集。最简单的过采样方法是复制少数类样本，使其数量与多数类样本相当。然而，这种简单的复制方法可能会导致过拟合问题，因为复制的样本没有提供额外的信息。为了解决这个问题，一些更复杂的过采样算法被提出。

一种常用的过采样算法是SMOTE（Synthetic Minority Over-sampling

Technique）。SMOTE算法通过在少数类样本之间插值生成新的样本来增加数据集的数量。具体来说，对于一个少数类样本，SMOTE算法会随机选择一个最近邻的样本，并在两个样本之间进行插值。通过这种方式，SMOTE算法可以生成具有多样性的合成样本，从而提高模型的泛化能力。

然而，过采样技术也存在一些问题。首先，过采样会导致训练数据集的规模扩大，从而增加了计算的复杂性。其次，过采样可能会引入噪声，因为合成的样本可能不准确地表示真实的数据分布。为了解决这些问题，欠采样技术被提出。

欠采样技术是指通过减少多数类样本的数量来平衡数据集。最简单的欠采样方法是随机删除多数类样本，使其数量与少数类样本相当。然而，这种简单的删除方法可能会丢失一些重要的信息。为了解决这个问题，一些更复杂的欠采样算法被提出。 一种常用的欠采样算法是Tomek Links。Tomek Links算法通过计算不同类别样本之间的最近邻关系来删除多数类样本。具体来说，对于一个多数类样本，如果它的最近邻样本是一个少数类样本，并且这两个样本之间的距离小于其他样本对之间的距离，那么这个多数类样本就会被删除。通过这种方式，Tomek Links算法可以减少多数类样本的数量，从而提高模型对少数类样本的分类能力。