【CN109918507A】一种基于TextCNN改进的文本分类方法【专利】

一种改进的文本分类算法任朋启;王芳;黄树成【期刊名称】《电子设计工程》【年(卷),期】2017(025)018【摘要】文本分类技术是文本挖掘技术中的研究热点之一,但是传统KNN分类算法的时间复杂度高,在不均匀密度样本下分类准确率低.针对这些问题,提出一种在不均匀密度样本下的优化KNN算法:IKNN算法.首先选取样本分类不均匀的训练样本,并对其中高密度样本做出相应的裁剪,以提高准确率.然后在此基础上,针对裁剪后的训练样本使用投影寻踪理论,选取更小的、更具代表性的样本库,以降低分类算法的时间复杂度.在此理论基础上,通过实验表明,在大量的训练样本下,与经典KNN算法相比,IKNN算法具有更高的效率和准确率.%Text classification, as a kind of text mining, has been a hot research area. However, the traditional KNN algorithm is accompanied with higher time complexity and when applied to asymmetric density samples, it produces low classification accuracy. Considering the disadvantage of KNN, an improved algorithm IKNN is suggested. Firstly, samples with asymmetric density are specially chosen and circularly tailored in order to improve the accuracy rate. Secondly, on the base of the tailored samples, projection pursuit theory is employed to choose smaller and more representative sample database for a lower time complexity of classification algorithm. Thus, the experiment suggests that, based on the above theory, the IKNN algorithm is endowed with higherefficiency and accuracy than the traditional KNN algorithm in solving a large number of samples.【总页数】5页(P1-5)【作者】任朋启;王芳;黄树成【作者单位】江苏科技大学计算机科学与工程学院,江苏镇江 212003;江苏科技大学计算机科学与工程学院,江苏镇江 212003;江苏科技大学计算机科学与工程学院,江苏镇江 212003【正文语种】中文【中图分类】TN02【相关文献】1.云计算环境下的一种改进的贝叶斯文本分类算法 [J], 张琳;邵天昊2.一种改进的增量式贝叶斯文本分类算法 [J], 吴国文;庄千料3.一种改进的基于质心的文本分类算法 [J], 陈震;吴斌;沈崇玮;张忠辉;王柏4.一种基于多特征因子改进的中文文本分类算法 [J], 叶敏;汤世平;牛振东5.一种改进的SVM文本分类算法 [J], 王义忠;刘循;吴迪因版权原因，仅展示原文概要，查看原文内容请购买。

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号 (43)申请公布日 (21)申请号 201910222217.X(22)申请日 2019.03.22(71)申请人 上海电力学院地址 200090 上海市杨浦区平凉路2103号(72)发明人 袁三男　沈兆轩　刘虹　孙哲　刘志超　(74)专利代理机构 上海科盛知识产权代理有限公司 31225代理人 叶敏华(51)Int.Cl.G06K 9/32(2006.01)G06K 9/62(2006.01)(54)发明名称一种基于混合CNN-LSTM网络的文字识别方法(57)摘要本发明涉及一种基于混合CNN -LSTM网络的文字识别方法，包括步骤：1)获取包含文本的图片，将图片灰度化、归一化；2)将图片分为训练样本和测试样本两部分，将训练样本图片对应的文本根据字典转码成二值向量序列作为标签；3)将处理过的训练样本的图片与标签输入混合CNN -LSTM网络中进行数据训练，获取识别模型；4)将处理后的图像和标签输入识别模型，输出特征矩阵；5)将特征矩阵采用梯度下降法进行CTC_loss 计算，获取损失函数结果；6)重复1)～3)，直至损失函数结果最小，获取其对应的文本标签序列作为预测数据；7)将预测数据根据字典再次反转码得到文本，获取文字识别结果。

与现有技术相比，本发明具有简化运算、增强识别效果等优点。

权利要求书1页 说明书3页 附图2页CN 109977950 A 2019.07.05C N 109977950A权　利　要　求　书1/1页CN 109977950 A1.一种基于混合CNN-LSTM网络的文字识别方法，其特征在于，该方法包括以下步骤：1)获取包含文本的图片(w，h，n)，将图片灰度化、归一化；2)将图片分为训练样本和测试样本两部分，并将训练样本图片对应的文本根据字典转码成二值向量序列作为标签；3)将步骤2)中处理过的训练样本的图片与标签输入混合CNN-LSTM网络中进行数据训练，训练完成后获取识别模型；4)将步骤1)、2)处理后的图像和标签输入步骤3)中的识别模型，输出特征矩阵；5)将步骤4)中的特征矩阵采用梯度下降法进行CTC_loss计算，获取损失函数结果；6)重复步骤1)至步骤3)，直至步骤5)中的损失函数结果最小，获取的最小的损失函数对应的文本标签序列作为预测数据；7)将预测数据根据字典再次反转码得到文本，获取测试样本的文字识别结果。

基于改进TextRank的科技文本关键词抽取方法杨冬菊;胡成富【期刊名称】《计算机应用》【年(卷),期】2024(44)6【摘要】针对科技文本关键词抽取任务中抽取出现次数少但能较好表达文本主旨的词语效果差的问题,提出一种基于改进TextRank的关键词抽取方法。

首先,利用词语的词频-逆文档频率(TF-IDF)统计特征和位置特征优化共现图中词语间的概率转移矩阵,通过迭代计算得到词语的初始得分;然后,利用K-Core(K-Core decomposition)算法挖掘KCore子图得到词语的层级特征,利用平均信息熵特征衡量词语的主题表征能力;最后,在词语初始得分的基础上融合层级特征和平均信息熵特征,从而确定关键词。

实验结果表明,在公开数据集上,与TextRank方法和OTextRank(Optimized TextRank)方法相比,所提方法在抽取不同关键词数量的实验中,F1均值分别提高了6.5和3.3个百分点;在科技服务项目数据集上,与TextRank方法和OTextRank方法相比,所提方法在抽取不同关键词数量的实验中,F1均值分别提高了7.4和3.2个百分点。

实验结果验证了所提方法抽取出现频率低但较好表达文本主旨关键词的有效性。

【总页数】7页(P1720-1726)【作者】杨冬菊;胡成富【作者单位】北方工业大学信息学院;大规模流数据集成与分析技术北京市重点实验室(北方工业大学)【正文语种】中文【中图分类】TP391.1【相关文献】1.融合多特征的TextRank藏文文本关键词抽取方法研究2.基于改进TextRank的铁路文献关键词抽取算法3.基于改进TextRank的关键词抽取算法4.基于词向量与TextRank的政策文本关键词汇抽取方法研究5.基于先验知识TextRank的学术文本关键词抽取因版权原因，仅展示原文概要，查看原文内容请购买。

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号 (43)申请公布日 (21)申请号 202010595117.4(22)申请日 2020.06.24(71)申请人 上海应用技术大学地址 200235 上海市徐汇区漕宝路120-121号(72)发明人 刘云翔　徐齐　原鑫鑫　张国庆　唐泽莘　(74)专利代理机构 上海汉声知识产权代理有限公司 31236代理人 胡晶(51)Int.Cl.G06F 16/35(2019.01)G06F 16/36(2019.01)G06N 3/04(2006.01)G06N 3/08(2006.01)(54)发明名称文本分类方法(57)摘要本发明提供了一种文本分类方法，方法首先对带标签的文本数据进行清洗，分数据集；然后将文本序列映射为文本向量S；并将文本向量S输入到双向LSTM网络中得到与文本向量S维度相同的文本向量S1、S2，由文本向量S、S1、S2计算得到文本向量S w 。

最后，将句子S w 输入到神经网络中按照预设的超参数训练模型，根据模型在验证集上的表现选取最优的模型。

本发明利用LSTM网络获取全局文本信息，并通过加权求和方式得到包含全局信息的文本向量S w ，实验结果显示，该模型取得了较好的分类精度。

权利要求书2页 说明书5页 附图3页CN 111737470 A 2020.10.02C N 111737470A1.一种文本分类方法，其特征在于，包括：步骤S1，对带标签的文本数据进行清洗，对清洗后的带标签的文本数据划分训练数据集和验证集；步骤S2，统计训练数据集中的文本数据，然后将文本数据中文本序列替换为单词索引序列；步骤S3，构建词向量字典；步骤S4，基于所述词向量字典，将所述单词索引序列映射为文本向量S；步骤S5，基于所述文本向量S，获取文本全局信息向量S1、S2；步骤S6，由文本向量S和文本全局信息向量S1、S2计算得到文本向量S w；步骤S7，利用改进的CNN网络模型提取文本向量S w中的文本类别信息，以输出文本类别；步骤S8，根据文本数据的标签和改进的CNN网络模型输出的文本类别和计算损失函数；步骤S9，重复步骤S2～步骤S8，以批量输入训练数据，使用批量梯度下降算法优化损失函数；步骤S10，根据改进的CNN网络模型在所述验证集上的表现，选取最优的改进的CNN网络模型作为最终的模型。

专利名称：一种基于TextRank的应用偏好文本分类方法专利类型：发明专利
发明人：王海廷,杨从安
申请号：CN201911106117.7
申请日：20191113
公开号：CN111061869A
公开日：
20200424
专利内容由知识产权出版社提供
摘要：本发明提供了一种基于TextRank的应用偏好文本分类方法，包括如下步骤：根据TextRank算法，生成每个应用的关键词字段，构成第一关键词库；根据多个二级分类，为每个二级分类标记一个种子关键词；根据种子关键词，在第一关键词库中模糊检索包含所述种子关键词的应用，并将所述包含种子关键词的应用打上二级分类；再次使用TextRank算法，对所有二级分类下的所有应用的种子关键词进行全量计算，生成所述多个二级分类下的第二关键词库；再次遍历应用表，对每一个关键词字段中的内容与第二关键词库进行字符串相似度匹配，如果相似度低于预设阈值，则删除所述应用与当前二级分类之间的关联。

本发明可以自学习，根据每次生成的核心关键词的效果，逐步剔除不相关的关键词，提升准确率。

申请人：北京数字联盟网络科技有限公司
地址：100088 北京市海淀区知春路6号(锦秋国际大厦)16层B01
国籍：CN
代理机构：北京庆峰财智知识产权代理事务所(普通合伙)
代理人：周小平
更多信息请下载全文后查看。

专利名称：一种文本分类的方法专利类型：发明专利
发明人：耿玉水,杨涛,杨振宇
申请号：CN201510267849.X 申请日：20150522
公开号：CN104866573A
公开日：
20150826
专利内容由知识产权出版社提供
摘要：本发明公开了一种文本分类的方法，其具体实现过程为：首先获取网络中的文本；对文本进行预处理，提取特征词，对网络中的文本进行分词，然后去除停用词；计算出网络文本中各特征词的权重，并将文本用向量模型进行表示。

该文本分类的方法与现有技术相比，具有很强的适应性，能满足大部分不同文本的分类要求，有利于文本分类，实用性强。

申请人：齐鲁工业大学
地址：250353 山东省济南市西部新城大学科技园
国籍：CN
代理机构：济南信达专利事务所有限公司
代理人：孟峣
更多信息请下载全文后查看。

一种改进的基于质心的文本分类算法陈震;吴斌;沈崇玮;张忠辉;王柏【摘要】Text categorisation is a hot topic in data mining and information retrieval, and has been rapidly developing in recent years. Centroid-based approach is a text categorisation method modelling fast and having good effect, many researchers have studied this method thoroughly and put forward the improvement strategies to incessantly raise the performance of it. In this paper, we propose a novel algorithm to dynamically adjust the centroid position. The algorithm adjusts the centroid position dynamically based on every sample text in training set. Besides, we tackle the bottleneck aiming at mass data, make use of two current parallel computing frameworks, MapReduce and BSP, and put forward the parallel strategy of the algorithm. By the comparative experiments on 5 different datasets with other algorithms, we prove that the algorithm has quite accurate classification effect.%文本分类是数据挖掘与信息检索领域的热点话题,近年来迅速发展.基于质心的方法是一种建模迅速且效果较好的文本分类方法,许多学者对该方法进行了深入研究并提出改进策略,不断提高算法效果.提出一种新的动态调整质心位置算法,该算法根据训练集中的每个样本文本动态的调整质心位置.并且针对海量数据处理瓶颈,运用当前两种并行计算框架MapReduce和BSP,提出了算法的并行策略.通过与其它算法在5种不同数据集中的对比实验,证明该方法确有较准确的分类效果.【期刊名称】《计算机应用与软件》【年(卷),期】2013(030)001【总页数】6页(P43-47,54)【关键词】文本分类;质心向量;动态调整;并行计算【作者】陈震;吴斌;沈崇玮;张忠辉;王柏【作者单位】北京邮电大学计算机学院北京100876;北京邮电大学计算机学院北京100876;北京邮电大学计算机学院北京100876;北京邮电大学计算机学院北京100876;北京邮电大学计算机学院北京100876【正文语种】中文【中图分类】TP3910 引言文本分类，是指依据文本的内容，由计算机根据某种自动文本分类算法，把文本判断为预先定义好的类别的过程［1］。