基于改进贝叶斯的垃圾邮件过滤系统设计与实现

学位论文题目：基于贝叶斯算法分类的反垃圾系统的改进摘要电子成为一种快捷、经济的现代通信技术手段，极方便了人们的通信与交流。

然而，垃圾的产生，影响了正常的电子通信，占用了传输带宽，对系统安全造成了严重的威胁。

因此，研究反垃圾问题已经成为全球性的具有重大现实意义的课题。

目前，应对垃圾的主要方法和手段是通过反垃圾立法和使用过滤技术进行处理，现已相继出现了多种过滤技术。

常用的包括黑/白技术、基于容的分析方法以与基于规则的方法等。

基于容分析的技术正逐步进入过滤技术当中，并成为当前研究热点，其中，基于容分析的过滤方法中的典型方法是基于贝叶斯算法的垃圾过滤模型。

本论文对中文垃圾的特点进行了比较系统的分析和研究，结合贝叶斯（Bayes）理论，构造基于贝叶斯分类的垃圾过滤模型，在特征提取方面，采用互信息值的方法，在分类方法上，引入了适合本文的分类方法，并采用了一种更加适合于贝叶斯计算的表示方法；本文作者采用中国教育科研网（CERNET）收集并维护的大量中文垃圾和正常样本的标准数据集，对本文研究的方法进行了大量测试，准确率和误判率分别达到了 95.8%和 5.3%。

结果表明基于贝叶斯算法的垃圾过滤系统对拦截垃圾有很好的作用。

关键词：电子，垃圾，过滤，贝叶斯理论AbstractThe has become a quick and economical means of modern communication technology, which enormously facilitates people's communication and exchanges. However, the emergence of spam has affected the normal email correspondence, and taken the transmission band width, even posed the serious threat to the system safety. Therefore, the study of anti-spam has become a global problem of great practical significance of the topic.At present, the main ways and means of the response to spam are the anti-spam legislation and the use of mail filtering technology. But now a variety of mail filtering technologies have appeared in succession, which are usually used including black / white list technologies, content-based analysis methods, andrule-based methods. Content-based analysis techniques are gradually entering the mail filtering technology which has become hot spots of current research. The typical method of content-based analysis mail filtering methods is based on Bayesian algorithm for spam filtering model.In this paper, the Chinese characteristics of spam has been studied and analyzed systematically. Combining with Bayesian (Bayes) theory, this paper constructs the spam filtering model which is based on Bayesian classification. In feature extraction, mutual information values are used. In the classification method, a classification method is introduced which is suitable in this article, and a more suitable expression in the Bayesian calculation method is adopted; the standard sample data sets of a large number of Chinese spam and regular mail are collected and maintained by the Chinese Education and Research Net (CERNET). The author conducted a lot of testing towards the methods which are studied by this paper. The accuracy and misjudgment rate reached 95.8% and 5.3% respectively. The results show that the spam filtering system based on algorithm Bayesian plays a very good role to block spam. Key Words: , spam, mail filtering, Bayesian theory学位论文原创性声明本人重声明：所呈交的论文是本人在导师的指导下独立进行研究所取得的研究成果。

基于贝叶斯算法在垃圾邮件过滤方法研究和改进摘要：本文在对贝叶斯公式更进一步的了解研究后，使用实验的方式进一步的了解到该方法的缺点并进行分析。

并在贝叶斯公式的基础上进行改进，使其更加准确的应用在垃圾邮件过滤方法中。

依据最小风险的传统方法进行的改进，用实验的方法进一步得到准确的结论。

改进的方法更加适用于现代邮件的需求，更加个性化。

关键词：贝叶斯定理；多项式事件模型；多变量贝努利事件模型；最小风险；垃圾邮件过滤1 引言在这个高速发展的时代，科技化已经大势所趋，消息的传播已经从之前的手写信件全面过渡到网络邮件，人们越来越习惯用邮件的方式来传递消息。

但是万物皆有双面性，邮件带给我们方便的同时也使得垃圾邮件越来越泛滥。

垃圾邮件不仅会占用人们的时间，里面的内容也会对人们造成一定的威胁，电子邮件所带来的负面影响是不可逆的。

电子邮件因其便捷、快速、传播性广，里面会夹杂着一些推销广告、不良信息、甚至一些病毒链接，给许多用户带来不便。

目前基于垃圾邮件的过滤方法主要有基于IP、行为、内容三种过滤技术，其中以基于内容的经常使用，文本本就是以词构成的一个整体，基于内容的过滤技术更加的准确。

基于内容的过滤技术中，朴素贝叶斯算法因其能够满足用户个性化的要求，在垃圾邮件的过滤方法中受到广泛应用。

本文在更加精确的了解贝叶斯算法在垃圾邮件过滤的应用效果后，更加有针对性的提出该方法的弊端并进行适当的分析和改进，并进行相应的实验，作出最后的结论。

2 贝叶斯过滤器2.1 贝叶斯定理贝叶斯定理最早是由英国数学家贝叶斯（1702-1761）提出的，最早收录于《机会学说中一个问题的解》。

该定理是贝叶斯用来解释两个随机条件概率之间的关系而提出的。

多变量贝努利事件模型由于并没有考虑词频问题，相对简化了过滤方法，提高了效率，在不同的文本中可以采用不同的方法。

2.3贝叶斯算法的缺陷分析贝叶斯算法起初应用于数学概论中，但随着数学的发展，这种方法越来越广泛的应用于文本分类领域，它的灵活性，简便性以及较高的精确度，使得它越来越不可或缺。

第33卷第1期燕山大学学报V ol.33No.12009年1月Journal of Yanshan University Jan.20090引言随着电子邮件的普及，垃圾邮件的泛滥也越来越多地受到人们的关注。

中国互联网协会反垃圾邮件中心在2008年1月28日发布的《2007年第四次中国反垃圾邮件状况调查报告》显示，中国互联网用户平均每周收到垃圾邮件16.71封，已经连续多次超过了正常邮件的数量。

大量的垃圾邮件不仅占用了网络传输带宽，影响正常网络通信，更浪费了人们的时间和精力。

垃圾邮件的检测和过滤已经迫在眉睫。

目前主要的垃圾邮件过滤技术有3类：1）基于IP 、域名和路由等的过滤技术：包括黑/白名单、实时黑名单、反向域名检测等技术；2）基于行为的过滤技术：包括过滤群发、流量监控、挑战-回应和蜜罐技术等；3）基于内容的过滤技术：包括规则（集）匹配、朴素贝叶斯（Naive Bayes ）、支持向量机（SVM ）、-NN ）、最大熵值法等[1]。

基于内容的过滤技术是目前垃圾邮件过滤技术应用的主流，而在基于内容的垃圾邮件过滤方法中，朴素贝叶斯算法[2]因其既实现了自学习的功能，又满足了个性化的要求，故而在垃圾邮件过滤中得到广泛的应用。

本文在对贝叶斯过滤器分析的基础上，引入基于分级的最小风险算法，并提出了一种结合多重贝努利和多项式的混合估计模型。

在此基础上对贝叶斯过滤器进行了改进，并进行了实验对比。

1贝叶斯过滤器1.1贝叶斯定理贝叶斯定理是由托马斯・贝叶斯（1702-1761）提出的计算概率的一种方法。

它是通过对某一事件过去发生概率情况的考察，大体可以推断出当前这一事件发生的概率。

它的形式化表述为：设试验，的事件，2,µÄÒ»¸ö»®·Ö£¬ÇÒ>0,，则,,=1;2;;,或者2,,，是特征项，可以是文章编号：文献标识码：48燕山大学学报2009字、词、短语或者是某种概念。

基于改进贝叶斯的垃圾邮件过滤系统设计与实现
丁文斌;李斌;罗浩
【期刊名称】《计算机工程与应用》
【年(卷),期】2005(041)018
【摘要】该文设计并实现了一种基于改进贝叶斯的垃圾邮件过滤系统.传统的贝叶斯方法对邮件进行过滤时,将邮件视为一个无序关键词的向量空间,丢掉了词与词之间,句子之间的相互关系.该文则将邮件视为句间有序,句子内部关键词无序但是相关的部分有序的集合.减少传统方法处理时信息的丢失.得到的实验结果比传统方法更好.
【总页数】4页(P127-130)
【作者】丁文斌;李斌;罗浩
【作者单位】哈尔滨工业大学国家网络信息安全重点实验室,哈尔滨,150001;哈尔滨工业大学国家网络信息安全重点实验室,哈尔滨,150001;哈尔滨工业大学国家网络信息安全重点实验室,哈尔滨,150001
【正文语种】中文
【中图分类】TP393.098
【相关文献】
1.朴素贝叶斯及其改进算法在垃圾邮件过滤中的应用 [J], 詹鹏伟;谢小姣
2.基于改进的贝叶斯中文垃圾邮件过滤方法研究 [J], 马威;褚红丹;高哲;董贯慧
3.改进的贝叶斯垃圾邮件过滤算法 [J], 赵敬慧;魏振钢
4.基于改进贝叶斯的垃圾邮件过滤算法综述 [J], 赵治国;谭敏生;李志敏
5.一种改进的基于贝叶斯的垃圾邮件过滤方法 [J], 王忠建;张树舰;李颖
因版权原因，仅展示原文概要，查看原文内容请购买。

朴素贝叶斯及其改进算法在垃圾邮件过滤中的应用朴素贝叶斯模型在文本分类领域应用广泛，但因为算法本身的缺陷，分类性能有待提高。

文章在传统的朴素贝叶斯模型的基础上，利用对数处理解决了算术下溢问题，使用拉普拉斯平滑解决了因训练集过小出现的零概率问题，并采用了系数加权的方法改善了朴素贝叶斯因假设所有条件都是独立的而导致的性能问题，进一步根据垃圾邮件过滤必须要有的查准率高的特点提出了阈值限定条件，最终训练的出的模型分类效果较传统的朴素贝叶斯模型有所提高，对垃圾邮件过滤模型的设计有一定的指导作用。

标签：朴素贝叶斯；系数加权；阈值限定Abstract：Naive Bayesian model is widely used in the field of text classification，but the classification performance needs to be improved because of the defects of the algorithm itself. Based on the traditional naive Bayesian model，the problem of arithmetic underflow is solved by logarithmic processing，and the zero probability problem due to the small training set is solved by Laplacian Smoothing. The method of coefficient weighting is used to improve the performance of naive Bayes，which is caused by the assumption that all the conditions are independent. Furthermore，the threshold limit condition is proposed according to the characteristic of the high precision rate necessary for spam filtering. The classification effect of the final training model is improved compared with the traditional naive Bayes model，which can guide the design of spam filtering model.Keywords：naive Bayes；coefficient weighting；threshold qualification引言随着互联网的发展，电子邮件的使用也越来越普及，但是电子邮件的安全性与可靠性却还有待提高。