基于DPI的网络用户行为感知与分析研究[精品文档]
- 格式:pdf
- 大小:2.67 MB
- 文档页数:20
移动互联网时代DPI解析系统的研究罗巍;黄根华【摘要】在移动互联网时代,基于上网用户和流量爆发式增长的发展趋势,电信运营商通过部署DPI解析系统发现价值用户、聚合价值业务、积极应对互联网业务的增长.电信运营商数据采集解析设备通过分光、端口镜像等方式获取CE链路上的用户上网记录数据以及AAA、AN-AAA侧用户数据,基于采集到的数据进行深度解析.本文就DPI解析系统的结构、功能模块重点给予了分析及经验性指导,供参考.【期刊名称】《广东通信技术》【年(卷),期】2017(037)005【总页数】5页(P55-59)【关键词】流量;DPI;采集;解析;数据【作者】罗巍;黄根华【作者单位】中国电信股份有限公司新疆分公司计划建设部;广东省电信规划设计院有限公司电信咨询设计院【正文语种】中文在移动互联网时代,基于上网用户和流量爆发式增长的发展趋势,电信运营商通过部署DPI解析系统发现价值用户、聚合价值业务、积极应对互联网业务的增长。
电信运营商数据采集解析设备通过分光、端口镜像等方式获取CE链路上的用户上网记录数据以及AAA、AN-AAA侧用户数据,基于采集到的数据进行深度解析。
本文就DPI解析系统的结构、功能模块重点给予了分析及经验性指导,供参考。
罗巍工程师,毕业于成都信息工程学院,现就职于中国电信股份有限公司新疆分公司计划建设部,负责IT及业务网平台项目管理工作。
曾负责过新疆电信智能网管平台、能力开放平台、翼支付平台、“营改增”IT支撑项目等多个省级重点项目管理工作。
黄根华工程师,毕业于中山大学,硕士,现就职于广东省电信规划设计院有限公司电信咨询设计院,长期从事电信网络咨询与规划工作,在支撑系统、业务网等方面具有深厚的理论功底和丰富的项目经验。
DPI(Deep Packet Inspection,深度报文检测)是相对于传统报文检测技术而提出的一种报文检测技术。
作为一种灵活有效的业务识别技术,近年来,在网络中得到了广泛使用。
2020年第1期132网络与通信信息技术与信息化基于DPI 数据的网络感知提升方案研究汤 冰* 刘昌兴** 刘薇薇TANG Bing LIU Chang-xing LIU Wei-wei摘 要 随着4G 的快速发展,通信技术的不断发展提升,我们的服务也逐渐从“服务网络”向“服务为人”进行了转变,体现了我们网络优化与时俱进和不断探索的精神,在如今的指标考核体系中代表业务感知的KQI 已经占据了相当大的比重,因此我们针对业务感知展开了专项优化服务旨在提高用户感知,保证用户满意度,北区针对用户满意度展开了基于DPI 深度包检测的分析研究,通过精细识别用户业务,并实施针对性策略,提升用户网络感知体验,业务的感知体验,契合集团精准优化思路,满足用户不同业务感知的要求,在携号转网的政策下,助力用户在网挽留。
关键词 DPI 技术;网络感知提升;用户体验doi:10.3969/j.issn.1672-9528.2020.01.043* 中国移动通信集团设计院有限公司黑龙江分公司 黑龙江哈尔滨 150080** 中国移动通信集团吉林分公司 吉林长春 1300000 引言基于DPI 包检测技术,可以具象化的分析用户话单,以实际的用户业务作为基础深入分析导致用户感知差的具体业务类型,并基于不同业务的特点展开优化工作。
以A 地市月粒度话单为基础,以用户投诉库和用户话单评分两个维度为抓手,展开基于大数据的数据分析,分析发现目前A 地市地市访问次数最多的业务为视频业务,感知最差的业务为游戏业务,发展潜力最大的业务为即时通信业务,因此针对以上三类业务,我们展开了具体的优化工作。
由于视频类业务、即时通信类业务和游戏业务三类业务的业务特点各不相同,因此我们针对三类业务分别制定了策略并展开优化,经过为期半年的优化现阶段整体IP 速率由8.01Mbps 提升到11.03Mbps,IP 时延由78.98ms 降低为51.15ms,提升幅度明显。
基于DPI(深度报⽂解析)的应⽤识别⼀、概述1.DPI(Deep packet inspection,深度报⽂解析)所谓“深度”是和普通的报⽂分析层次相⽐較⽽⾔的,“普通报⽂检測”仅分析IP包4 层下⾯的内容,包含源地址、⽬的地址、源port、⽬的port以及协议类型。
⽽DPI 除了对前⾯的层次分析外,还添加了应⽤层分析,识别各种应⽤及其内容,主要实现⼀下功能:1)应⽤分析——⽹络流量构成分析、性能分析、流向分析等。
2)⽤户分析——⽤户群区分、⾏为分析、终端分析、趋势分析等;3)⽹元分析——依据区域属性(市、区、街道等)、基站负载情况进⾏分析等;4)流量管控——P2P限速、保证QoS、带宽保障、⽹络资源优化等。
5)安全保障——DDoS攻击、数据⼴播风暴、防范恶意病毒攻击等。
2.⽹络应⽤的⼤致分类如今的上的应⽤不计其数,但⼤众经常使⽤的⽹络应⽤能够进⾏穷举。
据我的了解应⽤识别做的最好的就是华为,号称能识别4000种应⽤。
协议分析是⾮常多防⽕墙公司(华为、⽹神、天融信、⽹康等)的基础模块。
也是⾮常重要的模块,⽀撑着其它的功能模块的实现,精准的应⽤识别。
⼤⼤提⾼产品的性能和可靠性。
像我如今在做的基于⽹络流量特征识别恶意软件的建模,精准的,⼤量的协议识别也是⾮常重要的⼀环。
公司出⼝的流量剔除掉经常使⽤应⽤的⽹络流量,剩下的流量占⽐会⾮常少,更好的进⾏恶意软件的分析,报警。
依据我的经验将现有经常使⽤的应⽤依据作⽤进⾏分类:ps:依据个⼈相应⽤的理解进⾏应⽤分类,⼤家有什么好的建议欢迎留⾔提议1、电⼦邮件类2、视频类3、游戏类4、办公OA类5、软件更新类6、⾦融类(银⾏、⽀付宝)7、股票类8、社交通讯类(IM软件)9、Web浏览(借助url可能会更好的识别)10、下载⼯具类(⽹盘、P2P下载、BT类相关)P2P下载是⾮常蛋疼的硬⾻头。
P2P下载相关:迅雷、Flashget-2.4/3.4、EasyMule-1.1.11、QQDownload、Vagaa-2.6.7.1、Baidu下吧-4.0.0.1BT类相关:BitComet/BitTorrent、gnutella、KAZAA、directconnect、ARES、SOUL、WINMX、APPLE、DC、MUTE、XDCC、WASTE3.传统的协议识别基于port的协议识别⽹络中多种应⽤层协议能够同⼀时候执⾏在同⼀台计算机的同⼀个 IP 地址上。
微处理机MICROPROCESSORS使用DPI技术研究校园网站的用户行为*徐江红,赵婉芳(北京电子科技职业学院,北京100016)摘要:针对如何通过吸引用户对校园网的资源进行访问,提高教学资源利用率问题,使用DPI技术对校园网用户行为作深度挖掘,通过对用户行为流量的实时采集,从中提取用户行为特征,并对这些行为特征进行归类、入库、分析,在此基础上研究网站优化策略,从而使校园网站的设计更具人性化、个性化,吸引用户对网站访问,使得网站上教学资源能够被有效地利用起来。
关键词:数据挖掘;DPI技术;用户行为DOI编码:10.3969/j.issn.1002-2279.2013.04.009中图分类号:TP393文献标识码:A文章编号:1002-2279(2013)04-0029-04User's Behavior Analysis and Digging on College WebsiteBased on DPIXU Jiang-hong,ZHAO Wan-fang(Beijing Vocational College of Electronic Science,Beijing100016,China)Abstract:How to obtain,analyze and dig the user's behavior on college website has become one of the critical requirements.This paper uses DPI technology to dig user's behavior on college website,ana-lyze their hobby,provide the strategy of modifying the design of website,and improve the satisfied level of users.Key words:Data digging;DPI technology;User behavior1前言随着信息技术和网络技术的飞速发展,各种各样网络学习平台的出现,使用户的学习越来越方便。
D P I技术(总16页) -CAL-FENGHAI.-(YICAI)-Company One1-CAL-本页仅作为文档封面,使用请直接删除1DPI技术介绍1.1DPI技术产生的背景近年来,网络新业务层出不穷,有对等网络(Peer-to-Peer,简称P2P)、VoIP、流媒体、Web TV、音视频聊天、互动在线游戏和虚拟现实等。
这些新业务的普及为运营商吸纳了大量的客户资源,同时也对网络的底层流量模型和上层应用模式产生了很大的冲击,带来带宽管理、内容计费、信息安全、舆论管控等一系列新的问题。
尤其是P2P、VoIP、流媒体等业务,当前P2P业务的流量已是相当巨大的,这打破了以往“高带宽、低负载”的IP网络QoS提供模式,在很大程度上加重了网络拥塞,降低了网络性能,劣化了网络服务质量,妨碍了正常的网络业务的开展和关键应用的普及。
同时,P2P的广泛使用也给网络的信息安全监测管理带来了极大的挑战。
由于P2P流量的带宽吞噬特性,简单的网络升级扩容是无法满足运营商数据流量增长需要的,加上网络设备缺乏有效的技术监管手段,不能实现对P2P/WEB TV等新兴业务的感知和识别,导致网络运营商对网络的运行情况无法有效管理。
传统的网络运维管理,往往通过设备网管实现对网元级的管理,后来发展至网络级管理,可以对上层的简单应用进行管控,而这些应用级管控技术大多采用简单网络管理协议SNMP或者基于端口的流量识别进行进行分析和管理。
因此,如何深度感知互联网/移动互联网业务,提供应用级管控手段,构建“可运营、可管理”的网络,成为运营商关注的焦点。
1.2DPI能够为运营商解决什么问题互联网及移动互联网面临大量“高消耗、低价值”的业务对带宽的吞噬压力,网络安全和服务质量问题亟待解决,主要面临如下问题:网络出口带宽增加了一倍,可没几天还有大量用户投诉上网慢,收邮件慢,流媒体缓冲时间长,为什么?不断升级换代交换机、路由器等核心网设备,投资不少可网络设备的性能总是无法跟上带宽的增长速度。
基于DPI数据的人群分析方法及实践作者:范家杰宫云平来源:《移动通信》2020年第10期【摘要】随着社会的发展,人们对公众场合安全问题越来越重视,对热点区域人流监控的需求日益旺盛。
传统的方法是通过摄像头、红外等设备进行监控[1],但是这种方法投入大,耗时耗力,不太适合大范围监控区域。
针对这一问题,提出一种基于DPI数据的实时人群分析方案,通过采集用户上网行为形成的海量DPI数据,对DPI数据进行实时解析,可以获得包括地理位置、访问网站、使用时长等信息,然后根据地理位置划分出不同区域,最后按区域进行分类汇总分析,并输出人群分布以及使用爱好等情况。
本方案已经成功应用于实际系统,取得良好效果。
【关键词】DPI;结构化流;人群分析doi:10.3969/j.issn.1006-1010.2020.10.011 中图分类号:TN91文献标志码:A 文章编号:1006-1010(2020)10-0061-05引用格式:范家杰,宫云平. 基于DPI数据的人群分析方法及实践[J]. 移动通信, 2020,44(10): 61-65.0 引言随着移动互联网的不断发展以及各类智能设备日益深入民众日常生活中,人类社会产生的数据量正在以指数级快速增长,人类已经正式迈入大数据时代[2]。
如今,运营商能够获得的用户数据越来越丰富,通过DPI(Deep Packet Inspector,深度分组检测)分析技术,能够较好地识别网络上的流量类别、应用层上的应用种类等[3]。
在这个“数据为王”的时代,如何充分利用这笔重要的战略资产已经成为重中之重的问题[4]。
另一方面,随着社会发展,针对热点区域的人群分析也越来越重要。
而传统的通过摄像头、红外等设备的监控方法,不仅需要投入巨大的硬件成本、人力成本,而且在显示器能看到的监控区域还很有限,可见传统方法针对大范围的监控力不从心。
运营商通过收集用户收集上报的DPI信息,可以获得手机用户的地理位置、上网时长等内容,因此可以通过DPI信息从另一方面感知热点区域人流聚集情况,达到人群分析的目的。
《基于参与式感知的个体移动特征识别研究》篇一一、引言随着移动设备的普及和无线通信技术的快速发展,人们日常生活中的移动行为数据已经成为一个巨大的信息库。
这些数据不仅包含了丰富的个体移动特征,还为研究城市交通、人口流动等宏观问题提供了宝贵的数据支持。
然而,如何有效地从这些海量的移动数据中提取出个体移动特征,已经成为了一个亟待解决的问题。
参与式感知技术的出现,为这一问题提供了新的解决思路。
二、参与式感知技术参与式感知技术是一种新型的感知计算模式,它通过利用大量的、分布式的移动设备,收集和分析用户的行为数据,以实现对环境的感知和理解。
在个体移动特征识别中,参与式感知技术可以有效地收集和分析个体的移动轨迹、速度、加速度等数据,为个体移动特征识别提供丰富的数据支持。
三、个体移动特征识别个体移动特征识别是指通过对个体的移动数据进行处理和分析,提取出个体的移动特征。
这些特征包括但不限于个体的移动轨迹、速度、加速度、停留时间等。
通过对这些特征的识别和分析,可以进一步了解个体的生活习惯、出行规律等信息。
在基于参与式感知的个体移动特征识别中,我们需要利用大量的移动设备收集个体的移动数据。
首先,通过移动设备上的传感器,如GPS、加速度计等,收集个体的移动轨迹和速度数据。
然后,利用数据处理和分析技术,如聚类分析、机器学习等,对收集到的数据进行处理和分析,提取出个体的移动特征。
四、研究方法本研究采用基于参与式感知的个体移动特征识别方法。
首先,我们设计了一个移动数据收集系统,利用大量的移动设备收集个体的移动数据。
然后,我们利用数据处理和分析技术,对收集到的数据进行处理和分析。
具体来说,我们采用了聚类分析的方法,将个体的移动轨迹进行聚类,从而提取出个体的移动特征。
同时,我们还利用机器学习的方法,对个体的移动特征进行分类和预测。
五、实验结果与分析通过实验,我们验证了基于参与式感知的个体移动特征识别方法的可行性和有效性。
首先,我们收集了一定数量的个体的移动数据,然后利用聚类分析和机器学习的方法,对数据进行处理和分析。