运维管理—日志分析工具awstats
- 格式:pdf
- 大小:722.88 KB
- 文档页数:22
IIS⽇志分析⽅法及⼯具IIS⽇志建议使⽤W3C扩充⽇志⽂件格式,这也是IIS 5.0已上默认的格式,可以指定每天记录客户IP地址、⽤户名、服务器端⼝、⽅法、URI资源、URI查询、协议状态、⽤户代理,每天要审查⽇志。
如图1所⽰。
IIS 的WWW⽇志⽂件默认位置为 %systemroot%\system32\logfiles\w3svc1\,(例如:我的则是在C:\WINDOWS\system32\LogFiles\W3SVC1\),默认每天⼀个⽇志。
建议不要使⽤默认的⽬录,更换⼀个记录⽇志的路径,同时设置⽇志访问权限,只允许管理员和SYSTEM为完全控制的权限。
如图2所⽰。
如果发现IIS⽇志再也不记录了,解决办法:看看你有没有启⽤⽇志记录:你的⽹站--> 属性 -->“⽹站”-->“启⽤⽇志”是否勾选。
⽇志⽂件的名称格式是:ex+年份的末两位数字+⽉份+⽇期。
( 如2002年8⽉10⽇的WWW⽇志⽂件是ex020810.log )IIS的⽇志⽂件都是⽂本⽂件,可以使⽤任何编辑器或相关软件打开,例如记事本程序,AWStats⼯具。
开头四⾏都是⽇志的说明信息#Software ⽣成软件 #Version 版本 #Date ⽇志发⽣⽇期 #Fields 字段,显⽰记录信息的格式,可由IIS⾃定义。
⽇志的主体是⼀条⼀条的请求信息,请求信息的格式是由#Fields定义的,每个字段都有空格隔开。
字段解释data ⽇期 time 时间 cs-method 请求⽅法 cs-uri-stem 请求⽂件 cs-uri-query 请求参数 cs-username 客户端⽤户名 c-ip 客户端IP cs-version 客户端协议版本 cs(User-Agent) 客户端浏览器 cs(Referer) 引⽤页下⾯列举说明⽇志⽂件的部分内容(每个⽇志⽂件都有如下的头4⾏): #Software: Microsoft Internet Information Services 6.0 #Version: 1.0 #Date: 2007-09-21 02:38:17 #Fields: date time s-sitename s-ip cs-method cs-uri-stem cs-uri-query s-port cs-username c-ip cs(User-Agent) sc-status sc-substatus sc-win32-status2007-09-21 01:10:51 10.152.8.17 - 10.152.8.2 80 GET /seek/images/ip.gif - 200 Mozilla/5.0+(X11;+U;+Linux+2.4.2-2+i686;+en-US;+0.7) 上⾯各⾏分别清楚地记下了远程客户端的:连接时间 2007-09-21 01:10:51 IP地址 10.152.8.17 - 10.152.8.2 端⼝ 80 请求动作 GET /seek/images/ip.gif - 200 返回结果 - 200 (⽤数字表⽰,如页⾯不存在则以404返回)浏览器类型 Mozilla/5.0+ 系统等相关信息 X11;+U;+Linux+2.4.2-2+i686;+en-US;+0.7附:IIS的FTP⽇志IIS的FTP⽇志⽂件默认位置为%systemroot%\system32\logfiles\MSFTPSVC1\,对于绝⼤多数系统⽽⾔(如果安装系统时定义了系统存放⽬录则根据实际情况修改)则是C:\winnt\system32\logfiles\ MSFTPSVC1\,和IIS的WWW⽇志⼀样,也是默认每天⼀个⽇志。
渗透工具一、基于网站的渗透1、名称:Acunetix Web Vulnerability Scanner 6功能:网站漏洞扫描器。
平台:Windows2、名称:IBM Rational AppScan 7.8功能:网站漏洞扫描器。
平台:Windows3、名称:Jsky功能:网站漏洞扫描器。
平台:Windows4、名称:DTools功能:阿D的多功能入侵工具,带扫描、植马等。
平台:Windows5、名称:wepoff功能:网站漏洞扫描器。
平台:Linux / Unix6、名称:Domain3.6功能:网站旁注工具。
平台:Windows7、名称:casi功能:PHP+MYSQL注射工具。
平台:Windows8、名称:HP WebInspect 7.7功能:网站漏洞扫描器。
平台:Windows9、名称:php_bug_scanner功能:PHP程序漏洞扫描器。
平台:Windows10、名称:多线程网站后台扫描工具功能:扫描网站后台管理登陆地址。
平台:Windows11、名称:NStalker功能:网站爬虫。
平台:Windows12、名称:挖掘鸡 v6.5功能:挖掘搜索引擎关键字。
平台:Windows13、名称:cookie注入工具功能:cookies注入辅助工具。
平台:Windows14、名称:httpup功能:通用HTTP上传程序。
平台:Windows二、基于系统的渗透1、名称:nmap功能:系统端口扫描器。
平台:Windows2、名称:Nessus功能:系统漏洞扫描器。
平台:Windows3、名称:X-Scan功能:系统漏洞扫描器。
平台:Windows4、名称:SuperScan功能:系统端口扫描器。
平台:Windows5、名称:SSS功能:SSS扫描器。
平台:Windows6、名称:NetCat功能:瑞士军刀。
平台:Windows7、名称:Apache Tomcat Crack功能:Tomcat弱口令扫描器。
软件系统运维技术中常见工具及其使用方法介绍在现代企业中,软件系统的运维是一个至关重要的工作。
为了快速、高效地管理和维护软件系统,运维人员需要掌握一些常见的工具和使用方法。
本文将介绍几种常见的软件系统运维工具及其使用方法。
1. 监控工具监控工具是软件系统运维中必不可少的工具之一。
它们能够帮助我们实时监测系统的状态,及时发现并解决问题。
常见的监控工具有:(1) Nagios:Nagios 是一个开源的监控工具,可以监控服务器、网络、应用程序等。
它可以通过配置检查命令、事件处理器和通知器等来监控系统状态,并及时发送警报通知。
(2) Zabbix:Zabbix 是一个功能强大的监控工具,可以监控各种不同类型的设备和系统。
它支持通过Web 界面进行配置和管理,并提供丰富的监控报告和图表。
(3) Prometheus:Prometheus 是一个开源的监控工具,适用于大规模分布式系统。
它提供了灵活的查询语言和仪表盘,可以帮助运维人员更好地理解系统的性能和健康情况。
使用这些监控工具时,我们需要合理配置监控项、设定阈值,并及时处理警报通知。
通过实时监控软件系统的状态,我们可以提前发现潜在问题,并采取相应措施来避免系统故障。
2. 日志管理工具日志是软件系统运维中重要的信息来源,可以帮助我们了解系统的运行情况和问题原因。
为了更好地管理和分析日志,我们可以使用下面几种常见的日志管理工具:(1) ELK Stack:ELK Stack 是一个开源的日志管理工具,由 Elasticsearch、Logstash 和 Kibana 组成。
它可以帮助我们收集、存储、分析和可视化日志数据。
Elasticsearch 是一个强大的搜索和分析引擎,Logstash 是一个数据处理管道工具,而 Kibana 则提供了用户友好的图形界面。
(2) Graylog:Graylog 是一个集中化的日志管理平台,可以帮助我们收集、存储和分析日志数据。
软件系统运维技术中日志监控和分析的工具在软件系统的运维过程中,日志监控和分析是非常重要的环节。
通过监控和分析日志,可以及时发现系统异常、故障以及性能问题,并采取相应的措施解决这些问题,保证系统的稳定性和可靠性。
为了实现高效的日志监控和分析,运维团队需要借助一些专门的工具。
一、日志监控工具1. SplunkSplunk是一款非常流行的日志监控工具,可以帮助运维团队实时收集、索引和分析日志数据。
它具有强大的搜索和查询功能,可以快速定位系统中的问题。
Splunk还提供了可视化的仪表盘和报表,可以直观地展示系统的运行状态和性能指标。
此外,Splunk还支持与其他工具集成,如监控工具、警报系统等,提高整体的运维效率。
2. ELK StackELK是一个基于开源软件的日志监控和分析工具组合,包括Elasticsearch、Logstash和Kibana。
Elasticsearch是一个分布式搜索和分析引擎,可以快速查询和分析大规模的日志数据。
Logstash负责数据收集、过滤和转换,将日志数据发送到Elasticsearch进行存储和分析。
Kibana则提供了可视化的界面,可以轻松创建仪表盘和报表。
ELK Stack的组合适用于大规模的日志监控和分析场景。
3. GraylogGraylog是一个开源的日志管理平台,提供了日志收集、索引、检索和报警功能。
它支持多种数据源,如日志文件、网络流量等,并提供了强大的过滤、搜索和分析功能。
Graylog还支持可视化仪表盘和报表,可以直观地展示系统的运行状况和趋势。
另外,Graylog还具有灵活的报警机制,可以根据自定义的规则进行报警通知,及时发现和解决问题。
二、日志分析工具1. LogglyLoggly是一款云端日志分析工具,可以帮助运维团队对日志数据进行实时分析和查询。
它支持多种数据源,如应用日志、服务器日志等,并提供了强大的搜索和过滤功能。
Loggly还具有自动发现和报警功能,可以及时通知系统异常和故障。
AWStats,强大的日志分析工具AWStats,强大的日志分析工具,本文原址/bbs/thread-902-1-1.htmlAWStats 是一个免费的强大而有个性的工具,带来先进的网络,流量,FTP或邮件服务器统计图. 本日志分析器作为CGI或从命令行在数个图形网页中显示你日志中包含的所有可能信息. 它利用一部分档案资料就能经常很快地处理大量日志档案, 它能分析日志文件来自从各大服务器工具 ,如 Apache日志档案 s (NCSA combined/XLF/ELF log format or common/CLF log format), WebStar, IIS (W3C的日志格式)及许多其他网站,Proxy(代理服务器)、Wap、流量服务器、邮件服务器和一些 FTP服务器.首先安装LAMP环境,这里不做介绍,请参考这篇文章!1、APACHE的安装配置Apache是世界使用排名第一的Web服务器,市场占有率达60%左右。
它的特点是简单、速度快、性能稳定。
它的成功之处主要在于它的源代码开放、有一支开放的开发队伍、支持跨平台的应用(可以运行在几乎所有的Unix、Windows、Linux系统平台上)、模块化结构以及它的可移植性等方面。
# tar jxvf httpd-2.2.9.tar.bz2# cd httpd-2.2.9# ./configure --prefix=/usr/local/www --enable-so --enable-rewrite# make && make install# vi /usr/local/www/conf/httpd.conf找到DocumentRoot “/usr/local/apache/htdocs”修改为:DocumentRoot “/var/www”(后文中我们还会注释掉此行,以启用虚拟主机)找到<Directory “/usr/local/apache/htdocs”>修改为:<Directory “/var/www”>找到<Directory />Options FollowSymLinksAllowOverride NoneOrder deny,allowDeny from all //这句改为Allow from all</Directory># mkdir /var/www# /usr/local/www/bin/apachectl start添加到自启动# cp /usr/local/www/bin/apachectl /etc/rc.d/init.d/httpd然后vi /etc/rc.d/init.d/httpd 添加(#!/bin/sh下面)# chkconfig: 2345 10 90# description: Activates/Deactivates Apache Web Server最后,运行chkconfig把Apache添加到系统的启动服务组里面:# chkconfig --add httpd# chkconfig httpd on测试apache是否正常启动可以通过ps aux | grep httpd查看httpd进程是否存在,也可以通过netstat --an | grep 80查看。
服务器运维中常见的效率工具推荐在服务器运维工作中,高效率的工作工具是非常重要的。
通过合理选择和使用工具,可以提高工作效率,减少重复劳动,减少人为错误,提升工作质量。
下面将介绍一些在服务器运维中常见的效率工具,帮助运维人员更好地完成工作。
一、监控工具1. ZabbixZabbix是一款开源的网络监控工具,可以监控服务器的性能、网络状态、应用程序运行状态等。
通过Zabbix,运维人员可以实时监控服务器的运行情况,及时发现问题并进行处理,保障服务器的稳定运行。
2. NagiosNagios是另一款常用的监控工具,可以监控网络设备、服务器、应用程序等。
它支持自定义监控项和报警规则,可以根据实际需求进行配置,提供了丰富的插件和扩展功能,适用于各种复杂的监控场景。
二、自动化运维工具1. AnsibleAnsible是一款自动化运维工具,可以实现服务器配置管理、应用部署、任务自动化等功能。
通过Ansible,运维人员可以编写Playbook来定义任务流程,实现自动化执行,提高工作效率,减少人为错误。
2. PuppetPuppet是另一款常用的自动化运维工具,可以实现服务器配置管理、软件部署、状态监控等功能。
它采用Agent-Server模式,可以集中管理多台服务器,提供了丰富的资源类型和模块,适用于大规模的自动化运维场景。
三、日志分析工具1. ELK StackELK Stack是一套开源的日志分析工具,包括Elasticsearch、Logstash和Kibana三个组件。
通过ELK Stack,运维人员可以收集、存储、分析和可视化日志数据,快速定位问题,优化系统性能,提高故障排查效率。
2. SplunkSplunk是另一款常用的日志分析工具,可以实现日志收集、搜索、分析和报表等功能。
它支持多种数据源和数据格式,提供了强大的搜索和可视化功能,适用于复杂的日志分析场景。
四、容器管理工具1. DockerDocker是一款轻量级的容器管理工具,可以实现应用程序的打包、交付和运行。
AWStats的使用简介和配置一些改进说明日志统计系统在站点的用户行为分析中扮演了重要的角色,尤其是对于来自搜索引擎的关键词访问统计:是很有效的用户行为分析数据来源。
随着互联网多年的发展,WEB日志统计工具已经越来越成熟,功能也越来越丰富。
其中有很多是开放源代码的,AWStats就是其中非常优秀的一款。
AWStats: Advanced Web StatisticsAWStats是最近发展很快的一个基于Perl的WEB日志分析工具。
相对于另外一个非常优秀的开放源代码的日志分析工具Webalizer,AWStats的优势在于:界面友好:可以根据浏览器直接调用相应语言界面(有简体中文版)参考输出样例:/cgi-bin/awstats.pl基于Perl:并且很好的解决了跨平台问题,系统本身可以运行在GNU/Linux上或Windows上(安装了ActivePerl后);分析的日志直接支持Apache格式(combined)和IIS格式(需要修改)。
Webalizer 虽然也有Windows平台版,但目前已经缺乏维护;AWStats完全可以实现用一套系统完成对自身站点不同服务器:GNU/Linux/Apache和Windows/IIS服务器的统一统计。
效率比较高:AWStats输出统计项目比Webalizer丰富了很多,速度仍可以达到Webalizer的1/3左右,对于一个日访问量百万级的站点,这个速度都是足够的;配置/定制方便:系统提供了足够灵活但缺省也很合理的配置规则,需要修改的缺省配置不超过3,4项就可以开始运行,而且修改和扩展的插件还是比较多的;AWStats的设计者是面向精确的"Human visits"设计的,因此很多搜索引擎的机器人访问都被过滤掉了,因此有可能比其他日志统计工具统计的数字要低,来自公司内部的访问也可以通过IP过滤设置过滤掉。
提供了很多扩展的参数统计功能:使用ExtraXXXX系列配置生成针对具体应用的参数分析会对产品分析非常有用。
AWStats is a free powerful and featureful server logfile analyzer that shows you all your Web/Mail/FTP statistics including visits,unique visitors,pages,hits,rush hours, os,browsers,search engines,keywords,robots visits,broken links and more Drag screenshots to sort.AWStats软件是一个免费的强大的服务器的日志文件分析工具,显示你所有的网页/邮件/ FTP统计包括访问,访问者,页面,点击,高峰时间,操作系统,浏览器,搜索引擎,关键字,机器人访问,断开的链接和更多的阻力截图排序。
三、awstats特点Awstats是在SourceForge上发展很快的一个基于Perl的WEB日志分析工具,一个充分的日志分析让Awstats显示您下列资料:访问次数、独特访客人数,∙访问时间和上次访问,∙使用者认证、最近认证的访问,∙每周的高峰时间(页数,点击率,每小时和一周的千字节),∙域名/国家的主机访客(页数,点击率,字节,269域名/国家检测,geoip检测),∙主机名单,最近访问和未解析的IP地址名单∙大多数看过的进出页面,∙档案类型,∙网站压缩统计表(mod_gzip或者mod_deflate),∙使用的操作系统(每个操作系统的页数,点击率,字节,35OS detected),∙使用的浏览器,∙机器人访问(检测319个机器人),∙蠕虫攻击(5个蠕虫家族),∙搜索引擎,利用关键词检索找到你的地址,∙HTTP协议错误(最近查阅没有找到的页面),∙其他基于URL的个性报导,链接参数,涉及综合行销领域目的.∙贵网站被加入"最喜爱的书签".次数.∙屏幕大小(需要在索引页补充一些HTML标签).∙浏览器的支持比例:Java,Flash,RealG2reader,Quicktime reader,WMA reader, PDF reader.∙负载平衡服务器比率集群报告.Awstats的运行是需要PERL环境的支持,从awstats的文档来看,它对Apache HTTP Server的支持是非常完美的,而当我们把Web服务器换成Nginx后,要运行awstats变得很麻烦。
首先Nginx本身对Perl的支持是比较弱的,甚至官方也不建议使用;另外在日志格式上有需要修改后才能运行。
四、awstats运行原理(1).工作原理AWStats的功能很多,我在此主要用它来分析apache服务器的日志。
安装使用之前还是说说大致的工作原理,AWStats提供一系列的perl脚本实现:服务配置,日志读取,报表生成等功能。
而功能实现的具体执行过程是:首先,当然是apache将访问情况记录到日志中,AWStats每次执行更新时读取这些日志,分析日志数据,将结果存储到数据库中,(这个数据库是AWStats自带的(就是一文本文件),并不需要第三方软件支持。
),最后AWStats 提供一个cgi程序通过web页面来显示数据库中所统计的数据。
(2).工作模式AWStats的工作模式是这样的:分析日志:运行后将这样的日志统计结果归档到一个AWStats的数据库(纯文本)里;输出日志:分两种形式∙一种是通过cgi程序读取统计结果数据库输出(Linux中);∙一种是运行后台脚本将输出导出成静态文件(Windows中);五、awstats安装与配置详解1.环境准备(1).安装yum源[root@node6src]#wget1/fedora/epel/6/i386/epel-release-6-8.noarch.rp2345m[root@node6src]#rpm -ivh epel-release-6-8.noarch.rpmwarning:epel-release-6-8.noarch.rpm:Header V3RSA/SHA256Signature,key ID 0608b895:NOKEY Preparing...###########################################[100%]1:epel-release ###########################################[100%](2).安装cronolog 日志切割工具1234567[root@node6src]#wget/download/cronolog-1.6.2.tar.gz [root@node6src]#tar xf cronolog-1.6.2.tar.gz [root@node6src]#cd cronolog-1.6.2[root@node6cronolog-1.6.2]#./configure[root@node6cronolog-1.6.2]#make &&make install [root@localhost ~]#which cronolog /usr/local/sbin/cronolog2.时间同步123[root@node6src]#yum install -y ntp [root@node6src]#ntpdate 202.120.2.10128Dec 17:59:17ntpdate[1413]:step time server 202.120.2.101offset-25666.776448sec3.安装awstats (1).yum 直接安装1[root@node6~]#yum install -y awstats(2).源码包安装首先,我们要下载awstats 软件包,并将其放在常规目录(/usr/local)下。
12[root@node6src]#wget/project/awstats/AWStats/7.2/awstats-7.2.tar.gz3456[root@node6src]#tar xf awstats-7.2.tar.gz [root@node6src]#mv awstats-7.2/usr/local/awstats [root@node6src]#cd /usr/local/awstats [root@node6awstats]#lsdocs README.TXTtoolswwwroot注,由于wget 下载下来的包中权限是非root 的,所以这里要修改权限,否则稍后*.pl 将无法运行。
1234567891011121314151617[root@node6awstats]#chown -R root.root /usr/local/awstats [root@node6awstats]#ll 总用量20drwx------.4root root 40967月1004:01docs -rw-------.1root root 67907月1003:50README.TXT drwx------.5root root 40967月1004:01tools drwx------.7root root 40967月1004:01wwwroot[root@node6awstats]#chmod +x /usr/local/awstats/tools/*.pl [root@node6awstats]#cd tools/[root@node6tools]#lsawstats_buildstaticpages.pl awstats_exportlib.pl geoip_generator.pl logresolvemerge.plnginxwebminawstats_configure.pl awstats_updateall.pl httpd_confmaillogconvert.pl urlaliasbuilder.pl xslt[root@node6tools]#chmod +x/usr/local/awstats/wwwroot/cgi-bin/*.pl [root@node6tools]#cd ..[root@node6awstats]#cd wwwroot/cgi-bin/[root@node6cgi-bin]#lsawdownloadcsv.pl awredir.pl awstats.model.confawstats.pllang lib plugins(3).接下来,我们要执行/usr/local/awstats/tools 下的awstats_configure.pl 配置向导,用来生成awstats 的配置文件,awstats 配置文件的命名规则是awstats.website.conf。
123456789101112131415161718192021222324252627[root@node6~]#cd /usr/local/awstats/tools/[root@node6tools]#./awstats_configure.pl 此时会出现如下提示,-----AWStats awstats_configure 1.0(build 1.9)(c)Laurent Destailleur -----This tool will help you to configure AWStats to analyze statistics forone web server.You can try to use it to let itdo all that ispossiblein AWStats setup,however following the step by step manual setupdocumentation (docs/index.html)is often a better idea.Above all if:-You are not an administrator user,-You want to analyze downloaded log files without web server,-You want to analyze mail or ftp log files instead of web logfiles,-You need to analyze load balanced servers log files,-You want to'understand'all possible ways to use AWStats...Read the AWStats documentation (docs/index.html).----->Running OS detected:Linux,BSD or Unix----->Checkfor web server installEnter full config file path of your Web server.Example:/etc/httpd/httpd.confExample:/usr/local/apache2/conf/httpd.confExample:c:\Program files\apache group\apache\conf\httpd.conf Configfile path ('none'to skip web server setup):>/usr/local/apache2/conf/httpd.conf #这里让你输入apache 配置文件的目录,我这里的apache 是源码安装的,所以我的路径是/usr/local/apache2/conf/httpd.conf282930313233343536373839404142434445464748495051525354555657Your web server config file(s)could not be found.Youwill need to setup your web server manually todeclare AWStatsscript as a CGI,if you want to build reports dynamically.SeeAWStats setup documentation (file docs/index.html)----->Update modelconfig file '/usr/local/awstats/wwwroot/cgi-bin/awstats.model.conf 'File awstats.model.conf updated.----->Need to create a new configfile ?Do you want me to build a new AWStats config/profilefile (required if first install)[y/N]?y #询问是否创建一个新的配置文件,这里填y 即可。