搜集web日志的目的

Web日志发掘是指采取数据发掘技术，对站点用户访问Web服务器进程中产生的日志数据进行分析处理，从而发现Web用户的访问模式和兴趣爱好等，这些信息对站点建设潜伏有用的可理解的未知信息和知识，用于分析站点的被访问情况，辅助站点管理和决策支持等。

1、以改进web站点设计为目标，通过发掘用户聚类和用户的频繁访问路径，修改站点的页面之间的链接关系，以适利用户的访问习惯，并且同时为用户提供有针对性的电子商务活动和个性化的信息服务，利用信息推拉技术构建智能化Web站点。

2、以分析Web站点性能为目标，主要从统计学的角度，对日志数据项进行粗略的统计分析，得到用户频繁访问页、单位时间的访问数、访问数量随时间散布图等。现有的绝大多数的Web日志分析工具都属于此类。

3、以理解用户意图为目标，主要是通过与用户交互的进程搜集用户的信息，Web服务器根据这些信息对用户要求的页面进行裁剪，为用户返回定制的页面，其目的就是提高用户的满意度和提供个性化的服务。

搜集方式

网站分析数据主要有3种搜集方式：Web日志、JavaScript标记和包嗅探器。

1. Web日志

web日志处理流程：

从上图可以看出网站分析数据的搜集从网站访问者输入URL向网站服务器发出http要求就开始了。网站服务器接收到要求后会在自己的Log文件中追加1条记录，记录内容包括：远程主机名(或是IP地址)、登录名、登录全名、发要求的日期、发要求的时间、要求的详细(包括要求的方法、地址、协议)、要求返回的状态、要求文档的大小。随后网站服务器将页面返回到访问者的阅读器内得以展现。

2. JavaScript标记

JavaScript标记处理流程：

上图所示JavaScript标记同Web日志搜集数据1样，从网站访问者发出http要求开始。不同的是，JavaScript标记返回给访问者的网页代码中会包括1段特殊的JavaScript代码，当页面展现的同时这段代码也得以履行。这段代码会从访问者的Cookie中获得详细信息(访问时间、阅读器信息、工具厂商赋予当前访问者的userID等)并发送到工具商的数据搜集服务器。数据搜集服务器对搜集到的数据处理后存入数据库中。网站经营人员通过访问分析报表系统查看这些数据。

3. 包嗅探器

通过包嗅探器搜集分析的流程：

上图可以看出网站访问者发出的要求到达网站服务器之前，会先经过包嗅探器，然后包嗅探器才会将要求发送到网站服务器。包嗅探器搜集到的数据经过工具厂商的处理服务器后存入数据库。随后网站经营人员就能够通过分析报表系统看到这些数据。

web日志发掘进程

整体流程参考下图：

1、数据预处理阶段
    根据发掘的目的，对原始Web日志文件中的数据进行提取、分解、合并、最后转换为用户会话文件。该阶段是Web访问信息发掘最关键的阶段，数据预处理包括:关于用户访问信息的预处理、关于内容和结构的预处理。

2、会话辨认阶段
    该阶段本是属于数据预处理阶段中的1部份，这里将其划分成单独的1个阶段，是由于把用户会话文件划分成的1组组用户会话序列将直接用于发掘算法，它的精准度直接决定了发掘结果的好坏，是发掘进程中最重要的阶段。

3、模式发现阶段
    模式发现是应用各种方法和技术从Web同志数据中发掘和发现用户使用Web的各种潜伏的规律和模式。模式发现使用的算法和方法不单单来自数据发掘领域，还包括机器学习、统计学和模式辨认等其他专业领域。

模式发现的主要技术有：统计分析（statistical analysis）、关联规则（association rules）、聚类（clustering）、归类（classification）、序列模式（sequential patterns）、依赖关系（dependency）。

（1）统计分析（statistical analysis）：经常使用的统计技术有：贝叶斯定理、预测回归、对数回归、对数-线性回归等。可用来分析网页的访问频率，网页的访问时间、访问路径。可用于系统性能分析、发现安全漏洞、为网站修改、市场决策提供支持。

（2）关联规则（association rules）：关联规则是最基本的发掘技术，同时也是WUM最经常使用的方法。在WUM中常经常使用在被访问的网页中，这有益于优化网站组织、网站设计者、网站内容管理者和市场分析，通过市场分析可以知道哪些商品被频繁购买，哪些顾客是潜伏顾客。

（3）聚类（clustering）：聚类技术是在海量数据中寻觅彼此相似对象组，这些数据基于距离函数求出对象组之间的相似度。在WUM中可以把具有相似模式的用户分成组，可以用于电子商务中市场分片和为用户提供个性化服务。

（4）归类（classification）：归类技术主要用处是将用户资料归入某1特定类中，它与机器学习关系很紧密。可以用的技术有：决策树（decision tree）、K-最近邻居、Na?ve Bayesian classifiers、支持向量机（support vector machines）。

（5）序列模式（sequential patterns）：给定1个由不同序列组成的集合，其中，每一个序列由不同的元素按顺序有序排列，每一个元素由不同项目组成，同时给定1个用户指定的最小支持度阈值，序列模式发掘就是找出所有的频繁子序列，即子序列在序列集中的出现频率不低于用户指定的最小支持度阈值。

（6）依赖关系（dependency）：1个依赖关系存在于两个元素之间，如果1个元素A的值可以推出另外一个元素B的值，则B依赖于A。

4、模式分析阶段
    模式分析是Web使用发掘最后1步，主要目的是过滤模式发现阶段产生的规则和模式，去除那些无用的模式，并把发现的模式通过1定的方法直观的表现出来。由于Web使用发掘在大多数情况下属于无偏向学习，有可能发掘出所有的模式和规则，所以不能排除其中有些模式是常识性的，普通的或终究用户不感兴趣的，故必须采取模式分析的方法使得发掘出来的规则和知识具有可读性和终究可理解性。常见的模式分析方法有图形和可视化技术、数据库查询机制、数理统计和可用性分析等。

搜集数据包括

搜集的数据主要包括：

全局UUID、访问日期、访问时间、生成日志项的服务器的IP地址、客户端试图履行的操作、客户端访问的服务器资源、客户端尝试履行的查询、客户端连接到的端口号、访问服务器的已验证用户名称、发送服务器资源要求的客户端IP地址、客户端使用的操作系统、阅读器等信息、操作的状态码（200等）、子状态、用Windows@使用的术语表示的操作的状态、点击次数。

用户辨认

对网站的运营者来讲，如何能够高效精确的辨认用户非常关键，这会对网站运营带来极大的帮助，如定向推荐等。

用户辨认方法以下：

使用HDFS存储

数据搜集到服务器以后，根据数据量可以斟酌将数据存储在hadoop的HDFS中。

如果不熟习HDFS，可以参考：

http://www.niubua.com/?p=1107

在现在的企业中，1般情况下都是多台服务器生成日志，日志包括nginx生成的，也包括在程序中使用log4j生成的自定义格式的。

通常的架构以下图：

使用mapreduce分析nginx日志

nginx默许的日志格式以下：

222.68.172.190 - - [18/Sep/2013:06:49:57 +0000] "GET /images/my.jpg HTTP/1.1" 200 19939
 "http://www.angularjs.cn/A00n" "Mozilla/5.0 (Windows NT 6.1)
 AppleWebKit/537.36 (KHTML, like Gecko) Chrome/29.0.1547.66 Safari/537.36"

变量的解释以下：

• remote_addr: 记录客户真个ip地址, 222.68.172.190
• remote_user: 记录客户端用户名称,