基于大数据技术的网络日志分析系统研究 |
| |
作者单位: | ;1.南京大学金陵学院;2.大连交通大学软件学院;3.东南大学成贤学院 |
| |
摘 要: | 传统的日志分析技术在处理海量数据时存在计算瓶颈。针对该问题,研究了基于大数据技术的日志分析方案,即由多台计算机完成日志文件的存储、分析和挖掘工作;建立了一个分层的网络日志分析系统:Syslog完成日志采集,Hadoop负责分布式存储和并行计算,在MapReduce框架下重新实现了IP统计算法。实验结果表明,在数据密集型计算中使用大数据技术可以明显提高算法的执行效率和系统的可扩展性。
|
关 键 词: | 大数据 日志采集 MapReduce 日志分析 IP统计 |
Research on network log analysis system based on big data technology |
| |
Abstract: | |
| |
Keywords: | |
|
|