python代码分析nginx访问日志 本人网站使用内网穿透分析结结果IP都是内网地址。 统计结果 总访问量641805独立IP数14最活跃IP192.168.1.29访问492948次访问高峰时段16时59997次图表已保存至C:/Users/czliu/Downloads/nginx_analysis.png代码importreimportpandasaspdimportmatplotlib.pyplotaspltfromcollectionsimportCounterfromdatetimeimportdatetime# 配置项你的日志路径 LOG_PATHrC:\Users\czliu\Downloads\access.log# # 辅助函数清理字符串中的无效字符defclean_string(s):ifisinstance(s,str):# 移除非打印字符和二进制数据return.join(cforcinsifc.isprintable())returns# 1. Nginx日志正则表达式通用格式# 匹配格式IP - - [时间] 请求 状态码 大小 来源 UAlog_patternre.compile(r(\d\.\d\.\d\.\d)\s-\s-\s\[(.*?)\]\s(.*?)\s(\d)\s(\d|-))# 2. 解析日志parsed_data[]withopen(LOG_PATH,r,encodingutf-8,errorsignore)asf:forlineinf:# 清理日志行中的无效字符clean_lineclean_string(line)matchlog_pattern.match(clean_line.strip())ifmatch:ip,time_str,request,status,sizematch.groups()# 清理各个字段ipclean_string(ip)time_strclean_string(time_str)requestclean_string(request)statusclean_string(status)sizeclean_string(size)# 处理时间dtNonetry:# 日志时间格式03/Jan/2025:12:34:56 0800dtdatetime.strptime(time_str,%d/%b/%Y:%H:%M:%S %z)hourdt.hour# 按小时统计except:hour-1# 提取请求方法和URLreq_partsrequest.split()methodreq_parts[0]iflen(req_parts)0elseUNKNOWNurlreq_parts[1]iflen(req_parts)1else/# 再次清理方法和URLmethodclean_string(method)urlclean_string(url)parsed_data.append({ip:ip,time:dt,hour:hour,method:method,url:url,status:int(status),size:int(size)ifsize!-else0})# 转为DataFrame方便分析dfpd.DataFrame(parsed_data)print(f日志解析完成总访问量{len(df)}条)# 清理数据iflen(df)0:df[ip]df[ip].apply(clean_string)df[method]df[method].apply(clean_string)df[url]df[url].apply(clean_string)# 3. 分析核心数据# 3.1 访问量TOP10 IPip_top10Counter(df[ip]).most_common(10)# 3.2 按小时访问趋势hour_countsdf[df[hour]!-1][hour].value_counts().sort_index()# 3.3 HTTP状态码分布status_countsdf[status].value_counts()# 3.4 请求方法分布method_countsdf[method].value_counts()# 4. 绘制综合图表2x2子图iflen(df)0:plt.rcParams[font.sans-serif][SimHei]# 解决中文乱码plt.rcParams[axes.unicode_minus]Falseplt.rcParams[text.usetex]False# 禁用LaTeXplt.rcParams[text.parse_math]False# 禁用mathtext解析防止反斜杠被误解析fig,((ax1,ax2),(ax3,ax4))plt.subplots(2,2,figsize(16,10))fig.suptitle(Nginx访问日志分析报告,fontsize18,fontweightbold)# 子图1TOP10访问IPifip_top10:# 清理IP地址中的特殊字符并限制长度clean_ips[]forip,_inip_top10:clean_ipclean_string(ip)# 限制IP显示长度避免过长iflen(clean_ip)15:clean_ipclean_ip[:15]...clean_ips.append(clean_ip)ax1.barh(clean_ips,[cntfor_,cntinip_top10],color#1f77b4)ax1.set_title(TOP10 访问IP,fontsize14)ax1.set_xlabel(访问次数)else:ax1.set_title(TOP10 访问IP,fontsize14)ax1.text(0.5,0.5,无数据,hacenter,vacenter)# 子图2小时访问趋势ifnothour_counts.empty:ax2.plot(hour_counts.index,hour_counts.values,markero,color#ff7f0e,linewidth2)ax2.set_title(24小时访问趋势,fontsize14)ax2.set_xlabel(小时)ax2.set_ylabel(访问量)ax2.grid(alpha0.3)else:ax2.set_title(24小时访问趋势,fontsize14)ax2.text(0.5,0.5,无数据,hacenter,vacenter)# 子图3HTTP状态码分布ifnotstatus_counts.empty:colors[#2ca02c,#d62728,#9467bd,#8c564b]# 确保标签是字符串且干净labels[str(label)forlabelinstatus_counts.index]ax3.pie(status_counts.values,labelslabels,autopct%1.1f%%,colorscolors[:len(status_counts)])ax3.set_title(HTTP状态码分布,fontsize14)else:ax3.set_title(HTTP状态码分布,fontsize14)ax3.text(0.5,0.5,无数据,hacenter,vacenter)# 子图4请求方法分布ifnotmethod_counts.empty:# 清理请求方法中的特殊字符并过滤掉无效方法clean_methods[]clean_values[]formethod,cntinmethod_counts.items():clean_methodclean_string(method)# 只保留有效的HTTP方法ifclean_methodin[GET,POST,PUT,DELETE,HEAD,OPTIONS]orcnt10:clean_methods.append(clean_method)clean_values.append(cnt)ifclean_methods:ax4.bar(clean_methods,clean_values,color#e377c2)ax4.set_title(请求方法分布,fontsize14)ax4.set_ylabel(次数)else:ax4.set_title(请求方法分布,fontsize14)ax4.text(0.5,0.5,无数据,hacenter,vacenter)else:ax4.set_title(请求方法分布,fontsize14)ax4.text(0.5,0.5,无数据,hacenter,vacenter)plt.tight_layout()plt.savefig(rC:\Users\czliu\Downloads\nginx_analysis.png,dpi300,bbox_inchestight)plt.close()# 关闭图表避免在非交互式环境中出现问题# 5. 打印关键统计print(\n 统计结果 )print(f总访问量{len(df)})print(f独立IP数{df[ip].nunique()})ifip_top10:print(f最活跃IP{ip_top10[0][0]}访问{ip_top10[0][1]}次)else:print(最活跃IP无数据)ifnothour_counts.empty:print(f访问高峰时段{hour_counts.idxmax()}时{hour_counts.max()}次)else:print(访问高峰时段无数据)iflen(df)0:print(f图表已保存至C:/Users/czliu/Downloads/nginx_analysis.png)else:print(图表无数据未生成)

相关新闻

最新新闻

RAG系统多通道检索架构优化与性能提升实践

RAG系统多通道检索架构优化与性能提升实践

1. RAG系统性能瓶颈与多通道架构的必然性在构建检索增强生成(RAG)系统时,我们常常会遇到这样的困境:当知识库规模超过百万级文档时,传统单通道检索的响应延迟会呈指数级增长。去年我在开发金融问答系统时就深有体会——…

2026/7/23 5:54:07
【计算机专业】基于机器学习的决策树+XGBoost波士顿房地产价格预测

【计算机专业】基于机器学习的决策树+XGBoost波士顿房地产价格预测

房地产价格预测实战:决策树 vs XGBoost 全方位对比 目录 项目背景与目标数据集介绍与预处理 2.1 数据来源与字段2.2 数据清洗与异常值处理2.3 特征工程:从非结构化文本中提取信息2.4 目标变量变换与特征编码 决策树回归模型(Decision Tree&…

2026/7/23 5:54:07
探索ft.noxlite客户端工具的开发与应用

探索ft.noxlite客户端工具的开发与应用

1. 关于ft.noxlite客户端的初步探索最近在技术社区中发现了一个名为ft.noxlite的SW客户端工具,这个工具引起了不少开发者的讨论。从命名来看,"ft"可能代表"file transfer"(文件传输),而"noxl…

2026/7/23 5:54:07
华为OD机试200分题:简易内存池实现与多语言详解

华为OD机试200分题:简易内存池实现与多语言详解

1. 项目概述与核心价值最近在准备华为OD机试的朋友,或者是对内存管理、算法实现感兴趣的同学,应该都绕不开“简易内存池”这道经典题目。这道题在2025年的A卷里被标为200分,足以说明它的分量。它不仅仅是一道机试题,更是一个绝佳的…

2026/7/23 5:54:07
[导论01] 搭建OpenCode开发环境与命令行工具

[导论01] 搭建OpenCode开发环境与命令行工具

前言 你是不是还在为每个月花20美元订阅Cursor而心疼?或者每次用Claude Code都得小心翼翼地计算Token消耗?更别提那些被厂商绑定、想换个模型就得换整套工具的尴尬了。 大家好,欢迎来到《全网最新OpenCode入门到精通》专栏的第一篇文章。这…

2026/7/23 5:54:07
从COCI竞赛题POPLAVA解析算法思维:构造排列与山峰序列

从COCI竞赛题POPLAVA解析算法思维:构造排列与山峰序列

1. 项目概述:从一道COCI竞赛题看算法思维构建最近在带学生刷信奥(信息学奥林匹克)题目时,又翻出了这道经典的P6726 [COCI 2015/2016 #5] POPLAVA。这道题在当年的克罗地亚信息学竞赛中,以其巧妙的构造性思维和简洁的代…

2026/7/23 5:49:07

月新闻