首页 > 系统相关 >nginx服务器,从access_log里面提取需要的数据

nginx服务器,从access_log里面提取需要的数据

时间:2023-09-26 10:25:35浏览次数:40  
标签:-% hours log access nginx Baiduspider date

#!/bin/bash
#author:xxx

start_time=`date +'%d/%b/%Y:%H:00:00' -d '-1 hours'`
end_time=`date +'%d/%b/%Y:%H:59:59' -d '-1 hours'`
#echo $start_time
#echo $end_time

#每小时运行一次
#cat /data/log/nginx/xxx.com | grep 'Baiduspider' | awk '$1 >= "08/Jun/2021:15:00:00" && $1 <= "08/Jun/2021:15:59:59"' >> /data/log/nginx/Baiduspider/xxx.1-` date +%Y-%m-%d-%H -d '- 1 hours'`

#cat /data/log/nginx/xxx.com | grep 'Baiduspider' | awk '$1 >= "$start_time" && $1 <= "$end_time"' >> /data/log/nginx/Baiduspider/xxx.2-` date +%Y-%m-%d-%H -d '- 1 hours'`


awk '{if ($1>=stime && $1<=etime && $14~"Baiduspider") print $0}' stime=$start_time etime=$end_time /data/log/nginx/xxx.com >> /data/log/nginx/Baiduspider/xxx.com-` date +%Y-%m-%d-%H -d '- 1 hours'`

awk '{if ($1>=stime && $1<=etime && $14~"Baiduspider") print $0}' stime=$start_time etime=$end_time /data/log/nginx/xxx.com >> /data/log/nginx/Baiduspider/xxx.com-` date +%Y-%m-%d-%H -d '- 1 hours'`

 

标签:-%,hours,log,access,nginx,Baiduspider,date
From: https://www.cnblogs.com/firstlady/p/17729507.html

相关文章

  • R语言用普通最小二乘OLS,广义相加模型GAM ,样条函数进行逻辑回归LOGISTIC分类|附代码数
    原文链接:http://tecdat.cn/?p=21379 原文出处:拓端数据部落公众号 最近我们被客户要求撰写关于回归的研究报告,包括一些图形和统计输出。本文我们对逻辑回归和样条曲线进行介绍。logistic回归基于以下假设:给定协变量x,Y具有伯努利分布,  目的是估计参数β。回想一下,针对该......
  • MySQL远程登录提示Access denied的场景
    厂商给的某个MySQL库,通过客户端远程登录,提示这个错误,Accessdeniedforuser'用户名'@'IP'(usingpassword:YES)确认输入的账号密码都是正确的,出现这个错误说明端口是通的。此时可以检索mysql.user,如果待登录账号的记录host字段是localhost,说明仅允许本地登录,禁止远程登录,[mysql......
  • 启动weblogic报ORA-28001解决方式
    Weblogic一个月不用,启动报如下错误(采用oracle数据库):注:数据源配置:datasource.name.1=WM6_DS<jta-data-source>jdbc/WM6_DS</jta-data-source><Sep25,20232:56:12PMCST><Notice><WebLogicServer><WL-000365><ServerstatechangedtoSTANDBY......
  • 查看不同微服务的 log.info
    点击不同的微服务,查看对应的log.info......
  • ACCESS 曲线救国,设置控件焦点
    setFocusdocmd.gotocontrol都没用?教你一招,百试不爽,我管它叫焦点转移我们先用setFocus方法设置它的焦点,然后运行程序,并让它触发setFocus方法所在的事件,然后观察程序中,此时是哪个控件获取了焦点,如下图,我在文本框的按下事件中触发了setFocusPrivateSubText1_KeyDown(......
  • nginx: The plain HTTP request was sent to HTTPS port
    问题描述TheplainHTTPrequestwassenttoHTTPSport当访问用http时则报错。用https时不报错。检查配置:server{listen80ssl;server_namehngj.zxynyxxx.cn;ssl_certificate/usr/local/nginx/cert/hngj.zxynyxxx.cn.pem;ssl_certificate_key/usr......
  • Nginx惊群现象的两种解决办法
    惊群现象:惊群现象是指由多个worker进程监听同一个Socket事件时,当事件发生时,相关的所有进程被惊醒,但最终只能有一个进程对该事件进行处理,其他进程会重新休眠,从而导致系统资源的浪费和系统性能的下降。惊群包含accept惊群和epoll惊群。惊群的本质:睡眠和唤醒问题,属于典型的观察者模......
  • OGG MA - Not Able To Log InAdmin server ERROR: User name 'oggadmin' or password
    ogg的密码文件可能会损坏需要修复就新建一个新的ogg微服务并且把密码文件考到问问题的地方进行覆盖,我觉得这个是一个bugTherecommendationistoCreateadummyMAinstallationonthesameserverordifferenttestserver.Thencopythewallet[cwallet.sso]fromthis......
  • nginx+keepalived 配置高可用
     1.安装keepalived官网下载最新版本进行安装下载:https://keepalived.org解压:tar-xzvfkeepalived-2.2.8.tar.gz进入目录运行./configure--prefix=/usr/local/keepalived--sysconf=/etc如果运行有报错,请根据提示安装对应的组件make&&makeinstall 安装完成后加入......
  • nginx默认配置
    usernginx;worker_processesauto;error_log/var/log/nginx/error.log;pid/run/nginx.pid;include/usr/share/nginx/modules/*.conf;events{ worker_connections1024;}http{ log_formatmain '$remote_addr-$remote_user[$time_local]"$re......