简介
logrotate 程序是一个日志文件管理工具。用于分割日志文件,删除旧的日志文件,并创建新的日志文件,起到“转储”作用。可以节省磁盘空间。下面就对 logrotate 日志轮转操作做一梳理记录。
logrotate 是基于 crontab 运行的,所以这个时间点是由 crontab 控制的,具体可以查询 crontab 的配置文件 /etc/anacrontab。 系统会按照计划的频率运行 logrotate,通常是每天。在大多数的 Linux 发行版本上,计划每天运行的脚本位于 /etc/cron.daily/logrotate。
主流 Linux 发行版上都默认安装有 logrotate 包,如果你的 linux 系统中找不到 logrotate, 可以使用 apt-get 或 yum 命令来安装。
logrotate运行机制
logrotate 在很多 Linux 发行版上都是默认安装的。系统会定时运行 logrotate,一般是每天一次。系统是这么实现按天执行的。crontab 会每天定时执行 /etc/cron.daily 目录下的脚本,而这个目录下有个文件叫 logrotate。在 centos 上脚本内容是这样的:
系统自带 cron task:/etc/cron.daily/logrotate
,每天运行一次。
|
|
可以看到这个脚本主要做的事就是以 /etc/logrotate.conf
为配置文件执行了 logrotate。就是这样实现了每天执行一次 logrotate。
自定义周期滚动日志
因为我的系统执行 /etc/cron.daily
目录下的脚本不是我想滚动日志的时间,所以我把 /etc/cron.daily/logrotate
拷了出来,改了一下 logrotate 配置文件的路径,然后在 crontab 里加上一条指定时间执行这个脚本的记录,自定义周期滚动日志就大功告成了。这种自定义的方式有两点要注意:
- 配置文件里一定要配置
rotate 文件数目
这个参数。如果不配置默认是 0 个,也就是只允许存在一份日志,刚切分出来的日志会马上被删除。 - 执行 logrotate 命令最好加
-f
参数,不然有时候配置文件修改的内容不生效。
很多程序的会用到 logrotate 滚动日志,比如 nginx。它们安装后,会在 /etc/logrotate.d
这个目录下增加自己的 logrotate 的配置文件。logrotate 什么时候执行 /etc/logrotate.d
下的配置呢?看到 /etc/logrotate.conf
里这行,一切就不言而喻了。
|
|
安装
先检查服务器有没有安装
|
|
安装
|
|
简单说明: vixie-cron 是 cron 的主程序; crontabs 是用来安装、卸装、或列举用来驱动 cron 守护进程的表格的程序。
安装好后启动和配置服务
|
|
设置开机自启
|
|
简单定时脚本
[root@localhost ~]# vim test.sh
nowtime=`date +"%Y-%m-%d %H:%M:%S"`
echo "hello cron "$nowtime
添加执行权限 [root@localhost~]# chmod +x test.sh 运行: [root@localhost ~]# ./test.sh hello cron 2022-01-09 19:54:30
添加定时任务。每一分钟执行一次
运行crontab -e
|
|
配置文件介绍
Linux系统默认安装logrotate工具,它默认的配置文件在:
/etc/logrotate.conf
/etc/logrotate.d/
logrotate.conf 才是主要的配置文件,logrotate.d 是一个目录,该目录里的所有文件都会被主动的读入/etc/logrotate.conf中执行。另外,如果 /etc/logrotate.d/ 里面的文件中没有设定一些细节,则会以/etc/logrotate.conf这个文件的设定来作为默认值。
Logrotate是基于CRON来运行的,其脚本是/etc/cron.daily/logrotate,日志轮转是系统自动完成的。实际运行时,Logrotate会调用配置文件/etc/logrotate.conf。可以在/etc/logrotate.d目录里放置自定义好的配置文件,用来覆盖Logrotate的缺省值。
[root@localhost ~]# cat /etc/cron.daily/logrotate
|
|
如果等不及cron自动执行日志轮转,想手动强制切割日志,需要加-f参数;不过正式执行前最好通过Debug选项来验证一下(-d参数),这对调试也很重要:
/usr/sbin/logrotate -f /etc/logrotate.d/nginx
/usr/sbin/logrotate -d -f /etc/logrotate.d/nginx
logrotate 命令格式:
logrotate [OPTION...] <configfile>
-d, --debug :debug模式,测试配置文件是否有错误。
-f, --force :强制转储文件。
-m, --mail=command :压缩日志后,发送日志到指定邮箱。
-s, --state=statefile :使用指定的状态文件。
-v, --verbose :显示转储过程。
根据日志切割设置进行操作,并显示详细信息:
|
|
根据日志切割设置进行执行,并显示详细信息,但是不进行具体操作,debug模式
[root@localhost ~]# /usr/sbin/logrotate -d /etc/logrotate.conf
[root@localhost ~]# /usr/sbin/logrotate -d /etc/logrotate.d/nginx
查看各log文件的具体执行情况
[root@localhost ~]# cat /var/lib/logrotate.status
切割介绍
比如以系统日志/var/log/message做切割来简单说明下:
- 第一次执行完rotate(轮转)之后,原本的messages会变成messages.1,而且会制造一个空的messages给系统来储存日志;
- 第二次执行之后,messages.1会变成messages.2,而messages会变成messages.1,又造成一个空的messages来储存日志!
如果仅设定保留三个日志(即轮转3次)的话,那么执行第三次时,则 messages.3这个档案就会被删除,并由后面的较新的保存日志所取代!也就是会保存最新的几个日志。
日志究竟轮换几次,这个是根据配置文件中的dateext 参数来判定的。
logrotate.conf配置
cat /etc/logrotate.conf
底下的设定是 “logrotate 的默认值” ,如果別的文件设定了其他的值,就会以其它文件的设定为主
|
|
这个 wtmp 可记录用户登录系统及系统重启的时间.因为有 minsize 的参数,因此不见得每个月一定会执行一次,要看文件大小。
由这个文件的设定可以知道/etc/logrotate.d其实就是由/etc/logrotate.conf 所规划出来的目录,虽然可以将所有的配置都写入 /etc/logrotate.conf ,但是这样一来这个文件就实在是太复杂了,尤其是当使用很多的服务在系统上面时, 每个服务都要去修改 /etc/logrotate.conf 的设定也似乎不太合理了。
所以,如果独立出来一个目录,那么每个要切割日志的服务, 就可以独自成为一个文件,并且放置到 /etc/logrotate.d/ 当中。
其他重要参数说明:
参数 | 说明 |
---|---|
compress | 通过gzip 压缩转储以后的日志 |
nocompress | 不做gzip压缩处理 |
copytruncate | 用于还在打开中的日志文件,把当前日志备份并截断;是先拷贝再清空的方式,拷贝和清空之间有一个时间差,可能会丢失部分日志数据。 |
nocopytruncate | 备份日志文件不过不截断 |
create mode owner group | 轮转时指定创建新文件的属性,如create 0777 nobody nobody |
nocreate | 不建立新的日志文件 |
delaycompress | 和compress 一起使用时,转储的日志文件到下一次转储时才压缩 |
nodelaycompress | 覆盖 delaycompress 选项,转储同时压缩。 |
missingok | 如果日志丢失,不报错继续滚动下一个日志 |
errors address | 转储时的错误信息发送到指定的Email 地址 |
ifempty | 即使日志文件为空文件也做轮转,这个是logrotate的缺省选项。 |
notifempty | 当日志文件为空时,不进行轮转 |
mail address | 把转储的日志文件发送到指定的E-mail 地址 |
nomail | 转储时不发送日志文件 |
olddir directory | 转储后的日志文件放入指定的目录,必须和当前日志文件在同一个文件系统 |
noolddir | 转储后的日志文件和当前日志文件放在同一个目录下 |
sharedscripts | 运行postrotate脚本,作用是在所有日志都轮转后统一执行一次脚本。如果没有配置这个,那么每个日志轮转后都会执行一次脚本 |
prerotate | 在logrotate转储之前需要执行的指令,例如修改文件的属性等动作;必须独立成行 |
postrotate | 在logrotate转储之后需要执行的指令,例如重新启动 (kill -HUP) 某个服务!必须独立成行 |
daily | 指定转储周期为每天 |
weekly | 指定转储周期为每周 |
monthly | 指定转储周期为每月 |
rotate count | 指定日志文件删除之前转储的次数,0 指没有备份,5 指保留5 个备份 |
dateext | 使用当期日期作为命名格式 |
dateformat .%s | 配合dateext使用,紧跟在下一行出现,定义文件切割后的文件名,必须配合dateext使用,只支持 %Y %m %d %s 这四个参数 |
size(或minsize) log-size | 当日志文件到达指定的大小时才转储,log-size能指定bytes(缺省)及KB (sizek)或MB(sizem). |
当日志文件 >= log-size 的时候就转储。 以下为合法格式:(其他格式的单位大小写没有试过) size = 5 或 size 5 (>= 5 个字节就转储) size = 100k 或 size 100k size = 100M 或 size 100M |
切割nginx日志的配置
[root@localhost ~]# vim /etc/logrotate.d/nginx
|
|
关于 USR1 信号解释
USR1 通常被用来告知应用程序重载配置文件;例如,向 Apache HTTP 服务器发送一个 USR1 信号将导致以下步骤的发生:停止接受新的连接,等待当前连接停止,重新载入配置文件,重新打开日志文件,重启服务器,从而实现相对平滑的不关机的更改。
对于 USR1 和 2 都可以用户自定义的,在 POSIX 兼容的平台上,SIGUSR1 和 SIGUSR2 是发送给一个进程的信号,它表示了用户定义的情况。它们的符号常量在头文件 signal.h 中定义。在不同的平台上,信号的编号可能发生变化,因此需要使用符号名称。
|
|
其中 pid 是进程标识,pName 是进程的名称。
如果想要更改配置而不需停止并重新启动服务,可以使用上面两个命令。在对配置文件作必要的更改后,发出该命令以动态更新服务配置。根据约定,当你发送一个挂起信号 (信号 1 或 HUP) 时,大多数服务器进程 (所有常用的进程) 都会进行复位操作并重新加载它们的配置文件。
分享一例曾经使用过的nginx日志切割处理脚本:
logrotate日志分割配置
[root@localhost ~# vim /etc/logrotate.d/nginx
|
|
日志分割脚本
[root@localhost ~# vim /usr/local/sbin/logrotate-nginx.sh
|
|
crontab定时执行
[root@localhost ~# crontab -e
|
|
手动执行脚本,测试下看看:
[root@localhost ~# /bin/bash -x /usr/local/sbin/logrotate-nginx.sh
[root@localhost ~# cd /data/nginx_logs/days
[root@localhost days# ls
huantest.access_log-2017-01-18.bz2
php脚本切割
[root@localhost ~]# cat /etc/logrotate.d/php
|
|
结果
[root@localhost ~]# ll /Data/app/php5.6.26/var/run/php-fpm.pid
-rw-r--r-- 1 root root 4 Dec 28 17:03 /Data/app/php5.6.26/var/run/php-fpm.pid
[root@localhost ~]# cd /Data/logs/php
[root@localhost php]# ll
total 25676
-rw-r--r-- 1 root root 0 Jun 1 2016 error.log
-rw-r--r-- 1 nobody nobody 182 Aug 30 2015 error.log-20150830.gz
-rw-r--r-- 1 nobody nobody 371 Sep 1 2015 error.log-20150901.gz
-rw-r--r-- 1 nobody nobody 315 Sep 7 2015 error.log-20150907.gz
nginx日志切割一例
[root@localhost ~]# cat /etc/logrotate.d/nginx
|
|
结果
[root@localhost ~]# ll /Data/logs/nginx/www.huanqiu.com/
..........
-rw-r--r-- 1 root root 1652 Jan 1 00:00 error.log-20170101.gz
-rw-r--r-- 1 root root 1289 Jan 2 00:00 error.log-20170102.gz
-rw-r--r-- 1 root root 1633 Jan 3 00:00 error.log-20170103.gz
-rw-r--r-- 1 root root 3239 Jan 4 00:00 error.log-20170104.gz
系统日志切割一例
[root@localhost ~]# cat /etc/logrotate.d/syslog
/var/log/cron
/var/log/maillog
/var/log/messages
/var/log/secure
/var/log/spooler
{
sharedscripts
postrotate
/bin/kill -HUP `cat /var/run/syslogd.pid 2> /dev/null` 2> /dev/null || true
endscript
}
结果
[root@localhost ~]# ll /var/log/messages*
-rw------- 1 root root 34248975 Jan 19 18:42 /var/log/messages
-rw------- 1 root root 51772994 Dec 25 03:11 /var/log/messages-20161225
-rw------- 1 root root 51800210 Jan 1 03:05 /var/log/messages-20170101
-rw------- 1 root root 51981366 Jan 8 03:36 /var/log/messages-20170108
-rw------- 1 root root 51843025 Jan 15 03:40 /var/log/messages-20170115
[root@localhost ~]# ll /var/log/cron*
-rw------- 1 root root 2155681 Jan 19 18:43 /var/log/cron
-rw------- 1 root root 2932618 Dec 25 03:11 /var/log/cron-20161225
-rw------- 1 root root 2939305 Jan 1 03:06 /var/log/cron-20170101
-rw------- 1 root root 2951820 Jan 8 03:37 /var/log/cron-20170108
-rw------- 1 root root 3203992 Jan 15 03:41 /var/log/cron-20170115
[root@localhost ~]# ll /var/log/secure*
-rw------- 1 root root 275343 Jan 19 18:36 /var/log/secure
-rw------- 1 root root 2111936 Dec 25 03:06 /var/log/secure-20161225
-rw------- 1 root root 2772744 Jan 1 02:57 /var/log/secure-20170101
-rw------- 1 root root 1115543 Jan 8 03:26 /var/log/secure-20170108
-rw------- 1 root root 731599 Jan 15 03:40 /var/log/secure-20170115
[root@localhost ~]# ll /var/log/spooler*
-rw------- 1 root root 0 Jan 15 03:41 /var/log/spooler
-rw------- 1 root root 0 Dec 18 03:21 /var/log/spooler-20161225
-rw------- 1 root root 0 Dec 25 03:11 /var/log/spooler-20170101
-rw------- 1 root root 0 Jan 1 03:06 /var/log/spooler-20170108
-rw------- 1 root root 0 Jan 8 03:37 /var/log/spooler-20170115
tomcat日志切割一例
[root@localhost ~]# cat /etc/logrotate.d/tomcat
|
|
结果
[root@localhost ~]# ll /Data/app/tomcat-7-huanqiu/logs/catalina.*
-rw-r--r--. 1 root root 0 Jan 19 19:11 /Data/app/tomcat-7-huanqiu/logs/catalina.out
-rw-r--r--. 1 root root 95668 Jan 19 19:11 /Data/app/tomcat-7-huanqiu/logs/catalina.out.1.gz
早期用过的nginx日志处理一例
[root@localhost ~]# vim /letv/sh/cut_nginx_log.sh
|
|
结合crontab定时执行
[root@localhost ~]# crontab -e
|
|
尝试解决logrotate无法自动轮询日志的办法
现象说明:
使用logrotate轮询nginx日志,配置好之后,发现nginx日志连续两天没被切割,这是为什么呢??
然后开始检查日志切割的配置文件是否有问题,检查后确定配置文件一切正常。
于是怀疑是logrotate预定的cron没执行,查看了cron的日志,发现有一条Dec 7 04:02:01 www crond[18959]: (root) CMD (run-parts /etc/cron.daily)这样的日志,证明cron在04:02分时已经执行/etc/cron.daily目录下的程序。
接着查看/etc /cron.daily/logrotate(这是logrotate自动轮转的脚本)的内容:
[root@localhost~]# cat /etc/cron.daily/logrotate
|
|
没有发现异常,配置好的日志轮转操作都是由这个脚本完成的,一切运行正常,脚本应该就没问题。
直接执行命令:
[root@localhost ~]# /usr/sbin/logrotate /etc/logrotate.conf
这些系统日志是正常轮询了,但nginx日志却还是没轮询。接着强行启动记录文件维护操作,纵使logrotate指令认为没有需要,应该有可能是logroate认为nginx日志太小,不进行轮询。
故需要强制轮询,即在/etc/cron.daily/logrotate脚本中将 -t 参数替换成 -f 参数
[root@localhost ~]# cat /etc/cron.daily/logrotate
|
|
最后重启下cron服务:
|
|
logrotate默认自动切割生效时间
Logrotate是基于CRON来运行的,其脚本是/etc/cron.daily/logrotate,实际运行时,Logrotate会调用配置文件/etc/logrotate.conf。
[root@test ~]# cat /etc/cron.daily/logrotate
|
|
时间是由CRON控制的,具体可以查询CRON的配置文件/etc/anacrontab(老版本的文件是/etc/crontab)
[root@test ~]# cat /etc/anacrontab
|
|
第一个是Recurrence period
第二个是延迟时间
所以cron.daily会在3:22+(5,45)这个时间段执行,/etc/cron.daily是个文件夹.
通过默认/etc/anacrontab文件配置,会发现logrotate自动切割日志文件的默认时间是凌晨3点多。
==================================================================================================
现在需要将切割时间调整到每天的晚上12点,即每天切割的日志是前一天的0-24点之间的内容。
操作如下:
[root@localhost ~]# mv /etc/anacrontab /etc/anacrontab.bak //取消日志自动轮转的设置
[root@localhost logrotate.d]# cat nstc_nohup.out
|
|
[root@localhost logrotate.d]# cat syslog
|
|
结合crontab进行自定义的定时轮转操作
[root@localhost ~]# crontab -l
#log logrotate
59 23 * * * /usr/sbin/logrotate -f /etc/logrotate.d/syslog >/dev/null 2>&1
59 23 * * * /usr/sbin/logrotate -f /etc/logrotate.d/nstc_nohup.out >/dev/null 2>&1
结果
[root@localhost ~]# ll /data/nstc/nohup.out*
-rw------- 1 app app 33218 1月 25 09:43 /data/nstc/nohup.out
-rw------- 1 app app 67678 1月 25 23:59 /data/nstc/nohup.out-20180125.gz
除了利用自带的Logrotate工具实现日志切割之外,还可以编写python脚本或shell脚本以实现日志切割。下面就简单列出几个实例说明下:
其他工具实现日志切割
Python脚本实现日志切割
实例1:对jumpserver日志进行切割
[root@localhost mnt]# cat log_rotate.py
|
|
手动执行这个脚本:
[root@localhost mnt]# chmod 755 log_rotate.py
[root@localhost mnt]# python log_rotate.py
查看日志切割后的效果:
[root@localhost mnt]# ls /opt/jumpserver/logs/
2017 jumpserver.log
[root@localhost mnt]# ls /opt/jumpserver/logs/2017/
09
[root@localhost mnt]# ls /opt/jumpserver/logs/2017/09/
jumpserver.log_20170916.log
然后做每日的定时切割任务:
[root@localhost mnt]# crontab -e
|
|
实例2:对nginx日志进行切割
[root@localhost mnt]# vim log_rotate.py
|
|
shell脚本实现日志切割
[root@localhost ~]# cat /app/script/log_rotate.sh
|
|
每天定时切割日志的任务制定(比如对python的一个业务/data/log/xcspam/下的日志进行切割,0K的日志不进行切割):
[root@localhost ~]# crontab -e
|
|
手动执行切割:
[root@localhost ~]# find /data/log/xcspam/ -size +0 -name ‘*.log’ | xargs /app/script/log_rotate.sh
切割后的日志效果:
|
|
比如对maridb日志进行切割
[root@localhost ~]# crontab -e
|
|
|
|
日志压缩脚本:
[root@localhost ~]# ls /var/log/fss/nginx/
nginx.20190506.log nginx.20190507.log nginx.20190508.log
[root@localhost ~]# cat /root/log_clean.sh
|
|
[root@localhost ~]# sh /root/log_clean.sh fss nginx 3
[root@localhost ~]# ls /var/log/fss/nginx/
nginx.20190506.log.gz nginx.20190507.log.gz nginx.20190508.log.gz
还可以针对日志保留策略,调整成日志清理脚本。
推荐用的Nginx日志轮转方法 [部署在nginx的日志目录下]
|
|