Logback配置文件这么写,TPS提高10倍
作者:何甜甜在吗
链接:segmentfault.com/a/1190000020041388
通过阅读本篇文章将了解到
1.日志输出到文件并根据LEVEL级别将日志分类保存到不同文件
2.通过异步输出日志减少磁盘IO提高性能
3.异步输出日志的原理
配置文件logback-spring.xml
SpringBoot工程自带logback和slf4j的依赖,所以重点放在编写配置文件上,需要引入什么依赖,日志依赖冲突统统都不需要我们管了。logback框架会默认加载classpath下命名为logback-spring或logback的配置文件。将所有日志都存储在一个文件中文件大小也随着应用的运行越来越大并且不好排查问题,正确的做法应该是将error日志和其他日志分开,并且不同级别的日志根据时间段进行记录存储。
"1.0" encoding="utf-8"?>
"logback.properties"/>
"CONSOLE-LOG" class="ch.qos.logback.core.ConsoleAppender">
"ch.qos.logback.classic.PatternLayout">
[%d{yyyy-MM-dd' 'HH:mm:ss.sss}] [%C] [%t] [%L] [%-5p] %m%n
"INFO-LOG" class="ch.qos.logback.core.rolling.RollingFileAppender">
"ch.qos.logback.classic.filter.LevelFilter">
ERROR
DENY
ACCEPT
[%d{yyyy-MM-dd' 'HH:mm:ss.sss}] [%C] [%t] [%L] [%-5p] %m%n
"ch.qos.logback.core.rolling.TimeBasedRollingPolicy">
${LOG_INFO_HOME}//%d.log
30
"ERROR-LOG" class="ch.qos.logback.core.rolling.RollingFileAppender">
"ch.qos.logback.classic.filter.ThresholdFilter">
ERROR
[%d{yyyy-MM-dd' 'HH:mm:ss.sss}] [%C] [%t] [%L] [%-5p] %m%n
"ch.qos.logback.core.rolling.TimeBasedRollingPolicy">
${LOG_ERROR_HOME}//%d.log
30
"info">
"CONSOLE-LOG" />
"INFO-LOG" />
"ERROR-LOG" />
部分标签说明
logback 高级特性异步输出日志
之前的日志配置方式是基于同步的,每次日志输出到文件都会进行一次磁盘IO。采用异步写日志的方式而不让此次写日志发生磁盘IO,阻塞线程从而造成不必要的性能损耗。异步输出日志的方式很简单,添加一个基于异步写日志的appender,并指向原先配置的appender即可
"ASYNC-INFO" class="ch.qos.logback.classic.AsyncAppender">
0
256
"INFO-LOG"/>
"ASYNC-ERROR" class="ch.qos.logback.classic.AsyncAppender">
0
256
"ERROR-LOG"/>
异步输出日志性能测试
既然能提高性能的话,必须进行一次测试比对,同步和异步输出日志性能到底能提升多少倍?
服务器硬件
CPU 六核
内存 8G
测试工具
Apache Jmeter
同步输出日志
线程数:100
Ramp-Up Loop(可以理解为启动线程所用时间) :0
可以理解为100个线程同时启用
测试结果
重点关注指标Throughput【TPS】吞吐量:系统在单位时间内处理请求的数量,在同步输出日志中TPS为44.2/sec
异步输出日志
线程数 100
Ramp-Up Loop:0
测试结果
TPS为497.5/sec,性能提升了10多倍!!!
异步日志输出原理
从logback框架下的Logger.info方法开始追踪。一路的方法调用路径如下图所示:
protected void append(E eventObject) {
if(!this.isQueueBelowDiscardingThreshold() || !this.isDiscardable(eventObject)) {
this.preprocess(eventObject);
this.put(eventObject);
}
}
通过队列情况判断是否需要丢弃日志,不丢弃的话将它放到阻塞队列中,通过查看代码,这个阻塞队列为ArrayBlockingQueueu,默认大小为256,可以通过配置文件进行修改。Logger.info(...)到append(...)就结束了,只做了将日志塞入到阻塞队列的事,然后继续执行Logger.info(...)下面的语句了。在AsyncAppenderBase类中定义了一个Worker线程,run方法中的关键部分代码如下:
E e = parent.blockingQueue.take();
aai.appendLoopOnAppenders(e);
从阻塞队列中取出一个日志,并调用AppenderAttachableImpl类中的appendLoopOnAppenders方法维护一个Append列表。Worker线程中调用方法过程主要如下图:
最主要的两个方法就是encode和write方法,前一个法方会根据配置文件中encode指定的方式转化为字节码,后一个方法将转化成的字节码写入到文件中去。所以写文件是通过新起一个线程去完成的,主线程将日志扔到阻塞队列中,然后又去做其他事情了。
好文章,我在看