线程池调优原来这么简单!
点击上方“Java金融”,选择“设为星标”
后台回复"888"获取bat面试题集
原文|https://t.hk.uy/awez
背景:
最近的一个项目需要用到招标,临时加了给我们的系统增加了一个性能需求,多少呢?一秒钟300次NTP(不知道ntp的同学可以百度一下),平均3ms一次啊,没测试过,心里没有底。(⊙o⊙)…
情境介绍:
系统是一个时间服务器系统,客户端就是window系统,或者其他的一些服务器,来向时间服务器同步时间。
默认的window会向这个time.winodows.com进行时间同步,当然你也可以换成其他时间同步服务器。
划重点了:服务端NTP接口采用的是netty框架写的一个接口,netty想必大家都了解的吧,nio通信,性能超好的。
测试代码是使用Executors.newFixedThreadPool写的客户端,10个线程数发送ntp包
第一次测试
数据库连连接池最大设置为40个,测试结果俩一秒钟28次,是的你没有看错,连十分之一都没有,怎么这么差劲啊达不到预期啊,不行啊,这不就达不到要求的了吗,得改啊,哪里改啊,怎么改啊?回到代码中去,顺藤摸瓜找到具体业务类,就是继承SimpleChannelInboundHandler的类,从头到尾打量了一下业务代码,发现业务主要是构造返回消息,记录日志。构造返回就是Java里的构造对象什么的,根本不耗时的。 那就想不是有记录日志吗,不往数据库里面写东西了,把它注释掉,跑一遍试试看。
第二遍测试
哎呦妈呀,起飞了老铁,直接飙到了每秒钟2万次。
看到这个令人惊讶的数据,这远远超过要求啊,哈哈哈,妥妥的。突然一想,不对啊,这好像和产品设计不符合啊,设计里是要求记录日志的啊,这个是有点滥竽充数啊,不行不行,这个得改。仔细分析一下,日志得写到数据库,读了《java高并发程序设计》,心想是不是可以用异步的方式记录日志呢,弄一个线程池吧。阿里巴巴JAVA开发手册里是不推荐使用Executors中的现成的线程池的(具体原因我就不说了,可以看一下),那就自己写一个吧。
第三次测试
考虑到任务提交速度快的原因,第一次构造线程池采用了直接提交的队列,这样任务处理的快一些
private static ExecutorService saveThreadPool = new ThreadPoolExecutor(2, 100, 60L, TimeUnit.SECONDS,
new SynchronousQueueExecutors.defaultThreadFactory(),
new ThreadPoolExecutor.DiscardPolicy());
测试代码再跑一遍,哎呦妈呀,又起飞了老铁!
心想我这么牛逼的吗,这随便写个线程池就OK了。在服务器执行了top一看,不得了:这个cpu直接占满了,系统里还有其他服务的,不能把资源全都给它啊。这次留了个心眼看了下数据库日志,不对啊,没有全部记录啊,尼玛发了一百多万结果只记录了几万条,这个差太多了啊。为什么漏掉了呢,回过头来继续看线程池的构造。终于发现了纰漏,拒绝策略是用了new ThreadPoolExecutor.DiscardPolicy(),这个可出事了啊,不行不行,这直接丢弃了,记录日志的任务不能直接丢弃。
第四次测试
这次又把书拿出来看了看,看了一些大牛写的线程池构造,最终敲定了这样的构造方式。
private static ExecutorService saveThreadPool = new ThreadPoolExecutor(2, 40, 60L, TimeUnit.SECONDS,
new LinkedBlockingQueue(50000), Executors.defaultThreadFactory(),
new ThreadPoolExecutor.CallerRunsPolicy());
采用LinkedBlockingQueue,最多可有50000个任务在阻塞队列中,线程池最大值设置40个,核心池大小设置2个,多出来的38个线程最多活跃60秒就会被回收。
拒绝采用CallerRunsPolicy,不会丢弃任务,只要线程池未关闭,该策略直接在调用者线程中,运行当前被丢弃的任务。显然这样做不会真的丢弃任务,但是,任务提交线程的性能极有可能会急剧下降。在代码测试中,执行了top,发现cpu的利用率稳定在24%左右,这个可以接受测试结果:每秒钟1千2,这个也远远超过了性能指标,而且日志也全都记录到数据中,不过这个不是及时性的,它会在测试程序结束1分钟后,才会完成数据如插入,这个和队列任务有关。
总结:
这个线程池我是没有关闭的,因为每次任务提交后队列中还有很多任务,如果关闭的话,每次在开启一个线程池会降低速度,所以这个就不关闭了吧 如果有大神看出什么端倪的话,欢迎批评斧正,继续优化,个人感觉还有提升空间。
最后
线程池的知识在工作中还是比较重要的,所以还是有必要去掌握的,上面的方案应该还可以采用写数据的时候可以考虑批量插入数据库。这样数据库的吞吐量会大大提高,比如一次写入5000条,不过这个可能会存在数据丢失,比如应用重启的时候。不过对于日志来说的话,应该是允许丢失的,具体操作的话这个还是需要由不同的业务来决定。最后也推荐下以前写的两篇关于线程池的文章《【Java并发编程】面试必备之线程池》、《【Java并发编程】从源码分析几道必问线程池的面试题?》
往期精选
最近面试BAT,整理一份面试资料《Java面试BATJ通关手册》,覆盖了Java核心技术、JVM、Java并发、SSM、微服务、数据库、数据结构、等等。获取方式:点“在看”,关注公众号并回复 666 领取,更多内容陆续奉上。
文章有帮助的话,在看,转发吧。
谢谢支持哟 (*^__^*)