nginx_concurrent_limit_module限制后端服务器并发级别

联合创作 · 2023-10-01 15:49

这是nginx的第三方模块。它使nginx上游可以限制每个后端服务器的并发级别。目前仅支持循环模式。

在实际生产过程中,可能每台backend server的配置不同,导致存在不同的系能瓶颈,一旦请求并发数超过阈值,会造成雪崩效应,使服务器连阈值内的请求量都处理不了。

如果使用简单的weigth权重控制,并不能解决这种困境。如果请求峰值超过了系统所能承载的并发,仍然会造成雪崩效应。

为了解决以上的情形,开发了此补丁,当系统瓶颈主要在backend server时,该补丁能很好地抑制backend server陷入雪崩效应。

可以根据压测结果,配置每一台backend server的并发数concurrent。当backend server正在处理的请求超过concurrent值后,upstream就不再会选给该backend server转发新的请求。

浏览 14
点赞
评论
收藏
分享

手机扫一扫分享

编辑 分享
举报
评论
图片
表情
推荐
点赞
评论
收藏
分享

手机扫一扫分享

编辑 分享
举报