客户老是投诉我们接口超时?但监控并没有什么异常?这到底是怎么一回事?

WU双

共 2347字,需浏览 5分钟

 · 2021-10-12

聊技术,不止于技术


客户老是反应调用我们接口超时,但通过监控来看系统并没有什么异常,所以接口调用超时到底发生了什么呢?让我们通过本文来一探究竟。


1

模拟一下接口调用超时


服务端程序(一个简单的REST接口,直接睡眠个10s,模拟响应时间长):

@RestControllerpublic class HelloController {
    @GetMapping("hello")    public String hello() throws InterruptedException {        System.out.println("开始处理");        Thread.sleep(10000);        System.out.println("处理结束");        return "hello";    }}


客户端程序(通过HttpClient调用REST接口,配置socketTimeout参数,将超时时间设置为2s):

@Testpublic void testHttpClientTimeout() throws IOException {    try(CloseableHttpClient httpClient = HttpClients.createDefault()) {        HttpGet httpGet = new HttpGet("http://localhost:8080/hello");        httpGet.setConfig(RequestConfig.custom().setConnectTimeout(10 * 1000).setSocketTimeout(2 * 1000).build());        try(CloseableHttpResponse response = httpClient.execute(httpGet)) {            EntityUtils.toString(response.getEntity());        }    }}

启动服务端,然后客户端发起调用。

客户端在2s后发生超时,调用终止:

java.net.SocketTimeoutExceptionRead timed out

服务端接口打印日志:

开始处理处理结束

由上述日志可以看出,客户端调用在超过2s后还没有获得响应时,便会抛出`Read timed out`异常,结束调用,但是服务端针对本次调用还是会完整的处理完,不会因为客户端的调用终止而终止处理。

所以这期间到底发生了什么?服务端请求处理完成后还能响应给客户端吗?


2

刨根问题:调用超时到底发生了什么?

重复上述步骤,模拟客户端调用超时,进行抓包。

抓取的数据包如下:

根据抓包得出整个处理流程如下:

1、TCP三次握手;

2、客户端发起请求;

3、2s后,客户端请求超时,发送FIN包关闭连接;

4、服务端响应FIN包,返回ACK;

5、10s后,服务端处理完请求,返回响应;

6、客户端响应RST重置连接。

可以看到,即使客户端已经返回响应超时异常了,服务端还是会正常处理请求并在完成后响应,并且这个请求状态还是200(这也是服务端监控并没有发现响应异常的原因),但是在返回响应给客户端时,客户端会响应RST包重置该连接,也就是该响应最终并没有成功返回给客户端。

所以说,HTTP请求超时是客户端调用方的概念,服务端在处理请求的过程中不会因为处理时间过长而中断响应,反而是会一直等待请求处理完成然后返回客户端。

至此,接口请求超时的整个处理流程应该比较清楚了。

但还有一个问题,客户端调用是怎么触发超时提前抛出异常返回的呢?

首先看超时配置:

httpGet.setConfig(RequestConfig.custom().setConnectTimeout(10 * 1000).setSocketTimeout(2 * 1000).

可以看到上述设置了超时时间参数 socketTimeout ,通过跟代码,该参数实际是设置了Socket连接的 soTimeout 参数:

继续看 Socket#setSoTimeout 方法,通过注释该参数的意思应该比较清楚了——如果超过设置的超时时间读操作还没有返回(即没有接收到响应数据),则会抛出SocketTimeoutException异常。

所以客户端的请求超时实际上是通过设置 Socket#soTimeout 参数来实现的,即超过指定时间还未读到响应数据,则抛出异常。




写在最后


HTTP请求超时是客户端调用方的概念。

服务端在处理请求的过程中不会因为处理时间过长而中断响应,反而是会一直等待请求处理完成然后返回客户端。

客户端在调用超时后,会发送FIN包中断连接,所以即使服务端处理完请求后,也无法正常返回给客户端。

客户端的请求超时实际上是通过设置 Socket#soTimeout 参数来实现的。

知道了这么多,那么到底该如何解决客户端调用超时的问题呢?

客户端调用超时的根本原因还是服务端响应过慢,解决方法得从提升服务端性能,减少响应时间入手。如果服务端涉及到第三方调用,还需要将同步调用异步化,通过牺牲一致性来提升性能。


推荐阅读:
《微服务中的灰度发布是什么?实现思路又是什么?》



聊技术,不止于技术。

在这里我会分享技术文章、管理知识以及个人的思想感悟,欢迎点击关注。
浏览 83
点赞
评论
收藏
分享

手机扫一扫分享

举报
评论
图片
表情
推荐
点赞
评论
收藏
分享

手机扫一扫分享

举报