Java?Servlet線程中的AsyncContext怎么使用

本篇內容介紹了“Java Servlet線程中的AsyncContext怎么使用”的有關知識，在實際案例的操作過程中，不少人都會遇到這樣的困境，接下來就讓小編帶領大家學習一下如何處理這些情況吧！希望大家仔細閱讀，能夠學有所成！

AsyncContext

AsyncContext是Servlet 3.0使Servlet 線程不再需要一直阻塞，直到業務處理完畢才能再輸出響應，最后才結束該Servlet線程。在接收到請求之后，Servlet線程可以將耗時的操作委派給另一個線程來完成，自己在不生成響應的情況下返回至容器。針對業務處理較耗時的情況，這將大大減少服務器資源的占用，并且提高并發處理速度

Servlet 3.0新增了異步處理，可以先釋放容器分配給請求的線程與相關資源，減輕系統負擔，原先釋放了容器所分配線程的請求，其響應將被延后，可以在處理完成(例如長時間運算完成、所需資源已獲得)時再對客戶端進行響應。

在Servlet 3.0中，在ServletRequest上提供了startAsync()方法，該方法會根據請求的ServletRequest和ServletResponse創建AsyncContext對象。

    @Override
    public AsyncContext startAsync() {
        return startAsync(getRequest(),response.getResponse());
    }
    @Override
    public AsyncContext startAsync(ServletRequest request,
            ServletResponse response) {
        if (!isAsyncSupported()) {
            IllegalStateException ise =
                    new IllegalStateException(sm.getString("request.asyncNotSupported"));
            log.warn(sm.getString("coyoteRequest.noAsync",
                    StringUtils.join(getNonAsyncClassNames())), ise);
            throw ise;
        }
        if (asyncContext == null) {
            asyncContext = new AsyncContextImpl(this);
        }
        asyncContext.setStarted(getContext(), request, response,
                request==getRequest() && response==getResponse().getResponse());
        asyncContext.setTimeout(getConnector().getAsyncTimeout());
        return asyncContext;
    }

請求調用startAsync后Servlet線程將會被釋放，請求交由其他線程去處理，如果業務線程沒有處理完，客戶端將不會收到響應，直到調用AsyncContext的complete()和dispatch(ServletContext context, String path)方法為止，dispatch方法會根據path進行重定向。AsyncContextImpl大致代碼如下：

    @Override
    public void complete() {
        if (log.isDebugEnabled()) {
            logDebug("complete   ");
        }
        check();
        request.getCoyoteRequest().action(ActionCode.ASYNC_COMPLETE, null);
    }
    @Override
    public void dispatch() {
        check();
        String path;
        String cpath;
        ServletRequest servletRequest = getRequest();
        if (servletRequest instanceof HttpServletRequest) {
            HttpServletRequest sr = (HttpServletRequest) servletRequest;
            path = sr.getRequestURI();
            cpath = sr.getContextPath();
        } else {
            path = request.getRequestURI();
            cpath = request.getContextPath();
        }
        if (cpath.length() > 1) {
            path = path.substring(cpath.length());
        }
        if (!context.getDispatchersUseEncodedPaths()) {
            path = UDecoder.URLDecode(path, StandardCharsets.UTF_8);
        }
        dispatch(path);
    }

AsyncContext使用示例及測試

示例

設置Tomcat線程數為1

server:
  port: 9099
  servlet:
    context-path: /server/v1
  # 設置Tomcat線程數為1
  tomcat:
    min-spare-threads: 1
    max-threads: 1

Controller

@RestController
public class AsyncTestController {
    private final ScheduledExecutorService timeoutChecker = new ScheduledThreadPoolExecutor(1, threadFactory);
    private static boolean result = false;
    @PostMapping("/async")
    public void async(@RequestBody Request re1, HttpServletRequest request, HttpServletResponse response) {
        // 創建AsyncContext
        AsyncContext asyncContext = request.startAsync(request, response);
        String name = re1.getUsername();
        // 設置處理超時時間2s
        asyncContext.setTimeout(2000L);
        // asyncContext監聽
        asyncContext.addListener(new AsyncListener() {
            @Override
            public void onComplete(AsyncEvent asyncEvent) throws IOException {
            }
            @Override
            public void onTimeout(AsyncEvent asyncEvent) throws IOException {
                asyncContext.getResponse().getWriter().print(name + "：timeout");
                asyncContext.complete();
            }
            @Override
            public void onError(AsyncEvent asyncEvent) throws IOException {
            }
            @Override
            public void onStartAsync(AsyncEvent asyncEvent) throws IOException {
            }
        });
        // 定時處理業務，處理成功后asyncContext.complete();完成異步請求
        timeoutChecker.scheduleWithFixedDelay(() -> {
            try {
                if (result) {
                    asyncContext.getResponse().getWriter().print(name);
                    asyncContext.complete();
                }
            } catch (IOException e) {
                e.printStackTrace();
            }
        }, 0, 100L, TimeUnit.MILLISECONDS);
    }
    // 模擬業務處理完成
    @PostMapping("/notify")
    public void notify(Boolean s) {
        result = s;
    }
}

測試結果

• 測試指標

并發5，兩個循環

• 測試結果

10條并發請求都能夠處理，并且處理的時間都是2s左右（因為設置的超時時間是2s），通過該測試結果可以看出，使用AsyncContext可以在容器資源有限的情況下處理更多的請求，這在高并發場景下就比較有用了。

AsyncContext應用場景

使用AsyncContext實現的Http長輪詢在許多的中間件的信息同步場景中應用廣泛，例如Nacos配置中心和Apache Shenyu網關。

背景

公司一個系統是Netty實現的TCP協議的服務，其中的一個業務是設備請求后臺接口查詢支付結果，接口的處理邏輯是收到請求后就將請求放到一個隊列中，然后由業務線程異步處理，當收到支付結果完成后將響應給客戶端支付結果，該接口的超時時間是2s，如果2s查不到支付結果就返回給客戶端查不到結果，客戶端收到該錯誤后重新發起查詢，直到客戶端的整個業務超時。

公司由于服務架構調整，要將該系統改造成基于SpringBoot的Http協議接口，如果”支付結果查詢接口“不做機制的變更，就會導致每一次結果查詢都會阻塞等待隊列中查詢支付結果的查詢，因為支付是異步的，所以支付結果查詢會比較耗時，如果機制不改那么如果并發增大的話會導致服務器的處理請求線程全部被打滿，整個服務對于其他請求，其他業務都變得不可用了，這個結果是不可以接受的。

AsyncContext解決生產問題

基于示例中的demo進行業務改造

開啟異步，設置整個異步接口處理的超時時間（2s），設置Listener主要用于處理接口超時，阻塞隊列處理查詢支付結果，查到結果后調用complete完成該長輪詢，如果2s沒有查到結果，那就返回查詢超時，客戶端繼續輪詢。

“Java Servlet線程中的AsyncContext怎么使用”的內容就介紹到這里了，感謝大家的閱讀。如果想了解更多行業相關的知識可以關注億速云網站，小編將為大家輸出更多高質量的實用文章！