Java CompletableFuture:高效并发处理批量接口请求并保持结果顺序
大数据量处理中,并发执行任务能显著提升效率。但若需保持任务执行顺序与数据顺序一致,简单的多线程并行处理便捉襟见肘。本文将演示如何利用Java的CompletableFuture在多线程环境下,高效处理1000多条数据的第三方接口请求,并确保结果顺序与原始数据顺序一致。
原始代码使用CompletableFuture.runAsync执行异步任务,虽然实现了并发,但由于线程执行顺序的不确定性,导致最终结果顺序与原始数据列表不符。这是因为runAsync返回CompletableFuture
为解决此问题,需改用CompletableFuture.supplyAsync。supplyAsync能返回结果,从而在CompletableFuture完成之后,按原始顺序收集处理结果。改进后的代码如下:
public static void main(String[] args) { List<String> list = new ArrayList<>(); for (int i = 0; i < 1000; i++) { list.add("数据" + i); } ExecutorService executorService = new ThreadPoolExecutor( Runtime.getRuntime().availableProcessors(), Runtime.getRuntime().availableProcessors() * 2, 60L, TimeUnit.SECONDS, new LinkedBlockingQueue<>(), new ThreadPoolExecutor.CallerRunsPolicy()); List<CompletableFuture<String>> futures = new ArrayList<>(); for (String s : list) { futures.add(CompletableFuture.supplyAsync(() -> { logger.info("开始执行异步线程->>" + s); // 调用接口 // 根据接口返回值判断list中的值是否匹配 // 返回处理后的结果 return s + "处理后的结果"; }, executorService)); // 使用自定义线程池 } // 所有请求完成后处理逻辑 CompletableFuture.allOf(futures.toArray(new CompletableFuture[0])).thenRun(() -> { List<String> results = futures.stream().map(CompletableFuture::join).collect(Collectors.toList()); logger.info("线程执行完毕:{}", JSON.toJSONString(results)); // 调用发送短信 }).thenRun(() -> executorService.shutdown()); }
改进后的代码用CompletableFuture.supplyAsync替换了CompletableFuture.runAsync,并使用futures.stream().map(CompletableFuture::join).collect(Collectors.toList())按原始顺序收集每个CompletableFuture的返回结果。CompletableFuture.allOf仍然用于等待所有异步任务完成,确保所有结果收集完毕后再进行后续处理。
通过以上修改,我们成功利用CompletableFuture在保证并发执行的同时,维护了结果的顺序性,从而高效地处理了大量接口请求。