Spring Batch并行處理四種模式分別是什么

本篇文章給大家分享的是有關Spring Batch并行處理四種模式分別是什么，小編覺得挺實用的，因此分享給大家學習，希望大家閱讀完這篇文章后可以有所收獲，話不多說，跟著小編一起來看看吧。

1  四種模式

大多數情況下，單線程、單進程的Spring Batch已經能滿足你的需求。在我們走向更復雜的特性之前，先看看簡單的能不能用，Keep it Simple and Stupid。

不過，當你確定要使用并行處理時，Spring Batch也提供了多種選擇。整體上分為兩大類：

• （1）單進程、多線程

• （2）多進程

細分如下：

• （1）多線程的Step（單進程）

• （2）并行的Steps（單進程）

• （3）遠程分塊（多進程）

• （4）遠程分區（多進程）

光從名字看，很難理解它們之間的差別，我們來一一介紹吧。

1.1 多線程的Step

通過提供一個TaskExecutor來執行，而TaskExecutor是可以自定義的，我們可以提供一個基于線程池的TaskExecutor，則可以實現多線程處理。

@Bean
public TaskExecutor taskExecutor(){
  return new SimpleAsyncTaskExecutor("spring_batch");
}

@Bean
public Step sampleStep(TaskExecutor taskExecutor) {
  return this.stepBuilderFactory.get("sampleStep")
    .<String, String>chunk(10)
    .reader(itemReader())
    .writer(itemWriter())
    .taskExecutor(taskExecutor)
    .build();
}

1.2 并行Steps

這個看起來跟第一個很像，其實完全不一樣。它是多個steps之間來并行處理。所以job應該是可以分解為獨立的step，不是按一步一步的順序處理，這樣才可以并行執行。比如下面的例子，step1和step2合并成一個flow1，而step3為flow2，flow1與flow2之間可以并行處理。

代碼如下：

@Bean
public Job job() {
  return jobBuilderFactory.get("job")
    .start(splitFlow())
    .next(step4())
    .build()        //builds FlowJobBuilder instance
    .build();       //builds Job instance
}

@Bean
public Flow splitFlow() {
  return new FlowBuilder<SimpleFlow>("splitFlow")
    .split(taskExecutor())
    .add(flow1(), flow2())
    .build();
}

@Bean
public Flow flow1() {
  return new FlowBuilder<SimpleFlow>("flow1")
    .start(step1())
    .next(step2())
    .build();
}

@Bean
public Flow flow2() {
  return new FlowBuilder<SimpleFlow>("flow2")
    .start(step3())
    .build();
}

@Bean
public TaskExecutor taskExecutor(){
  return new SimpleAsyncTaskExecutor("spring_batch");
}

1.3 遠程分塊

在這種模式下，step會被拆成多個Java進程來處理，主程序與分塊執行程序之間通過中間件來通信。如下圖所示：

由上圖可以看出，讀取只有一個進程Manager，而處理進程Worker則可以多個，所以適用于易讀而難處理的場景。

1.4 遠程分區

遠程分區跟遠程分塊容易混淆，但其實它們是不同的。前面講解的遠程分塊是一個進程讀，多個進程處理；而遠程分區是多個進程讀，多個進程處理，多個進程寫：

所以，遠程分區適用于容易有IO瓶頸的系統，因為它將讀與寫都拆到多個worker進程中去了。遠程分區可以使用中間件，如消息隊列，也可以不用。它通過PartitionHandler來進行分區處理，而Partitioner則定義了如何進行分區。

上面介紹了Spring Batch并行處理的四種模式，分別是多線程Step、并行Steps、遠程分塊、遠程分區。前兩種比較簡單，給出代碼例子；而后兩種則復雜得多，特別是遠程分區模式，把IO壓力和業務處理壓力都分解了，能大大提高整個流程的處理效率。

以上就是Spring Batch并行處理四種模式分別是什么，小編相信有部分知識點可能是我們日常工作會見到或用到的。希望你能通過這篇文章學到更多知識。更多詳情敬請關注億速云行業資訊頻道。