【问题标题】:ClassifierCompositeItemWriter rollback on exception but data is partially committed to the databaseClassifierCompositeItemWriter 异常回滚,但数据部分提交到数据库
【发布时间】:2019-11-02 17:17:53
【问题描述】:

我正在使用 ClassifierCompositeItemWriter 插入存储在一个固定长度平面文件中的不同类型的寄存器,并将其写入 具有多个 JdbcBatchItemWriters 的 postgres 数据库,每个 JdbcBatchItemWriters 在一个不同的表中,所有这一切都在一个步骤中然后坚持一个弹簧批处理作业,它工作正常,但是在激活事务时它们不会在发生异常时回滚。

例如我有一个 32 行的平面文件,其中 1 行是表头记录,然后我将其插入表头表中,然后有 30 条常规记录和 1 条表尾记录(按顺序),然​​后在第 29 条记录中常规的,它因数据库转换异常(为测试而创建的错误)而失败,然后以作业的失败状态结束,这没关系,但是当我查看数据库时,我发现标题的 1 条记录,常规数据的 29 条记录(除了有错误的一条)并且没有页脚记录,但我希望事务回滚该 1 条记录的页眉和其他 29 条记录,但异常回滚后它们仍在数据库中。

我不知道我是否错了,春季批处理中的事务不能以这种方式工作,或者是我的配置错误还是什么。

这是 ClassifierCompositeItemWriter 的代码,其他一个项目编写器与此类似:

public ClassifierCompositeItemWriter<DTOBase> altasOffWriterClassifier(DataSource dataSource) {

    BackToBackPatternClassifier classifier = new BackToBackPatternClassifier();
    classifier.setRouterDelegate(dtoWriterClassifier);
    classifier.setMatcherMap(new HashMap<String, JdbcBatchItemWriter<? extends DTOBase>>() {
        private static final long serialVersionUID = -1247536568421993759L;
    {
        put(DTOHeader.class.getTypeName(), headerWriter());
        put(DTOData.class.getTypeName(), dataWriter());
        put(DTOFooter.class.getTypeName(), footerWriterFin());
    }});

    ClassifierCompositeItemWriter<DTOBase> writer = new ClassifierCompositeItemWriter<>();
    writer.setClassifier(classifier);

    return writer;
}

@Bean
public JdbcBatchItemWriter<DTOAltaOFF> altaOffWriter() {
    return new JdbcBatchItemWriterBuilder<DTOData>()
         .dataSource(dataSource)
         .sql("insert into tabla(ticket, identificador, fecha_alta_operacion, "
                + " ordenante, numero, moneda, cif, importe_emisor, "
                + " estado, telefono_destino, fecha_caducidad_hal, concepto, cabecera_num_orden_fichero) "
                + " VALUES (:ticket,:identificador,to_timestamp(:fechaAltaOperacion,'DDMMYYYYHH24MISS'), "
                + " :ordenante,:numero,:moneda,:cif,(cast(:importeEmisor as double precision)/100), "
                + " :estado,:telefonoDestino,to_timestamp(:fechaCaducidadHal,'DDMMYYYYHH24MISS'),:concepto,:idCabecera) ")
         .itemSqlParameterSourceProvider(new BeanPropertyItemSqlParameterSourceProvider<>()) 
         .build();     
}

我的配置类:

@Configuration
@EnableBatchProcessing
@Import({ DataSourceConfig.class })
@PropertySource("classpath:batch.properties")
@ComponentScan({ "..."})
public class BatchConfiguration {

@Autowired
public JobBuilderFactory jobBuilderFactory;

@Autowired
public StepBuilderFactory stepBuilderFactory;

@Autowired
public JobRepository jobRepository;

@Autowired
public DataSource dataSource;

@Bean
public JdbcTemplate getJdbcTemplate() {
    return new JdbcTemplate(dataSource);
}

@Bean
public TaskExecutor taskExecutor() {
    return new SimpleAsyncTaskExecutor();
}

数据源

@Configuration
@EnableTransactionManagement
public class DataSourceConfig {

...some @Value...   
    @Bean(name = "dataSource")
    public DriverManagerDataSource dataSource() {
        DriverManagerDataSource dataSource = new DriverManagerDataSource();
        dataSource.setDriverClassName(driverClassName);
        dataSource.setUrl(datasourceUrl);
        dataSource.setUsername(usuario);
        dataSource.setPassword(clave);
        return dataSource;
    }
}

配置:

@Configuration
@EnableBatchProcessing
@Import({ DataSourceConfig.class })
@PropertySource("classpath:batch.properties")
@ComponentScan({ "..."})
public class BatchConfiguration {

    @Autowired
    public JobBuilderFactory jobBuilderFactory;

    @Autowired
    public StepBuilderFactory stepBuilderFactory;

    @Autowired
    public JobRepository jobRepository;

    @Autowired
    public DataSource dataSource;

    @Bean
    public JdbcTemplate getJdbcTemplate() {
        return new JdbcTemplate(dataSource);
    }

    @Bean
    public TaskExecutor taskExecutor() {
        return new SimpleAsyncTaskExecutor();
    }
}

自定义:

@Component
@EnableTransactionManagement
public class CustomBatchConfigurer extends DefaultBatchConfigurer {

   private final TaskExecutor taskExecutor;

    public CustomBatchConfigurer(TaskExecutor taskExecutor) {
        this.taskExecutor = taskExecutor;
    }

    @Override
    protected JobLauncher createJobLauncher() throws Exception {
        SimpleJobLauncher jobLauncher = new SimpleJobLauncher();
        jobLauncher.setJobRepository(getJobRepository());
        jobLauncher.setTaskExecutor(this.taskExecutor);
        jobLauncher.afterPropertiesSet();
        return jobLauncher;
    }

    @Autowired
    private DataSource dataSource;

    @Override
    public PlatformTransactionManager getTransactionManager() {
        DataSourceTransactionManager tm = new DataSourceTransactionManager();
        tm.setDataSource(dataSource);
        return tm;
    }
}

任何帮助都会很棒。

【问题讨论】:

  • 你的块大小是多少?如果它 docs.spring.io/spring-batch/4.1.x/reference/html/…)。可以在这里找到类似的线程:stackoverflow.com/questions/51904498/…
  • 我尝试将编写器注册为流,但出现错误:AbstractTaskletStepBuilder> 类型中的方法流(ItemStream)不适用于参数(JdbcBatchItemWriter ) * 我在一本书中找到了这个: *JdbcBatchItemWriter 没有实现 ItemStream 接口,因为它不维护任何状态。 关于事务link 我很困惑我不知道是否如果出现异常,我将能够回滚所有项目
  • 那是另一回事。此功能称为块扫描,当写入器抛出可跳过的异常时触发。 Spring Batch 将逐项“扫描”到块并为每个项目提交一个事务(从技术上讲,它会动态地将块大小更改为 1)。所以如果你有这个,就意味着你已经配置了一个可跳过的异常类型,并且这个类型已经从你的 writer 中抛出了。
  • 不,我没有使用 SkipPolicy,我的问题是我需要回滚数据库事务中插入的所有数据,以防引发异常,而现在的行为是:作业停止并失败步骤和作业的状态,但此时 JdbcBatchItemWriter 插入的所有数据继续在各自的表中提交,就像没有应用回滚一样。
  • No I'm not using a SkipPolicy,在这种情况下,您的块大小应该已经 = 1,正如我在第一条评论中提到的那样。否则,请分享您的步骤配置或提供MCR 以重现问题。

标签: spring spring-boot transactions spring-batch spring-jdbc


【解决方案1】:

这是@MahmoudBenHassine 在 cmets 中写的块大小,我以这种方式添加它

@Bean
public Step Step1(@Qualifier("xyzWriterClassifier") ItemWriter<DTOxyz> writer) throws Exception {
    return stepBuilderFactory.get("Step1")
            .<DTOxyz, DTOxyz> chunk(100)
            .reader(dtoXyzItemReader(NULL because WILL_BE_INJECTED))
            .processor(XyzProcessor())
            .writer(writer)
            .build();        
}

【讨论】:

    猜你喜欢
    • 1970-01-01
    • 2018-02-06
    • 2013-04-20
    • 2011-06-22
    • 2014-04-28
    • 2019-06-18
    • 2017-04-02
    • 1970-01-01
    • 2021-12-14
    相关资源
    最近更新 更多