Spring集成;在复制完成之前复制服务选取的文件

时间:2016-03-16 23:51:08

标签: java spring spring-boot spring-integration

申请背景

申请中有2项服务。让我们称呼他们 1)服务A
2)服务B

服务A 基本上将符合特定条件的文件从源目录复制到目标目录。在这里使用spring集成。 服务A的目标目录是服务B的源目录。

服务B 不断轮询目录中的文件并对其进行处理,然后将它们移动到另一个名为"已处理"的子目录。

问题:
最初的问题是,当服务A将文件复制到目标目录时,服务B会获取一半复制的文件并对其进行处理。

尝试解决方案
请参阅下面的服务B integration-context.xml。我将复合过滤器附加到入站通道。我在此复合过滤器中添加了一个名为LastCreatedFileListFilter的自定义过滤器。此过滤器基于LastModifiedFileListFilter提供的spring-integration-file行,这基本上会丢弃任何年龄(按创建时间)小于30秒的文件。

此过滤器工作正常,并且在30秒之前不会选择文件。但问题是我正在使用prevent-duplicates="true"。所以会发生的情况是第一次服务B 轮询该文件夹并且文件的年龄小于30秒它会过滤掉文件但是在30秒之后,过滤器不会过滤掉文件正确的行为,但现在服务已将此标记为重复并拒绝它。

所以,我的问题是我确实希望保留一个防止重复检查,并且在完全复制之前也不会处理文件。

我对弹簧整合不是很熟悉,我希望实现的两种方法是:
1)在应用程序处理文件之前,不要将文件标记为上述方案中的重复文件?这可能吗?是这样,这是建议吗? 2)在服务A中,如果我可以先创建具有临时名称的文件,然后在复制完成后重命名它们?这里的事情是服务B不会拿起文件,直到它们以配置的名称开头。这样,我不必相信年龄属性不能100%具有决定性,因为源和目标位于不同的网络上,复制时间可能很大(#MurphysLaw)。 但问题在于,我无法通过弹簧集成来概念化如何最好地实现此解决方案。任何指导或建议?

请参阅服务A的集成上下文以获取当前实现。如果有任何事情需要澄清,请告诉我。

服务A

<?xml version="1.0" encoding="UTF-8"?>
<beans xmlns="http://www.springframework.org/schema/beans"
       xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
       xmlns:int="http://www.springframework.org/schema/integration"
       xmlns:int-file="http://www.springframework.org/schema/integration/file"
       xmlns:context="http://www.springframework.org/schema/context"
       xsi:schemaLocation="http://www.springframework.org/schema/beans
    http://www.springframework.org/schema/beans/spring-beans.xsd
    http://www.springframework.org/schema/integration
    http://www.springframework.org/schema/integration/spring-integration.xsd
    http://www.springframework.org/schema/integration/file
    http://www.springframework.org/schema/integration/file/spring-integration-file.xsd
    http://www.springframework.org/schema/context http://www.springframework.org/schema/context/spring-context.xsd">

    <context:property-placeholder location="classpath:application.properties"/>


    <bean name="redisMetaDataStore" class="org.springframework.integration.redis.metadata.RedisMetadataStore">
        <constructor-arg ref="redisConnectionFactory" />
    </bean>

    <bean id="redisConnectionFactory" class="org.springframework.data.redis.connection.jedis.JedisConnectionFactory">
        <property name="port" value="6379" />
    </bean>

    <int-file:inbound-channel-adapter id = "filesIn"
                                      channel="fileChannel"
                                      directory="file:${input.directory}"
                                      filter="incomingCompositeFilter">

        <int:poller id="fileInboudPoller" fixed-rate="${in.interval}" time-unit="SECONDS"  />
    </int-file:inbound-channel-adapter>

    <bean id="incomingCompositeFilter" class="org.springframework.integration.file.filters.CompositeFileListFilter">
        <constructor-arg>
            <list>
                <bean id="acceptOnceFilter" class="org.springframework.integration.file.filters.FileSystemPersistentAcceptOnceFileListFilter">
                    <constructor-arg ref="redisMetaDataStore"/>
                    <constructor-arg value="*"/>
                </bean>
                <bean id="notOlderThanDateFilter" class="com.fexco.bgeadmin.file.filter.NotOlderThanDateFilter">
                    <constructor-arg value="${file.lastModified.ignoreBeforeDate}"/>
                </bean>
                <bean id="documentConfigFilter" class="com.fexco.bgeadmin.file.filter.DocumentConfigFilter">
                </bean>
            </list>
        </constructor-arg></bean>

    <int:channel id="fileChannel"/>

    <int-file:outbound-channel-adapter id="save-as-file"
                                       auto-create-directory="true"
                                       channel="fileChannel"
                                       directory="file:${output.directory}"/>
</beans>

服务B

<?xml version="1.0" encoding="UTF-8"?>
<beans xmlns="http://www.springframework.org/schema/beans"
       xmlns:int="http://www.springframework.org/schema/integration"
       xmlns:int-file="http://www.springframework.org/schema/integration/file"
       xmlns:batch-int="http://www.springframework.org/schema/batch-integration"
       xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
       xsi:schemaLocation="http://www.springframework.org/schema/beans
         http://www.springframework.org/schema/beans/spring-beans.xsd
         http://www.springframework.org/schema/integration
         http://www.springframework.org/schema/integration/spring-integration.xsd
         http://www.springframework.org/schema/integration/file
         http://www.springframework.org/schema/integration/file/spring-integration-file.xsd
         http://www.springframework.org/schema/batch-integration
         http://www.springframework.org/schema/batch-integration/spring-batch-integration.xsd">

    <int:channel id="inboundFileChannel"/>
    <int:channel id="outboundJobRequestChannel"/>
    <int:channel id="jobLaunchReplyChannel"/>

    <int-file:inbound-channel-adapter id="filePoller"
                                      channel="inboundFileChannel"
                                      directory="${app.file.source}"
                                      auto-create-directory="true"
                                      prevent-duplicates="true"
                                      filter="incomingCompositeFilter">
        <int:poller fixed-rate="5000"/>
    </int-file:inbound-channel-adapter>

    <bean id="incomingCompositeFilter" class="org.springframework.integration.file.filters.CompositeFileListFilter">
        <constructor-arg>
            <list>
                <bean id="fileNameFilter" class="org.springframework.integration.file.filters.RegexPatternFileListFilter">
                    <constructor-arg value=".*\.(xls|xlsx|csv)$" />
                </bean>
                <bean id="ageFilter" class="com.fexco.bgeadmin.integration.filter.LastCreatedFileListFilter">
                    <property name="age" value="30"/>
                </bean>
            </list>
        </constructor-arg></bean>

    <int:transformer input-channel="inboundFileChannel"
                     output-channel="outboundJobRequestChannel" method="toRequest">
        <bean class="com.fexco.bgeadmin.integration.FileMessageToJobRequest"/>
    </int:transformer>

    <batch-int:job-launching-gateway request-channel="outboundJobRequestChannel"
                                     reply-channel="jobLaunchReplyChannel"/>

    <int:logging-channel-adapter channel="jobLaunchReplyChannel"/>

</beans>

1 个答案:

答案 0 :(得分:4)

针对此类问题的最佳解决方案是#2 - 对于A,不要将文件写入B&#34;就地&#34;。使用上次修改时间是不可靠的。

这是<int:file-outbound-channel-adapter/>的标准程序 - 它使用下面的FileWritingMessageHandler。它有一个属性temporaryFileSuffix,默认为.writing。复制后重命名该文件。