提高将文件缓慢附加到主文件的速度

时间:2019-04-11 16:30:19

标签: excel ssis etl

我正在尝试将一组(10个)相同的列Excel文件组合(或最好用一个附加词)到一个主文件中。

我尝试了一个非常简单的过程,在控制流中使用foreach循环,并简单地将Excel Source转换为Excel Destination。该过程不仅很慢(每秒大约粘贴1条记录),而且在大约5万条记录后消失。

它看起来像: Foreach循环容器->数据流任务

数据流任务为Excel源-> Excel目标

最后,我想查看一个主文件,其中附加了所有文件。我知道还有其他工具可以直接在Excel中执行此操作,例如PowerQuery,但是我试图更好地理解SSIS,并且我有很多处理方法可以在SQL Server中更好地完成。

有更好的方法吗?我在网上搜索了很多内容,但在SSIS中找不到这样的示例。

1 个答案:

答案 0 :(得分:0)

这很简单。我建议的一件事是将csv格式的平面文件加载到Excel中轻松打开。

  1. 在文件名上枚举的Foreach循环。
  2. 在Foreach GUI中设置:
  3. Excel文件的路径
  4. 文件的结构(例如myfiles * .xls)
  5. 转到变量映射并将完全限定的名称映射到变量
  6. 创建与任意一个文件的Excel连接。
  7. 在excel连接属性中,打开Expression,然后将文件路径设置为5中的变量
  8. 还在属性中将延迟验证设置为true
  9. 将数据流任务添加到foreach循环容器中
  10. 转到数据流
  11. 使用源助手读取excel源
  12. 使用目标助手加载到平面文件(可能会确保不覆盖目标,否则您只会得到最后一个工作簿