“ C#脚本任务,用于在加载.CSV文件之前删除四重引号”

时间:2019-03-27 15:07:17

标签: c# ssis etl flat-file script-task

我有一个相当基本的SSIS程序包,它将一个.csv文件加载到SQL表中。但是,当程序包尝试在数据流任务中读取.csv源时,我收到错误消息:“未找到列'X'的列定界符。在数据上处理文件“ file.csv”时发生错误“ Y”行。”

在这种情况下,正在发生的是数千行中的几行包含四引号内的字符串,即“ Jane“ Jill” Doe“。在UltraEdit中,可以手动删除这些行中的引号,但是,我试图使这些程序包自动化。派生列不起作用,因为这是分隔符的问题。

原来,我需要一个脚本任务来删除四重引号,然后程序包才能正确加载文件。下面的代码(我从各种来源拼凑而成)被SSIS接受为无错误,但在执行时遇到DTS脚本任务运行时错误:

#region Namespaces
using System;
using System.Data;
using Microsoft.SqlServer.Dts.Runtime;
using System.Windows.Forms;
#endregion

namespace ST_a881d570d1a6495e84824a72bd28f44f
 {
[Microsoft.SqlServer.Dts.Tasks.ScriptTask.SSISScriptTaskEntryPointAttribute]
public partial class ScriptMain : Microsoft.SqlServer.Dts.Tasks.ScriptTask.VSTARTScriptObjectModelBase
{
    public void Main()
    {
        // TODO: Add your code here
        var fileContents = System.IO.File.ReadAllText(@"C:\\File.csv");

        fileContents = fileContents.Replace("<body>", "<body onload='jsFx();' />");
        fileContents = fileContents.Replace("</body>", "</body>");

        System.IO.File.WriteAllText(@"C:\\File.csv", fileContents);

    }

    #region ScriptResults declaration
    /// <summary>
    /// This enum provides a convenient shorthand within the scope of this class for setting the
    /// result of the script.
    /// 
    /// This code was generated automatically.
    /// </summary>
    enum ScriptResults
    {
        Success = Microsoft.SqlServer.Dts.Runtime.DTSExecResult.Success,
        Failure = Microsoft.SqlServer.Dts.Runtime.DTSExecResult.Failure
    };
    #endregion

    }
}

我的备用脚本是:

{
string filepath = (string)Dts.Variables[@C:\\"File.csv"].Value;
var fileContents = System.IO.File.ReadAllText(filepath);
fileContents = fileContents.Replace("\"\"", "");

System.IO.File.WriteAllText(@C:\\"File.csv", fileContents);

}

我在做什么错了?

1 个答案:

答案 0 :(得分:2)

下面的C#示例将搜索一个csv文件,删除双引号文本中包含的所有双引号,然后将修改后的内容写回到该文件中。正则表达式返回的任何双引号都不在字符串的开头或结尾,或者在字符串前后直接没有逗号,然后用空字符串替换双引号。您可能已经在执行此操作,但是请确保在脚本任务的ReadOnlyVariables字段中列出了保存文件路径的变量。

using System.Collections.Generic;
using System.IO;
using System.Text.RegularExpressions;


string filePath = Dts.Variables["User::FilePath"].Value.ToString();

List<String> outputRecords = new List<String>();
if (File.Exists(filePath))
{
 using (StreamReader rdr = new StreamReader(filePath))
 {
  string line;
  while ((line = rdr.ReadLine()) != null)
  {
      if (line.Contains(","))
      {
          string[] split = line.Split(',');

       //replace double qoutes between text
       line = Regex.Replace(line, "(?<!(,|^))\"(?!($|,))", x => x.Value.Replace("\"", ""));

      }
      outputRecords.Add(line);
    }
 }

 using (StreamWriter sw = new StreamWriter(filePath, false))
 {
     //write filtered records back to file
     foreach (string s in outputRecords)
         sw.WriteLine(s);
  }
}