如何从sql文本中删除短的twitter URL

时间:2015-08-29 13:14:16

标签: c# sql sql-server tsql

我在使用C#进行后期处理之前使用SQL查询来清理已保存的文本。我在文本之间嵌入了链接,有时它们之间没有空格。如果链接和下一个单词之间没有空格或者如果它位于句子的开头,那么代码可以得到它。

if CHARINDEX(N'http',@SelectCol1) > 0
    set @link = SUBSTRING(@SelectCol1, 
                          CHARINDEX('http', @SelectCol1), 
                          LEN(@SelectCol1))

update @StringToFix 
set [links] = @link,
    [text] = REPLACE(@SelectCol1, SUBSTRING(@SelectCol1, 
                                            CHARINDEX('http', @SelectCol1), 
                                            LEN(@SelectCol1)), ' ') 
where RowID = @CurrentRow 

原始示例

  

测试测试“http://t.co/pGRj7mxt6n#test#test

链接提取

  

http://t.co/pGRj7mxt6n#test #test

之所以无法正常工作,是因为如果没有空间,我没有找到方法知道链接的结束位置。

2 个答案:

答案 0 :(得分:0)

处理文本最强大的东西是正则表达式。您可以了解如何使用它来处理应用中的数据。 Here is the link

答案 1 :(得分:0)

这是代码,如果有人有兴趣。你总是可以优化它。 使用SQLsharp库

DECLARE @RowsToProcess  int
DECLARE @CurrentRow     int
DECLARE @SelectCol1     nvarchar(max)
declare @link nvarchar(max)
DECLARE @regEx nvarchar(max)
DECLARE @FtestReg nvarchar(max)

set @regex= '(?i)\b((?:https?:(?:/{1,3}|[a-z0-9%])|[a-z0-9.\-]+[.](?:com|net|org|edu|gov|mil|aero|asia|biz|cat|coop|info|int|jobs|mobi|museum|name|post|pro|tel|travel|xxx|ac|ad|ae|af|ag|ai|al|am|an|ao|aq|ar|as|at|au|aw|ax|az|ba|bb|bd|be|bf|bg|bh|bi|bj|bm|bn|bo|br|bs|bt|bv|bw|by|bz|ca|cc|cd|cf|cg|ch|ci|ck|cl|cm|cn|co|cr|cs|cu|cv|cx|cy|cz|dd|de|dj|dk|dm|do|dz|ec|ee|eg|eh|er|es|et|eu|fi|fj|fk|fm|fo|fr|ga|gb|gd|ge|gf|gg|gh|gi|gl|gm|gn|gp|gq|gr|gs|gt|gu|gw|gy|hk|hm|hn|hr|ht|hu|id|ie|il|im|in|io|iq|ir|is|it|je|jm|jo|jp|ke|kg|kh|ki|km|kn|kp|kr|kw|ky|kz|la|lb|lc|li|lk|lr|ls|lt|lu|lv|ly|ma|mc|md|me|mg|mh|mk|ml|mm|mn|mo|mp|mq|mr|ms|mt|mu|mv|mw|mx|my|mz|na|nc|ne|nf|ng|ni|nl|no|np|nr|nu|nz|om|pa|pe|pf|pg|ph|pk|pl|pm|pn|pr|ps|pt|pw|py|qa|re|ro|rs|ru|rw|sa|sb|sc|sd|se|sg|sh|si|sj|Ja|sk|sl|sm|sn|so|sr|ss|st|su|sv|sx|sy|sz|tc|td|tf|tg|th|tj|tk|tl|tm|tn|to|tp|tr|tt|tv|tw|tz|ua|ug|uk|us|uy|uz|va|vc|ve|vg|vi|vn|vu|wf|ws|ye|yt|yu|za|zm|zw)/)(?:[^\s()<>{}\[\]]+|\([^\s()]*?\([^\s()]+\)[^\s()]*?\)|\([^\s]+?\))+(?:\([^\s()]*?\([^\s()]+\)[^\s()]*?\)|\([^\s]+?\)|[^\s`!()\[\]{};:''.,<>?«»“”‘’])|(?:(?<!@)[a-z0-9]+(?:[.\-][a-z0-9]+)*[.](?:com|net|org|edu|gov|mil|aero|asia|biz|cat|coop|info|int|jobs|mobi|museum|name|post|pro|tel|travel|xxx|ac|ad|ae|af|ag|ai|al|am|an|ao|aq|ar|as|at|au|aw|ax|az|ba|bb|bd|be|bf|bg|bh|bi|bj|bm|bn|bo|br|bs|bt|bv|bw|by|bz|ca|cc|cd|cf|cg|ch|ci|ck|cl|cm|cn|co|cr|cs|cu|cv|cx|cy|cz|dd|de|dj|dk|dm|do|dz|ec|ee|eg|eh|er|es|et|eu|fi|fj|fk|fm|fo|fr|ga|gb|gd|ge|gf|gg|gh|gi|gl|gm|gn|gp|gq|gr|gs|gt|gu|gw|gy|hk|hm|hn|hr|ht|hu|id|ie|il|im|in|io|iq|ir|is|it|je|jm|jo|jp|ke|kg|kh|ki|km|kn|kp|kr|kw|ky|kz|la|lb|lc|li|lk|lr|ls|lt|lu|lv|ly|ma|mc|md|me|mg|mh|mk|ml|mm|mn|mo|mp|mq|mr|ms|mt|mu|mv|mw|mx|my|mz|na|nc|ne|nf|ng|ni|nl|no|np|nr|nu|nz|om|pa|pe|pf|pg|ph|pk|pl|pm|pn|pr|ps|pt|pw|py|qa|re|ro|rs|ru|rw|sa|sb|sc|sd|se|sg|sh|si|sj|Ja|sk|sl|sm|sn|so|sr|ss|st|su|sv|sx|sy|sz|tc|td|tf|tg|th|tj|tk|tl|tm|tn|to|tp|tr|tt|tv|tw|tz|ua|ug|uk|us|uy|uz|va|vc|ve|vg|vi|vn|vu|wf|ws|ye|yt|yu|za|zm|zw)\b/?(?!@)))'
--'http://(linkd\.in|t\.co|bitly\.co|tcrn\.ch).*?(\s|$)'
declare @StringToFix table
(   
    RowID int not null primary key identity(1,1),
    text nvarchar(max),
    statusID nvarchar(50),
    links nvarchar(max) default ((0))
)
insert into  @StringToFix 
select [text],min([statusID]),'' FROM [DB].[dbo].[Statuses] 
where inResponsetoSearchID =21
group by [text]
SET @RowsToProcess=@@ROWCOUNT


SET @CurrentRow=0
WHILE @CurrentRow<@RowsToProcess
BEGIN
    SET @CurrentRow=@CurrentRow+1
    SELECT 
        @SelectCol1=[text]
        FROM @StringToFix
        WHERE RowID=@CurrentRow

        set @FtestReg = SQL#.RegEx_MatchSimple(@SelectCol1, @regEx, 1,'IgnoreCase')
        set @link = @FtestReg

        while LEN(@FtestReg) >0  
        begin
            set @SelectCol1 =  REPLACE(@SelectCol1,@FtestReg,'')
            SELECT @FtestReg= SQL#.RegEx_MatchSimple(@SelectCol1,@regEx, 1,'IgnoreCase')
            set @link = CONCAT(@link,' ',@FtestReg)
        end

        update @StringToFix 
        set [links] = @link,
        [text] = @SelectCol1
        WHERE RowID=@CurrentRow

End