Ruby中2个文件之间的匹配模式列表

时间:2017-07-24 20:00:01

标签: ruby list string-matching

我正在尝试打印 Input.txt 中包含 ValuesToSearch.txt 中字符串的行。我下面显示的当前脚本打印正确的输出, 但是当我尝试使用实际数据时 Input.txt 有9.5百万行, ValuesToSearch.txt 有300行,处理速度非常慢。

如何修改脚本以加快输出速度?感谢

INPUT.TXT

ID       HM    PRAO  LN  AC
1401144  851    2    45   32
1401145  6D2    4    45   32
1401146  B33    1    45   32
1401147  EEC    9    45   32
1401148  730    1    45   32
1401149  C08    3    45   32
1401150  B91    4    45   32
1401151  978    1    45   32
1401152  6A9    0    45   32

ValuesToSearch.txt

1401176
1401148
1401149
1401151

我的剧本:

ruby -e '
a=File.foreach("Input.txt").map {|l| l.split(" ")}
b=File.foreach("ValuesToSearch.txt").map {|l| l.split(" ")}.flatten

b.map{ |z| 
    a.map{ |i| puts i.join(" ") if i.include?(z) } 
}'

1401148 730 1 45 32
1401149 C08 3 45 32
1401151 978 1 45 32

2 个答案:

答案 0 :(得分:1)

这个怎么样?

dict = File.read('/tmp/ValuesToSearch.txt').split.inject({}) do |acc, word|
  acc[word] = true
  acc
end

File.foreach('/tmp/Input.txt') do |line|
  puts line if line.split.any? { |word| dict[word] }
end

在这种方法中,我使用哈希来存储“要搜索的值” 因此,我们可以搜索O(1)(而不是O(N))。

你不需要在Input.txt的单词中迭代两次。
您可以在一次迭代中打印所需的行。

根据@tadman的建议,将此脚本放在一个文件中并使用ruby myscript.rb执行它。

答案 1 :(得分:1)

首先让我们创建两个文件。

VTS_FName = "ValuesToSearch.txt"
vts_data = <<-_
1401176
1401148
1401149
1401151
_
File.write(VTS_FName, vts_data)
  #=> 32

IT_FName = "Input.txt"
it_data = <<-_
ID       HM    PRAO  LN  AC
1401144  851    2    45   32
1401145  6D2    4    45   32
1401146  B33    1    45   32
1401147  EEC    9    45   32
1401148  730    1    45   32
1401149  C08    3    45   32
1401150  B91    4    45   32
1401151  978    1    45   32
1401152  6A9    0    45   32
_
File.write(IT_FName, it_data)
  #=> 289

这里提高效率的关键是使VTS_FName的内容成为集合而不是数组。

require 'set'

vts_set = File.readlines(VTS_FName).map(&:chomp).to_set
File.foreach(IT_FName) { |line| puts line if vts_set.include?(line[/\d+/]) }
1401148  730    1    45   32
1401149  C08    3    45   32
1401151  978    1    45   32

要保存匹配的行,而不是打印它们,请使用以下内容(在创建vts_set之后)。

File.foreach(IT_FName).with_object([]) { |line, arr|
  arr << line.chomp if vts_set.include?(line[/\d+/]) }
  #=> ["1401148  730    1    45   32",
  #    "1401149  C08    3    45   32",
  #    "1401151  978    1    45   32"]