我正在尝试打印 Input.txt 中包含 ValuesToSearch.txt 中字符串的行。我下面显示的当前脚本打印正确的输出, 但是当我尝试使用实际数据时 Input.txt 有9.5百万行, ValuesToSearch.txt 有300行,处理速度非常慢。
如何修改脚本以加快输出速度?感谢
INPUT.TXT
ID HM PRAO LN AC
1401144 851 2 45 32
1401145 6D2 4 45 32
1401146 B33 1 45 32
1401147 EEC 9 45 32
1401148 730 1 45 32
1401149 C08 3 45 32
1401150 B91 4 45 32
1401151 978 1 45 32
1401152 6A9 0 45 32
ValuesToSearch.txt
1401176
1401148
1401149
1401151
我的剧本:
ruby -e '
a=File.foreach("Input.txt").map {|l| l.split(" ")}
b=File.foreach("ValuesToSearch.txt").map {|l| l.split(" ")}.flatten
b.map{ |z|
a.map{ |i| puts i.join(" ") if i.include?(z) }
}'
1401148 730 1 45 32
1401149 C08 3 45 32
1401151 978 1 45 32
答案 0 :(得分:1)
这个怎么样?
dict = File.read('/tmp/ValuesToSearch.txt').split.inject({}) do |acc, word|
acc[word] = true
acc
end
File.foreach('/tmp/Input.txt') do |line|
puts line if line.split.any? { |word| dict[word] }
end
在这种方法中,我使用哈希来存储“要搜索的值” 因此,我们可以搜索O(1)(而不是O(N))。
你不需要在Input.txt的单词中迭代两次。
您可以在一次迭代中打印所需的行。
根据@tadman的建议,将此脚本放在一个文件中并使用ruby myscript.rb
执行它。
答案 1 :(得分:1)
首先让我们创建两个文件。
VTS_FName = "ValuesToSearch.txt"
vts_data = <<-_
1401176
1401148
1401149
1401151
_
File.write(VTS_FName, vts_data)
#=> 32
IT_FName = "Input.txt"
it_data = <<-_
ID HM PRAO LN AC
1401144 851 2 45 32
1401145 6D2 4 45 32
1401146 B33 1 45 32
1401147 EEC 9 45 32
1401148 730 1 45 32
1401149 C08 3 45 32
1401150 B91 4 45 32
1401151 978 1 45 32
1401152 6A9 0 45 32
_
File.write(IT_FName, it_data)
#=> 289
这里提高效率的关键是使VTS_FName
的内容成为集合而不是数组。
require 'set'
vts_set = File.readlines(VTS_FName).map(&:chomp).to_set
File.foreach(IT_FName) { |line| puts line if vts_set.include?(line[/\d+/]) }
1401148 730 1 45 32
1401149 C08 3 45 32
1401151 978 1 45 32
要保存匹配的行,而不是打印它们,请使用以下内容(在创建vts_set
之后)。
File.foreach(IT_FName).with_object([]) { |line, arr|
arr << line.chomp if vts_set.include?(line[/\d+/]) }
#=> ["1401148 730 1 45 32",
# "1401149 C08 3 45 32",
# "1401151 978 1 45 32"]