我必须解析5000个文件 - 看起来非常相似。
我喜欢使用HTML::TokeParser::Simple和DBI来执行解析作业并存储结果。
我对HTML::TokeParser::Simple
的经验不多,但这项任务还没有结束
我的头。注意:我也看过这些想法 - 这似乎也是一种合适的方式。但目前我有问题需要获取相应的xpath-expressions:我试图确定需要在Perl程序中填充的相应xpath表达式。
这就是我现在所拥有的:
use strict;
use HTML::TreeBuilder::XPath;
my $tree = HTML::TreeBuilder::XPath->new;
#use real file name here
open(my $fh, "<", "file.html") or die $!;
$tree->parse_file($fh);
my ($name) = $tree->findnodes(qq{/html/body/table/tr[1]/td[2]});
my ($type) = $tree->findnodes(qq{/html/body/table/tr[1]/td[2]});
my ($adress) = $tree->findnodes(qq{/html/body/table/tr[1]/td[2]});
my ($adress_two) = $tree->findnodes(qq{/html/body/table/tr[1]/td[2]});
my ($telephone) = $tree->findnodes(qq{/html/body/table/tr[1]/td[2]});
my ($fax) = $tree->findnodes(qq{/html/body/table/tr[1]/td[2]});
my ($internet) = $tree->findnodes(qq{/html/body/table/tr[1]/td[2]});
my ($officer) = $tree->findnodes(qq{/html/body/table/tr[1]/td[2]});
my ($employees) = $tree->findnodes(qq{/html/body/table/tr[1]/td[2]});
my ($offices) = $tree->findnodes(qq{/html/body/table/tr[1]/td[2]});
my ($worker) = $tree->findnodes(qq{/html/body/table/tr[1]/td[2]});
my ($country) = $tree->findnodes(qq{/html/body/table/tr[1]/td[2]});
my ($the_council)= $tree->findnodes(qq{/html/body/table/tr[1]/td[2]});
print $name->as_text;
print $type->as_text;
print $adress->as_text;
print $adress_two->as_text;
print $telephone->as_text;
print $fax->as_text;
print $internet->as_text;
print $officer->as_text;
print $employees->as_text;
print $offices->as_text;
print $worker->as_text;
print $country->as_text;
print $the_council->as_text;
这样可以吗?注意 - 我希望将其存储在数据库中。
顺便说一句:请参阅其中一个示例网站:
在灰色阴影块中,您可以看到想要的信息:需要17行。注意 - 我有5000个不同的HTML文件 - 所有这些都是以相同的方式构建的!
这意味着我很乐意拥有一个可以使用HTML :: TokeParser :: Simple和DBI运行的模板。
我可以使用上面提到的代码......或者我必须更改它。
很高兴收到你的来信!那太好了!!
答案 0 :(得分:3)
使用一些HTML::TableExtract魔法:
#!/usr/bin/perl
use strict; use warnings;
use HTML::TableExtract;
use YAML;
my $te = HTML::TableExtract->new( attribs => {
border => 0,
bgcolor => '#EFEFEF',
leftmargin => 15,
topmargin => 5,
});
$te->parse_file('kultus-bw.html');
my ($table) = $te->tables;
for my $row ( $table->rows ) {
cleanup(@$row);
print "@$row\n";
}
sub cleanup {
for ( @_ ) {
s/\s+//;
s/[\xa0 ]+\z//;
s/\s+/ /g;
}
}
输出:
Schul-/Behördenname: Abendgymnasium Ostwürttemberg Schulart: Privatschule (04313488) Hausadressse: Friedrichstr.70, 73430 Aalen Postfachadresse: Keine Angabe Telefon: 07361/680040 Fax: 07361/680040 E-Mail: Keine Angabe Internet: www.abendgymnasium-ostwuerttemberg.de ÜbergeordneteDienststelle: Regierungspräsidium Stuttgart Abteilung 7 Schule und Bildung Schulleitung: Keine Angabe Stellv.Schulleitung: Keine Angabe AnzahlSchüler: 259 AnzahlKlassen: 8 AnzahlLehrer: Keine Angabe Kreis: Ostalbkreis Schulträger: <Verband/Verein> (Verband/Verein)
当然,我在运行脚本之前保存了页面的本地副本。