从网页表中搜索值

时间:2016-09-20 17:58:56

标签: python html beautifulsoup

我想从这个color dictionary创建一个颜色名称为背景颜色的python字典。

访问颜色名称字符串和背景颜色十六进制值的最佳方法是什么?我想为颜色名称创建一个映射 - >十六进制值,其中1个颜色名称映射到1个或多个十六进制值。

以下是我的代码:

import requests
from bs4 import BeautifulSoup

page = requests.get('http://people.csail.mit.edu/jaffer/Color/M.htm')
soup = BeautifulSoup(page.text)

我不知道如何指定从表中删除的内容。我尝试了以下方法来获得一个有用的格式:

soup.td
<td nowrap="" width="175*">abbey</td>


soup.get_text()
"(M)\n td { padding: 0 10px; }  \n\n(M) Dictionary of Color  Maerz and Paul, Dictionary of Color, 1st ed.   \n\nabbey207\nabsinthe [green]  120\nabsinthe yellow105\nacacia101102\nacademy blue173\nacajou43\nacanthe95\nacier109\nackermann's green137\naconite violet223....
.............\nyolk yellow84\nyosemite76\nyucatan5474\nyucca150\nyu chi146\nyvette violet228\n\nzaffre blue  179182\nzanzibar47\nzedoary wash71\nzenith [blue]  199203\nzephyr78\nzinc233265\nzinc green136\nzinc orange5053\nzinc yellow84\nzinnia15\nzulu47\nzuni brown58\n\n"


soup.select('tr td')
[...
<td nowrap="" width="175*">burnt russet</td>,
 <td style="background-color:#722F37; color:#FFF" title="16">16</td>,
 <td style="background-color:#79443B; color:#FFF" title="43">43
 </td>,
 <td nowrap="" width="175*">burnt sienna</td>,
 <td style="background-color:#9E4732; color:#FFF" title="38">38
 </td>,
 ...]

编辑: 我想在td元素中删除字符串,例如“burnt russet”作为颜色和以下td元素中的字符串(hex组件),其中“style”属性被指定为背景颜色。

我希望字典看起来如下:

color_map = {'burnt russet': [#722F37, #79443B], 'burnt sienna': [#9E4732]}

2 个答案:

答案 0 :(得分:3)

只需使用nowrap查找tds,提取文本并获取以下兄弟姐妹td&#39> style 属性:

import requests
from bs4 import BeautifulSoup

page = requests.get('http://people.csail.mit.edu/jaffer/Color/M.htm')
soup = BeautifulSoup(page.content)
for td in soup.select("td[nowrap]"):
    print(td.text, [sib["style"] for sib in td.find_next_siblings("td")])

输出片段:

 (u'abbey', ['background-color:#604E97; color:#FFF'])
(u'absinthe [green]  ', ['background-color:#8A9A5B'])
(u'absinthe yellow', ['background-color:#B9B57D'])
(u'acacia', ['background-color:#EAE679', 'background-color:#B9B459'])
(u'academy blue', ['background-color:#367588'])
(u'acajou', ['background-color:#79443B; color:#FFF'])
(u'acanthe', ['background-color:#6C541E; color:#FFF'])
(u'acier', ['background-color:#8C8767'])
(u"ackermann's green", ['background-color:#355E3B; color:#FFF'])
(u'aconite violet', ['background-color:#86608E'])
(u'acorn', ['background-color:#7E6D5A; color:#FFF'])
(u'adamia', ['background-color:#563C5C; color:#FFF'])
(u'adelaide', ['background-color:#32174D; color:#FFF'])

如果您只想要十六进制值,可以在"; "上拆分样式文本,然后在:上拆分子字符串:

page = requests.get('http://people.csail.mit.edu/jaffer/Color/M.htm')
soup = BeautifulSoup(page.content)
d = {}
for td in soup.select("td[nowrap]"):
    cols = td.find_next_siblings("td")
    d[td.text] = [st.split(":", 1)[-1] for sib in cols for st in sib["style"].split("; ")]

print(d)

那会给你一个像:

的蠢事
{u'moonlight ': ['#FAD6A5', '#BFB8A5'], u'honey bird': ['#239EBA'], u'monte carlo ': ['#007A74', '#317873'],...............

您需要使用lxmlhtml5lib作为解析器来处理损坏的html。我认为你正在使用其中一个,好像不是你不会得到你做的输出。

答案 1 :(得分:1)

您尝试抓取的网页是非常糟糕的HTML。在<tr>之后,很明显大多数行都以<td>开头,然后有一个或多个BeautifulSoup元素,所有这些都没有结束标记。使用import re import requests page = requests.get('http://people.csail.mit.edu/jaffer/Color/M.htm') lines = page.text.splitlines() opening = '<tr><td width="175*" nowrap>' ending = '<td title="' bg_re = r'style="background-color:(#.{6})' color_map = dict() for line in lines: if line.startswith(opening): color_name = line[len(opening):line.find(ending)].strip() color_hex = [match.group(1) for match in re.finditer(bg_re, line)] if color_name in color_map: color_map[color_name].extend(color_hex) # Note: some colors are repeated else: color_map[color_name] = color_hex color_map['burnt russet'] ## ['#722F37', '#79443B'] ,应该指定一个HTML解析器,对于手头的情况,我们最好希望解析器能够理解表结构。

我提出的解决方案依赖于网页本身的结构化格式。我没有将网页解析为HTML,而是使用每种颜色都有自己的行,每行都有一个共同的格式。

has_many :imed_operator_contacts, through: :imed_operator

快速而肮脏,但它确实有效。