导出到CSV文件

时间:2018-06-03 11:40:54

标签: python web-scraping beautifulsoup export-to-csv

我正在尝试将此代码的结果导出为CSV文件。我在代码后面进一步复制了下面的2个结果。每个库存有14个项目,我想写入CSV文件,每个库存有一个列,每个库存一行。

import requests
from bs4 import BeautifulSoup

base_url = 'http://finviz.com/screener.ashx?v=152&s=ta_topgainers&o=price&c=0,1,2,3,4,5,6,7,25,63,64,65,66,67'
html = requests.get(base_url)
soup = BeautifulSoup(html.content, "html.parser")
main_div = soup.find('div', attrs = {'id':'screener-content'})
table = main_div.find('table')
sub = table.findAll('tr')
rows = sub[5].findAll('td')
for row in rows:
    link = row.a
    if link is not None:
        print(link.get_text())

这是结果的格式,每个股票有14个/列。

PTN
Palatin Technologies, Inc.
Healthcare
Diagnostic Substances
USA
240.46M
9.22
193.43M
2.23M
0.76
1.19
7.21%
1,703,285
3
LKM
Link Motion Inc.
Technology
Application Software
China
128.95M
-
50.40M
616.76K
1.73
1.30
16.07%
1,068,798
4

试过这个但却无法解决这个问题。

TextWriter x = File.OpenWrite ("my.csv", ....);

x.WriteLine("Column1,Column2"); // header
x.WriteLine(coups.Cells[0].Text + "," + coups.Cells[1].Text);

2 个答案:

答案 0 :(得分:2)

这应该有效:

import requests
from bs4 import BeautifulSoup

base_url = 'http://finviz.com/screener.ashx?v=152&s=ta_topgainers&o=price&c=0,1,2,3,4,5,6,7,25,63,64,65,66,67'
html = requests.get(base_url)
soup = BeautifulSoup(html.content, "html.parser")
main_div = soup.find('div', attrs = {'id':'screener-content'})

light_rows = main_div.find_all('tr', class_="table-light-row-cp")
dark_rows = main_div.find_all('tr', class_="table-dark-row-cp")

data = []
for rows_set in (light_rows, dark_rows):
    for row in rows_set:
        row_data = []
        for cell in row.find_all('td'):
            val = cell.a.get_text()
            row_data.append(val)
        data.append(row_data)

#   sort rows to maintain original order
data.sort(key=lambda x: int(x[0]))

import pandas
pandas.DataFrame(data).to_csv("AAA.csv", header=False)

这里几件事:

  1. 我使用“table- [light | dark] -row-cp”因为所有的intrest行都有其中一个类(没有其他行有它们)
  2. 有两个单独的部分:一个是以正确的结构获取数据,另一个是 - 写入CSV文件。
  3. 我使用了pandas CSV writer,因为我对它很熟悉,但是当你有矩形数据(在这里命名为“data”)时你可以使用任何其他CSV编写器
  4. 您永远不应该使用保留名称命名变量,例如“sub”或“link”:)
  5. 希望有所帮助。

答案 1 :(得分:0)

为什么不使用内置的csv.writer