使用Python从数据框的列中删除停用词

时间:2020-01-17 10:49:11

标签: python dataframe web-scraping stop-words

我设法从网站中提取了一个单词列表,并将它们存储在数据框中。现在,我需要从“ Palabras”列中删除其中一些单词,并仅保留前500条记录。

到目前为止,这是我的代码:

import requests
wiki_url = "https://es.wiktionary.org/wiki/Wikcionario:Frecuentes-(1-1000)-Subt%C3%ADtulos_de_pel%C3%ADculas"
wiki_texto = requests.get(wiki_url).text
from bs4 import BeautifulSoup
wiki_datos = BeautifulSoup(wiki_texto, "html")
wiki_filas = wiki_datos.findAll("tr")
print(wiki_filas[1])

print("...............................")

wiki_celdas = wiki_datos.findAll("td")
print(wiki_celdas[0:])
fila_1 = wiki_celdas[0:]
info_1 = [elemento.get_text() for elemento in fila_1]
print(fila_1)
print(info_1)
info_1[0] = int(float(info_1[0]))
print(info_1)


print("...............................")

num_or = [int(float(elem.findAll("td")[0].get_text())) for elem in wiki_filas[1:]]
palabras = [elem.findAll("td")[1].get_text().rstrip() for elem in wiki_filas[1:]]
frecuencia = [elem.findAll("td")[2].get_text().rstrip() for elem in wiki_filas[1:]]
print(num_or[0:])
print(palabras[0:])
print(frecuencia[0:])

from pandas import DataFrame
tabla = DataFrame([num_or, palabras, frecuencia]).T
tabla.columns = ["Núm. orden", "Palabras", "Frecuencia"]
print(tabla.head())
print(tabla)

print("...............................")

import nltk
nltk.download()
from nltk.corpus import stopwords 
prep = stopwords.words('spanish')
print(prep)

enter image description here

所以我需要删除此代码中包含的单词列表

stopwords.words('西班牙语')

在“ Palabras”列中,仅保留前500条记录(频率较高的单词):

import nltk
nltk.download()
from nltk.corpus import stopwords 
prep = stopwords.words('spanish')

谢谢!

1 个答案:

答案 0 :(得分:2)

我设法从一个网站中提取了一个单词列表,并将其存储在 字典。

注意:实际上,您将它们存储在数据框中。

您可以使用isin。基本上,您希望获得行'Palabras'中的单词在停用词列表中的行。因此,您只需要过滤这些行,然后使用与~相反的行即可。由于已经排序,因此只需使用.head(500)

tabla = tabla[~tabla['Palabras'].isin(prep)].head(500)

此外,由于html包含table标签,因此我考虑使用熊猫.read_html(),因为它在幕后使用了beautifulsoup,但为您做了辛苦的工作。您的代码可以大大减少:

完整代码,相同结果:

import nltk
import pandas as pd
#nltk.download()
from nltk.corpus import stopwords 
prep = stopwords.words('spanish')
print(prep)



tabla_beta = pd.read_html(wiki_url)[0]
tabla_beta.columns = ["Núm. orden", "Palabras", "Frecuencia"]
tabla_beta = tabla_beta[~tabla_beta['Palabras'].isin(prep)].head(500)