我是python和pandas的新手,我正在尝试操纵csv数据文件。我加载了两个数据框,一个包含一个带有关键字的列,另一个是带有“id”和“word”列的“bagOfWords”。我要做的是在第一个数据框中添加一列,并在“列表字符串”中添加关键字的ID,如“[1,2,8,99 ...]”。
这是我到目前为止所提出的
websitesAlchData = pd.io.parsers.read_csv('websitesAlchData.csv', sep=';', index_col='referer', encoding="utf-8")
bagOfWords = pd.io.parsers.read_csv('bagOfWords.csv', sep=';', header=0, names=["id","words","count"], encoding="utf-8")
a = set(bagOfWords['words'])
websitesAlchData['keywordIds'] = "[]"
for i in websitesAlchData.index
keywords = websitesAlchData.loc[i,'keywords']
try:
keywordsSet = set([ s.lower() for s in keywords.split(",") ])
except:
keywordsSet = set()
existingWords = a & keywordsSet
lista = []
for i in bagOfWords.index:
if bagOfWords.loc[i,'words'] in existingWords:
lista.append(bagOfWords.loc[i,'id'])
websitesAlchData.loc[i,'keywordIds'] = str(lista)
print(str(lista))
print(websitesAlchData.loc[i,'keywordIds'])
websitesAlchData.reset_index(inplace=True)
websitesAlchData.to_csv(path_or_buf = 'websitesAlchDataKeywordCode.csv', index=False, sep=";", encoding="utf-8")
for循环结尾处的两个打印出现了令人惊讶的结果,但是当我尝试打印整个数据框“websitesAlchData”时,“keywordIds”列仍然是“[]”,因此它在结果.csv中好。
我的猜测是我在某个地方创建了一个副本,但我不知道在哪里。
任何想法在这里有什么问题或如何做出同样的事情? 谢谢!
更新:
sitesAlchData.cvs看起来像这样
referer;category;keywords
url;int;word0,word2,word3
url;int;word1,word3
...
还有一包词cvc。
id;index;count
0;word0;11
1;word1;14
2;word2;14
3;word3;14
...
预期输出
referer;category;keywords;keywordIds
url;int;word0,word2,word3;[0,2,3]
url;int;word1,word3;[1,3]
答案 0 :(得分:0)
对i
个循环使用for
肯定有问题。改变它,看看是否有帮助。
答案 1 :(得分:0)
我会尝试这样的事情。您需要在较大的数据集上分析性能。
In [146]: df1
Out[146]:
referer category keywords
0 url int word0,word2,word3
1 url int word1,word3
[2 rows x 3 columns]
In [147]: df2
Out[147]:
id count
index
word0 0 11
word1 1 14
word2 2 14
word3 3 14
[4 rows x 2 columns]
将keywords
列拆分为单词列表。通常,在DataFrames中存储列表是一个糟糕的想法,但这是目前最直接的方法。
In [148]: vals = df1.keywords.str.split(',')
In [149]: vals
Out[149]:
0 [word0, word2, word3]
1 [word1, word3]
Name: keywords, dtype: object
然后将df2
的查询应用于vals
中列表的每个元素:
In [151]: ids = vals.apply(lambda x: [df2.loc[y, 'id'] for y in x])
In [152]: ids
Out[152]:
0 [0, 2, 3]
1 [1, 3]
Name: keywords, dtype: object
最后结识:
In [154]: df = pd.concat([df1, ids], axis=1)
In [155]: df
Out[155]:
referer category keywords keywords
0 url int word0,word2,word3 [0, 2, 3]
1 url int word1,word3 [1, 3]
[2 rows x 4 columns]