Question

字数和累计和

我的数据集最多可达150万行。该数据集是一个时间序列，年份格式如下所示。我试图以累积格式计算每年的字符串。示例如下：

lodgement_year                trademark_text
  1906                          PEPS
  1906  BILE BEANS FOR BILIOUSNESS B
  1906                     ZAM-BUK Z

  lodgement_year
  1906    {PEPS BILE BEANS FOR BILIOUSNESS B ZAM-BUK Z Z...

  1907    {WHS CHERUB BLACK & WHITE SOUTHERN CROSS HISTO...

作为一项初始任务，我将字符串分组，然后使用xxx在此论坛中发布的代码全年应用循环。循环工作时，以下信息会在以下信息后直接显示：

    The code :

    d = df_merge.groupby('lodgement_year')['trademark_text'].apply(lambda x: "{%s}" % ' '.join(x))


  for name in d.index:
            data = d.loc[name]
            ngram_vectorizer =    CountVectorizer(analyzer='word',tokenizer=word_tokenize, ngram_range=(1, 1), min_df=1)              
            X = ngram_vectorizer.fit_transform(data.split('\n'))
            vocab = list(ngram_vectorizer.get_feature_names())
            counts = X.sum(axis=0).A1
            freq_distribution = Counter(dict(zip(vocab, counts)))
            print (name, freq_distribution.most_common(10))

错误消息：

追踪（最近一次呼叫最后一次）：

文件＆＃34; / Users / PycharmProjects / Slice_Time_Series＆＃34;，第65行，in X = ngram_vectorizer.fit_transform（data.split（＆＃39; \ n＆＃39;））

File＆＃34; /Users/anaconda3/lib/python3.6/site-packages/pandas/core/generic.py" ;,第3081行， getattr return object。 getattribute （self，name） AttributeError：＆＃39;系列＆＃39;对象没有属性＆＃39; split＆＃39;

错误之前有效的输出：

 1906 [('.', 24), ("'s", 22), ('star', 18), ('&', 15), ('kodak', 12), ('co', 9), ('the', 9), ('brand', 8), ('express', 8), ('anchor', 6)]
 1907 [('&', 11), ("'s", 11), ('brand', 11), ('pinnacle', 7), ('vaseline', 7), ('the', 6), ('.', 5), ('co.', 5), ('kepler', 5), ('lucas', 5)]

任何帮助将不胜感激。作为下一个任务我试图创建一个1906年然后1906年加上1907年1906 + 1907 + 1908年的总和系列我不知道该做什么，任何指导都会很棒。

伊恩

Answer 1

您可以先按照lodgement变量对DF进行分组，然后迭代名称 - 组对，再做一个groupby，最后加入结果。

import pandas as pd
from collections import Counter
df = pd.DataFrame({'lodg':[1,2,1,3,1,2,2,3,1,1],
               'text':['x y z','y y','x y','z x','y x','y y z','x z','x x','x x','y z']})
grouped = df.groupby('lodg')
joined = []
for name, group in grouped:
    texts = " ".join(group['text'])
    groupCounts = Counter(texts.split(" ")).items()
    joined.append([name, [texts], groupCounts])
groupedJoined = pd.DataFrame(joined, columns = ['lodg','texts','textCounts'])

结果：

In [16]: groupedJoined
Out[16]: 
   lodg                    texts                textCounts
0     1  [x y z x y y x x x y z]  [(y, 4), (x, 5), (z, 2)]
1     2          [y y y y z x z]  [(y, 4), (x, 1), (z, 2)]
2     3                [z x x x]          [(x, 3), (z, 1)]

在明确的解决方案之后，需要花一点时间来提出1-liner lambda解决方案。

两个Lambdas：

df.groupby('lodg')['text'].apply(lambda x: "%s" % ' '.join(x)).apply(lambda x: Counter(x.split(" ")).items())

Single Lambda：

df.groupby('lodg')['text'].apply(lambda x: Counter((' '.join(x)).split(" ")).items())

两者产生相同的结果：

Out[62]: 
lodg
1    [(y, 4), (x, 5), (z, 2)]
2    [(y, 4), (x, 1), (z, 2)]
3            [(x, 3), (z, 1)]
Name: text, dtype: object

现在，如果您不想处理未命名的列（实际上称为索引），请将结果命名为res，然后执行res.reset_index()以获取此信息：

In [68]: res.reset_index()
Out[68]: 
   lodg                      text
0     1  [(y, 4), (x, 5), (z, 2)]
1     2  [(y, 4), (x, 1), (z, 2)]
2     3          [(x, 3), (z, 1)]

这应该更加直接。

使用groupby进行字数统计的问题然后使用python循环

1 个答案: