缺少值时,对所有可能的组进行自定义分组

时间:2019-03-19 08:20:16

标签: python pandas python-2.7 dataframe

我有一本代表一组产品的字典。我需要在这些产品中找到所有重复的产品。如果产品具有相同的product_typecolorsize->,则它们是重复的。如果我没有问题,我可以轻松地按('product_type','color','size')进行分组:缺少某些值。现在,我必须找到所有可能在彼此之间重复的产品组。 这意味着某些元素可以出现在多个组中。

让我举例说明:

import pandas as pd


def main():
    data= {'product_id': [1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11],
         'product_type': ['shirt', 'shirt', 'shirt', 'shirt', 'shirt', 'hat', 'hat', 'hat', 'hat', 'hat', 'hat', ],
         'color': [None, None, None, 'red', 'blue', None, 'blue', 'blue', 'blue', 'red', 'red', ],
                       'size': [None, 's', 'xl', None, None, 's', None, 's', 'xl', None, 'xl', ],
                       }
    print(data)

if __name__ == '__main__':
    main()

此数据:

enter image description here

我需要这个结果-每个可能的组的列表(可能只有最大的超级组):

![enter image description here

例如,让我们用id=1来做“衬衫” 该产品没有颜色或尺寸,因此他可能与2号衬衫(尺寸为“ s”但没有颜色)和4号衬衫(颜色为“红色”但可以)一起出现在可能的“重复组”中没有大小)。因此,这三件衬衫(1,2,4)可能是相同颜色“红色”和尺寸“ s”的复制品。

我试图通过遍历缺失值的所有可能组合来实现它,但感觉错了又复杂。

有没有办法得到想要的结果?

1 个答案:

答案 0 :(得分:0)

您可以创建所有非None的可能键,然后检查哪个项属于哪个键-遵守None s:

data= {'product_id'  : [1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11],
       'product_type': ['shirt', 'shirt', 'shirt', 'shirt', 'shirt', 'hat',
                        'hat', 'hat', 'hat', 'hat', 'hat', ],
       'color'       : [None, None, None, 'red', 'blue', None, 'blue', 
                        'blue', 'blue', 'red', 'red', ],
       'size'        : [None, 's', 'xl', None, None, 's', None, 's', 'xl', None, 'xl', ]}



from itertools import product

# create all keys without None in it     
p = product((t for t in set(data['product_type']) if t), 
            (c for c in set(data['color']) if c), 
            (s for s in set(data['size']) if s))

# create the things you have in stock
inventar = list( zip(data['product_id'],data['product_type'],data['color'],data['size']))
d = {}

# order things into its categories
for cat in p:
    d.setdefault(cat,set())  # uses a set to collect the IDs
    for item in inventar:
        TY, CO, SI = cat
        ID, TYPE, COLOR, SIZE = item

        # the (TYPE or TY) will substitute TY for any TYPE that is None etc.
        if (TYPE or TY)==TY and (COLOR or CO)==CO and (SIZE or SI)==SI:
            d[cat].add(ID)

print(d)

输出:

# category-key            id's that match
{('shirt', 'blue', 's') : {1, 2, 5}, 
 ('shirt', 'blue', 'xl'): {1, 3, 5}, 
 ('shirt', 'red', 's')  : {1, 2, 4}, 
 ('shirt', 'red', 'xl') : {1, 3, 4}, 
 ('hat', 'blue', 's')   : {8, 6, 7}, 
 ('hat', 'blue', 'xl')  : {9, 7}, 
 ('hat', 'red', 's')    : {10, 6},
 ('hat', 'red', 'xl')   : {10, 11}}

Doku: