如果该子列表中的任何元素在另一个列表中,如何删除列表中的列表(即子列表)?

时间:2013-09-05 20:24:21

标签: python performance list sublist

我有一个包含许多子列表的列表。例如:

full_list = [[1, 1, 3, 4], [3, 99, 5, 2],[2, 4, 4], [3, 4, 5, 2, 60]]

我还有另一个列表,名为omit。例如:

omit = [99, 60, 98]

如果该子列表中的任何元素位于省略列表中,我想删除full_list中的子列表。例如,我希望结果列表为:

reduced_list = [[1, 1, 3, 4], [2, 4, 4]]

因为只有这些子列表没有省略列表中的元素。

我猜是有一些简单的方法可以通过列表理解来解决这个问题,但我无法让它工作。我尝试了很多东西:例如:

reduced_list = [sublist for sublist in full_list if item for sublist not in omit] 
  • 此代码导致错误(snytax无效) - 但我认为我错过了更多。

任何帮助将不胜感激!

p.s。,以上是一个简化的问题。我的最终目标是从非常长的列表(例如,500,000个子列表)中删除子列表,如果这些子列表中的任何元素(字符串)在"省略"列表包含超过2000个字符串。

3 个答案:

答案 0 :(得分:5)

使用setall()

>>> omit = {99, 60, 98}
>>> full_list = [[1, 1, 3, 4], [3, 99, 5, 2],[2, 4, 4], [3, 4, 5, 2, 60]]
>>> [item for item in full_list if all(x not in omit for x in item)]
[[1, 1, 3, 4], [2, 4, 4]]

这种方法与@ alecxe(或@ÓscarLópez)解决方案的主要区别在于它all短路并且不会在内存中创建任何集合或列表,而set-intersection返回一个新的集合包含与omit set共同的所有项目,并检查其长度以确定是否有任何项目是常见的。(set-intersection以内部C速度发生,因此它比{{1中使用的正常python循环更快}})

时间比较:

all

没有项目相交:

>>> import random

所有项目相交:

>>> omit = set(random.randrange(1, 10**18) for _ in xrange(100000))
>>> full_list = [[random.randrange(10**19, 10**100) for _ in xrange(100)] for _ in xrange(1000)]

>>> %timeit [item for item in full_list if not omit & set(item)]
10 loops, best of 3: 43.3 ms per loop
>>> %timeit [x for x in full_list if not omit.intersection(x)]
10 loops, best of 3: 28 ms per loop
>>> %timeit [item for item in full_list if all(x not in omit for x in item)]
10 loops, best of 3: 65.3 ms per loop

有些项目相交:

>>> full_list = [range(10**3) for _ in xrange(1000)]
>>> omit = set(xrange(10**3))
>>> %timeit [item for item in full_list if not omit & set(item)]
1 loops, best of 3: 148 ms per loop
>>> %timeit [x for x in full_list if not omit.intersection(x)]
1 loops, best of 3: 108 ms per loop
>>> %timeit [item for item in full_list if all(x not in omit for x in item)]
100 loops, best of 3: 1.62 ms per loop

答案 1 :(得分:2)

试试这个:

full_list = [[1, 1, 3, 4], [3, 99, 5, 2], [2, 4, 4], [3, 4, 5, 2, 60]]
omit = frozenset([99, 60, 98])
reduced_list = [x for x in full_list if not omit.intersection(x)]

我对输入数据的唯一更改是omit现在是一个集合,出于效率原因,因为它将允许我们执行快速交集(它被冻结,因为我们不会修改它),注意x不一定是一组。现在reduced_list变量将包含预期值:

reduced_list
=> [[1, 1, 3, 4], [2, 4, 4]]

答案 2 :(得分:1)

使omit成为一组,检查每个迭代步骤的交集:

>>> full_list = [[1, 1, 3, 4], [3, 99, 5, 2],[2, 4, 4], [3, 4, 5, 2, 60]]
>>> omit = [99, 60, 98]
>>> omit = set(omit)  # or just omit = {99, 60, 98} for python >= 2.7
>>> [item for item in full_list if not omit & set(item)]
[[1, 1, 3, 4], [2, 4, 4]]

仅供参考,最好使用frozenset代替@ÓscarLópez建议的套装。使用frozenset它会更快地运行:

import timeit


def omit_it(full_list, omit):
    return [item for item in full_list if not omit & set(item)]

print timeit.Timer('omit_it([[1, 1, 3, 4], [3, 99, 5, 2],[2, 4, 4], [3, 4, 5, 2, 60]], {99, 60, 98})',
                   'from __main__ import omit_it').timeit(10000)

print timeit.Timer('omit_it([[1, 1, 3, 4], [3, 99, 5, 2],[2, 4, 4], [3, 4, 5, 2, 60]], frozenset([99, 60, 98]))',
                   'from __main__ import omit_it').timeit(10000)

打印:

0.0334849357605
0.0319349765778