我有一个包含许多子列表的列表。例如:
full_list = [[1, 1, 3, 4], [3, 99, 5, 2],[2, 4, 4], [3, 4, 5, 2, 60]]
我还有另一个列表,名为omit。例如:
omit = [99, 60, 98]
如果该子列表中的任何元素位于省略列表中,我想删除full_list中的子列表。例如,我希望结果列表为:
reduced_list = [[1, 1, 3, 4], [2, 4, 4]]
因为只有这些子列表没有省略列表中的元素。
我猜是有一些简单的方法可以通过列表理解来解决这个问题,但我无法让它工作。我尝试了很多东西:例如:
reduced_list = [sublist for sublist in full_list if item for sublist not in omit]
任何帮助将不胜感激!
p.s。,以上是一个简化的问题。我的最终目标是从非常长的列表(例如,500,000个子列表)中删除子列表,如果这些子列表中的任何元素(字符串)在"省略"列表包含超过2000个字符串。
答案 0 :(得分:5)
使用set
和all()
:
>>> omit = {99, 60, 98}
>>> full_list = [[1, 1, 3, 4], [3, 99, 5, 2],[2, 4, 4], [3, 4, 5, 2, 60]]
>>> [item for item in full_list if all(x not in omit for x in item)]
[[1, 1, 3, 4], [2, 4, 4]]
这种方法与@ alecxe(或@ÓscarLópez)解决方案的主要区别在于它all
短路并且不会在内存中创建任何集合或列表,而set-intersection返回一个新的集合包含与omit
set共同的所有项目,并检查其长度以确定是否有任何项目是常见的。(set-intersection以内部C速度发生,因此它比{{1中使用的正常python循环更快}})
all
没有项目相交:
>>> import random
所有项目相交:
>>> omit = set(random.randrange(1, 10**18) for _ in xrange(100000))
>>> full_list = [[random.randrange(10**19, 10**100) for _ in xrange(100)] for _ in xrange(1000)]
>>> %timeit [item for item in full_list if not omit & set(item)]
10 loops, best of 3: 43.3 ms per loop
>>> %timeit [x for x in full_list if not omit.intersection(x)]
10 loops, best of 3: 28 ms per loop
>>> %timeit [item for item in full_list if all(x not in omit for x in item)]
10 loops, best of 3: 65.3 ms per loop
有些项目相交:
>>> full_list = [range(10**3) for _ in xrange(1000)]
>>> omit = set(xrange(10**3))
>>> %timeit [item for item in full_list if not omit & set(item)]
1 loops, best of 3: 148 ms per loop
>>> %timeit [x for x in full_list if not omit.intersection(x)]
1 loops, best of 3: 108 ms per loop
>>> %timeit [item for item in full_list if all(x not in omit for x in item)]
100 loops, best of 3: 1.62 ms per loop
答案 1 :(得分:2)
试试这个:
full_list = [[1, 1, 3, 4], [3, 99, 5, 2], [2, 4, 4], [3, 4, 5, 2, 60]]
omit = frozenset([99, 60, 98])
reduced_list = [x for x in full_list if not omit.intersection(x)]
我对输入数据的唯一更改是omit
现在是一个集合,出于效率原因,因为它将允许我们执行快速交集(它被冻结,因为我们不会修改它),注意x
不一定是一组。现在reduced_list
变量将包含预期值:
reduced_list
=> [[1, 1, 3, 4], [2, 4, 4]]
答案 2 :(得分:1)
使omit
成为一组,检查每个迭代步骤的交集:
>>> full_list = [[1, 1, 3, 4], [3, 99, 5, 2],[2, 4, 4], [3, 4, 5, 2, 60]]
>>> omit = [99, 60, 98]
>>> omit = set(omit) # or just omit = {99, 60, 98} for python >= 2.7
>>> [item for item in full_list if not omit & set(item)]
[[1, 1, 3, 4], [2, 4, 4]]
仅供参考,最好使用frozenset
代替@ÓscarLópez建议的套装。使用frozenset
它会更快地运行:
import timeit
def omit_it(full_list, omit):
return [item for item in full_list if not omit & set(item)]
print timeit.Timer('omit_it([[1, 1, 3, 4], [3, 99, 5, 2],[2, 4, 4], [3, 4, 5, 2, 60]], {99, 60, 98})',
'from __main__ import omit_it').timeit(10000)
print timeit.Timer('omit_it([[1, 1, 3, 4], [3, 99, 5, 2],[2, 4, 4], [3, 4, 5, 2, 60]], frozenset([99, 60, 98]))',
'from __main__ import omit_it').timeit(10000)
打印:
0.0334849357605
0.0319349765778