如何检查迭代是否允许多次传递?

时间:2012-01-24 20:04:14

标签: python types iterator python-3.x

在Python 3中,如何检查对象是否是容器(而不是只允许一次传递的迭代器)?

以下是一个例子:

def renormalize(cont):
    '''
    each value from the original container is scaled by the same factor
    such that their total becomes 1.0
    '''
    total = sum(cont)
    for v in cont:
        yield v/total

list(renormalize(range(5))) # [0.0, 0.1, 0.2, 0.3, 0.4]
list(renormalize(k for k in range(5))) # [] - a bug!

显然,当renormalize函数收到生成器表达式时,它不能按预期工作。它假设它可以多次遍历容器,而生成器只允许一次通过它。

理想情况下,我想这样做:

def renormalize(cont):
    if not is_container(cont):
      raise ContainerExpectedException
    # ...

如何实施is_container

我想我可以检查参数是否为空,因为我们正在开始第二次通过它。但是这种方法不适用于更复杂的功能,在第二次传递开始的时候并不明显。此外,我宁愿将验证放在函数入口处,而不是放在函数内部(并在修改函数时将其移动)。

我当然可以重写renormalize函数以使用单遍迭代器正常工作。但这需要将输入数据复制到容器中。复制数以百万计的大型列表“以防它们不是列表”的性能影响是荒谬的。

编辑:我的原始示例使用weighted_average函数:

def weighted_average(c):
    '''
    returns weighted average of a container c
    c contains values and weights in tuples
    weights don't need to sum up 1 (automatically renormalized)
    '''
    return sum((v * w for v, w in c)) / sum((w for v, w in c))

weighted_average([(0,1), (1,1)]) #0.5 
weighted_average([(k, 1) for k in range(2)]) #0.5
weighted_average((k, 1) for k in range(2)) #mistake

但这不是最好的例子,因为使用单次传递重写的weighted_average版本无论如何都可能更好:

def weighted_average(it):
    '''
    returns weighted average of an iterator it
    it yields values and weights in tuples
    weights don't need to sum up 1 (automatically renormalized)
    '''
    total_value = 0
    total_weight = 0
    for v, w in it:
        total_value += v
        total_weight += w
    return total_value / total_weight

3 个答案:

答案 0 :(得分:4)

虽然所有的迭代都应该是集合的子类。但是不幸的是,并不是所有的都可以。这是基于对象实现的接口而不是它们“声明”的答案。

简答:

你称之为“容器”,即一个可以多次迭代的列表/元组,而不是一个耗尽的生成器,通常会同时实现__iter__和{{1} }。因此你可以这样做:

__getitem__

答案很长:

但是,您可以创建一个不会耗尽的迭代,并且不支持 getitem 。例如,一个生成素数的函数。如果你愿意,你可以多次重复这一代,但是有一个函数来检索第1065个素数需要大量的计算,所以你可能不想支持它。 : - )

还有更“可靠”的方式吗?

好吧,所有迭代都会实现一个返回迭代器的>>> def is_container_iterable(o): ... return hasattr(o, '__iter__') and hasattr(o, '__getitem__') ... >>> is_container_iterable([]) True >>> is_container_iterable(()) True >>> is_container_iterable({}) True >>> is_container_iterable(range(5)) True >>> is_container_iterable(iter([])) False 函数。迭代器将具有__iter__函数。这是迭代它时使用的。反复调用__next__最终会耗尽迭代器。

因此,如果它具有__next__函数,则它是一个迭代器,并且将会耗尽。

__next__

尚未迭代的Iterables将没有>>> def foo(): ... for x in range(5): ... yield x ... >>> f = foo() >>> f.__next__ <method-wrapper '__next__' of generator object at 0xb73c02d4> 函数,但会实现一个__next__函数,它将返回一个可迭代函数:

__iter__

因此,您可以检查该对象是否为>>> r = range(5) >>> r.__next__ Traceback (most recent call last): File "<stdin>", line 1, in <module> AttributeError: 'range' object has no attribute '__next__' >>> ri = iter(r) >>> ri.__next__ <method-wrapper '__next__' of range_iterator object at 0xb73bef80> ,但该对象没有__iter__

__next__

迭代器还有一个>>> def is_container_iterable(o): ... return hasattr(o, '__iter__') and not hasattr(o, '__next__') ... >>> is_container_iterable(()) True >>> is_container_iterable([]) True >>> is_container_iterable({}) True >>> is_container_iterable(range(5)) True >>> is_container_iterable(iter(range(5))) False 函数,它将返回self。

__iter__

因此,您可以执行检查的这些变体:

>>> iter(f) is f
True
>>> iter(r) is r
False
>>> iter(ri) is ri
True

如果你实现了一个返回一个破碎的迭代器的对象,那么当你再次调用iter()时,会返回self的那个迭代器会失败。但是,您的(或第三方模块)代码实际上是在做错事。

它确实取决于制作迭代器,因此调用对象>>> def is_container_iterable(o): ... return iter(o) is not o ... >>> is_container_iterable([]) True >>> is_container_iterable(()) True >>> is_container_iterable({}) True >>> is_container_iterable(range(5)) True >>> is_container_iterable(iter([])) False ,理论上可能有副作用,而上述hasattr调用不应该有副作用。好的,所以它可以调用 getattribute 。但你可以这样解决这个问题:

__iter__

这个是相当安全的,并且应该适用于所有情况,除非对象在>>> def is_container_iterable(o): ... try: ... object.__getattribute__(o, '__iter__') ... except AttributeError: ... return False ... try: ... object.__getattribute__(o, '__next__') ... except AttributeError: ... return True ... return False ... >>> is_container_iterable([]) True >>> is_container_iterable(()) True >>> is_container_iterable({}) True >>> is_container_iterable(range(5)) True >>> is_container_iterable(iter(range(5))) False 次调用时动态生成__next____iter__,但如果你这样做,那你就是疯了。 : - )

本能地,我的首选版本是__getattribute__,但我从未需要这样做,所以这不是基于经验。

答案 1 :(得分:3)

您可以使用collections模块中定义的抽象基类来检查it是否是collections.Iterator的实例。

if isinstance(it, collections.Iterator):
    # handle the iterator case

就个人而言,我发现你的迭代器友好版本的加权平均值比多列表理解/和版本更容易阅读。 : - )

答案 2 :(得分:1)

最好的方法是使用抽象基类基础结构:

def weighted_average(c):
    if not isinstance(c, collections.Sequence):
      raise ContainerExpectedException