矢量化Numpy切片操作

时间:2015-04-27 11:20:55

标签: python numpy vectorization

说我有一个Numpy矢量,

A = zeros(100)

我将其划分为子向量,其中包含一个索引为A的断点列表,例如,

breaks = linspace(0, 100, 11, dtype=int)

因此i个子向量将位于索引breaks[i](包括)和breaks[i+1](不包括)之间。 休息时间不一定是等间隔的,这只是一个例子。 但是,它们总是会严格增加。

现在我想对这些子向量进行操作。例如,如果我想将i个子向量的所有元素都设置为i,我可能会这样做:

for i in range(len(breaks) - 1):
    A[breaks[i] : breaks[i+1]] = i

或者我可能想要计算子向量意味着:

b = empty(len(breaks) - 1)
for i in range(len(breaks) - 1):
    b = A[breaks[i] : breaks[i+1]].mean()

等等。

如何避免使用for循环而是对这些操作进行矢量化?

3 个答案:

答案 0 :(得分:6)

您可以使用简单的np.cumsum -

import numpy as np

# Form zeros array of same size as input array and 
# place ones at positions where intervals change
A1 = np.zeros_like(A)
A1[breaks[1:-1]] = 1

# Perform cumsum along it to create a staircase like array, as the final output
out = A1.cumsum()

示例运行 -

In [115]: A
Out[115]: array([3, 8, 0, 4, 6, 4, 8, 0, 2, 7, 4, 9, 3, 7, 3, 8, 6, 7, 1, 6])

In [116]: breaks
Out[116]: array([ 0,  4,  9, 11, 18, 20])

In [142]: out
Out[142]: array([0, 0, 0, 0, 1, 1, 1, 1, 1, 2, 2, 3, 3, 3, 3, 3, 3, 3, 4, 4]..)

如果您希望A中包含这些子向量的平均值,可以使用np.bincount -

mean_vals = np.bincount(out, weights=A)/np.bincount(out)

如果您希望扩展此功能并使用自定义功能,您可能需要查看MATLAB的Python/Numpy等效accumpublic static void createLoan(Loan loan){ Connection con = null; try { con = JDBCConnectionFactory.getInstance().getNewConnection(); String sql = ""; sql = "INSERT INTO loan (users_id, book_id, loan_date, loan_dueDate) " + "VALUES (?, ?, CURDATE(), DATE_ADD(CURDATE(),INTERVAL 30))"; PreparedStatement prep = con.prepareStatement(sql); prep.setLong(1, loan.user.getDatabaseId()); prep.setLong(2, loan.book.getDatabaseId()); 其源代码可用accumarray

答案 1 :(得分:5)

您的问题确实没有一个答案,但您可以使用几种技术作为构建块。另一个你可能会发现有用的:

所有numpy ufunc都有一个.reduceat方法,您可以利用它来进行一些计算:

>>> a = np.arange(100)
>>> breaks = np.linspace(0, 100, 11, dtype=np.intp)
>>> counts = np.diff(breaks)
>>> counts
array([10, 10, 10, 10, 10, 10, 10, 10, 10, 10])
>>> sums = np.add.reduceat(a, breaks[:-1], dtype=np.float)
>>> sums
array([  45.,  145.,  245.,  345.,  445.,  545.,  645.,  745.,  845.,  945.])
>>> sums / counts  # i.e. the mean
array([  4.5,  14.5,  24.5,  34.5,  44.5,  54.5,  64.5,  74.5,  84.5,  94.5])

答案 2 :(得分:3)

您可以使用np.repeat

In [35]: np.repeat(np.arange(0, len(breaks)-1), np.diff(breaks))
Out[35]: 
array([0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 2, 2, 2,
       2, 2, 2, 2, 2, 2, 2, 3, 3, 3, 3, 3, 3, 3, 3, 3, 3, 4, 4, 4, 4, 4, 4,
       4, 4, 4, 4, 5, 5, 5, 5, 5, 5, 5, 5, 5, 5, 6, 6, 6, 6, 6, 6, 6, 6, 6,
       6, 7, 7, 7, 7, 7, 7, 7, 7, 7, 7, 8, 8, 8, 8, 8, 8, 8, 8, 8, 8, 9, 9,
       9, 9, 9, 9, 9, 9, 9, 9])

要计算任意分箱统计信息,您可以使用scipy.stats.binned_statistic

import numpy as np
import scipy.stats as stats

breaks = np.linspace(0, 100, 11, dtype=int)
A = np.random.random(100)

means, bin_edges, binnumber = stats.binned_statistic(
    x=np.arange(len(A)), values=A, statistic='mean', bins=breaks)

stats.binned_statistic可以计算均值,中位数,计数,总和;要么, 要计算每个bin的任意统计信息,可以将callable传递给statistic参数:

def func(values):
    return values.mean()

funcmeans, bin_edges, binnumber = stats.binned_statistic(
    x=np.arange(len(A)), values=A, statistic=func, bins=breaks)

assert np.allclose(means, funcmeans)