交互式条件直方图桶切片数据可视化

时间:2016-08-26 00:08:52

标签: python pandas data-visualization seaborn bokeh

我的df看起来像:

df.head()
Out[1]:
        A   B   C
city0   40  12  73
city1   65  56  10
city2   77  58  71
city3   89  53  49
city4   33  98  90

可以通过以下代码创建示例df:

df = pd.DataFrame(np.random.randint(100,size=(1000000,3)), columns=list('ABC'))

indx = ['city'+str(x) for x in range(0,1000000)]
df.index = indx

我想做的是:

a)确定A列的相应直方图桶长度,并将每个城市分配给A列的桶

b)确定B列的相应直方图桶长度,并将每个城市分配给B列的桶

也许结果df看起来像(或者是否有更好的内置方式在熊猫?)

    df.head()
    Out[1]:
            A   B   C  Abkt Bbkt
    city0   40  12  73  2  1
    city1   65  56  10  4  3
    city2   77  58  71  4  3
    city3   89  53  49  5  3
    city4   33  98  90  2  5

Abkt和Bbkt是直方图桶标识符:

1-20 = 1
21-40 = 2
41-60 = 3
61-80 = 4
81-100 = 5

最后,我希望更好地了解每个城市在A,B和C列方面的行为,并能够回答以下问题:

a)A列(或B)的分布是什么样的 - 即什么桶最多/最少填充。

b)条件A列的特定切片/桶,B列的分布是什么样的 - 即什么桶最多/最少填充。

c)对A列和B列的特定切片/桶有条件,C的行为是什么样的。

理想情况下,我希望能够可视化数据(热图,区域标识符等)。我是一个相对的熊猫/蟒蛇新手,不知道有什么可能发展。

如果SO社区可以提供我可以做我想做的代码示例(或者如果有更好的pandas / numpy / scipy内置方法的更好方法),我将不胜感激。

同样,任何指向资源的指针都可以帮助我更好地汇总/切片/切块我的数据,并且能够在进行分析时在中间步骤中进行可视化。

更新

我正在遵循评论中的一些建议。

我试过了:

1)df.hist()

ValueError: The first argument of bincount must be non-negative

2)df[['A']].hist(bins=10,range=(0,10))

array([[<matplotlib.axes._subplots.AxesSubplot object at 0x000000A2350615C0>]], dtype=object)

#2是不是要显示情节?而不是生成一个未呈现的对象?我正在使用jupyter notebook

我需要在Jupyter Notebook中启用/启用直方图对象吗?

UPDATE2:

我通过以下方式解决了渲染问题:in Ipython notebook, Pandas is not displying the graph I try to plot.

UPDATE3:

根据评论中的建议,我开始浏览pandas visualizationbokehseaborn。但是,我不确定如何在图之间建立联系。

假设我有10个变量。我想探索它们,但由于10是一个很大的数字可以一次探索,我们可以说我想在任何给定的时间探索5(r,s,t,u,v)。

如果我想要一个带有边缘分布图的交互式hexbin来检查r&amp; amp; s,我如何在给定交互区域选择/ r&amp; s(多边形)切片的情况下看到t,u和v的分布。

我在这里找到了带有边缘分布图的hexbin hexbin plot

可是:

1)如何进行交互(允许选择多边形)

2)如何链接r&amp; amp;的区域选择s到其他图,例如t,u和v的3个直方图(或任何其他类型的图)。

通过这种方式,我可以更严格地浏览数据并深入探索关系。

3 个答案:

答案 0 :(得分:6)

为了获得您正在寻找的互动效果,您必须将所有关注的列合并在一起。

我能想到的最干净的方法是将stack合并为一个series然后使用pd.cut

考虑您的样本df

enter image description here

df_ = pd.cut(df[['A', 'B']].stack(), 5, labels=list(range(5))).unstack()
df_.columns = df_.columns.to_series() + 'bkt'
pd.concat([df, df_], axis=1)

enter image description here

让我们构建一个更好的示例,并使用seaborn

查看可视化效果
df = pd.DataFrame(dict(A=(np.random.randn(10000) * 100 + 20).astype(int),
                       B=(np.random.randn(10000) * 100 - 20).astype(int)))

import seaborn as sns

df.index = df.index.to_series().astype(str).radd('city')

df_ = pd.cut(df[['A', 'B']].stack(), 30, labels=list(range(30))).unstack()
df_.columns = df_.columns.to_series() + 'bkt'

sns.jointplot(x=df_.Abkt, y=df_.Bbkt, kind="scatter", color="k")

enter image description here

或者某些具有某种相关性的数据如何

mean, cov = [0, 1], [(1, .5), (.5, 1)]
data = np.random.multivariate_normal(mean, cov, 100000)
df = pd.DataFrame(data, columns=["A", "B"])

df.index = df.index.to_series().astype(str).radd('city')

df_ = pd.cut(df[['A', 'B']].stack(), 30, labels=list(range(30))).unstack()
df_.columns = df_.columns.to_series() + 'bkt'

sns.jointplot(x=df_.Abkt, y=df_.Bbkt, kind="scatter", color="k")

enter image description here

互动bokeh

没有太复杂

from bokeh.io import show, output_notebook, output_file

from bokeh.plotting import figure
from bokeh.layouts import row, column
from bokeh.models import ColumnDataSource, Select, CustomJS

output_notebook()

# generate random data
flips = np.random.choice((1, -1), (5, 5))
flips = np.tril(flips, -1) + np.triu(flips, 1) + np.eye(flips.shape[0])

half = np.ones((5, 5)) / 2
cov = (half + np.diag(np.diag(half))) * flips
mean = np.zeros(5)

data = np.random.multivariate_normal(mean, cov, 10000)
df = pd.DataFrame(data, columns=list('ABCDE'))

df.index = df.index.to_series().astype(str).radd('city')

# Stack and cut to get dependent relationships
b = 20
df_ = pd.cut(df.stack(), b, labels=list(range(b))).unstack()

# assign default columns x and y.  These will be the columns I set bokeh to read
df_[['x', 'y']] = df_.loc[:, ['A', 'B']]

source = ColumnDataSource(data=df_)

tools = 'box_select,pan,box_zoom,wheel_zoom,reset,resize,save'

p = figure(plot_width=600, plot_height=300)
p.circle('x', 'y', source=source, fill_color='olive', line_color='black', alpha=.5)

def gcb(like, n):
    code = """
    var data = source.get('data');
    var f = cb_obj.get('value');
    data['{0}{1}'] = data[f];
    source.trigger('change');
    """
    return CustomJS(args=dict(source=source), code=code.format(like, n))

xcb = CustomJS(
    args=dict(source=source),
    code="""
    var data = source.get('data');
    var colm = cb_obj.get('value');
    data['x'] = data[colm];
    source.trigger('change');
    """
)

ycb = CustomJS(
    args=dict(source=source),
    code="""
    var data = source.get('data');
    var colm = cb_obj.get('value');
    data['y'] = data[colm];
    source.trigger('change');
    """
)

options = list('ABCDE')
x_select = Select(options=options, callback=xcb, value='A')
y_select = Select(options=options, callback=ycb, value='B')


show(column(p, row(x_select, y_select)))

enter image description here

答案 1 :(得分:4)

以下是使用bokehHoloViews的新解决方案。它应该对交互部分做出更多回应。

当涉及到dataviz时,我试着记住 simple is beautiful

我使用faker库来生成随机城市名称,以使下面的图表更加真实。

即使最重要的部分是库的选择,我也会将所有代码放在这里。

import pandas as pd
import numpy as np
from faker import Faker

def generate_random_dataset(city_number, 
                        list_identifier,
                        labels,
                        bins,
                        city_location='en_US'):

    fake = Faker(locale=city_location)

    df = pd.DataFrame(data=np.random.uniform(0, 100, len(list_identifier)]), 
                      index=[fake.city() for _ in range(city_number)], 
                      columns=list_identifier)

    for name in list_identifier:
        df[name + 'bkt'] =  pd.Series(pd.cut(df[name], bins, labels=labels))

    return df

list_identifier=list('ABC')
labels = ['Low', 'Medium', 'Average', 'Good', 'Great']
bins = np.array([-1, 20, 40, 60, 80, 101])

df = generate_random_dataset(30, list_identifier, labels, bins)

df.head()

将输出: df

有时,当您的数据集较小时,使用颜色显示简单图表就足够了。

from bokeh.charts import Bar, output_file, show
from bokeh.layouts import column

bar = []
for name in list_identifier:
    bar.append(Bar(df, label='index', values=name, stack=name+'bkt',
               title="percentage of " + name, legend='top_left', plot_width=1024))

output_file('cities.html')

show(column(bar))

将创建包含图表的新html页面(城市)。请注意,使用bokeh生成的所有图表都是交互式的。

graphA

graphB

bokeh最初无法绘制hexbin。但是,HoloViews可以。因此,它允许绘制白色ipython notebook的交互式图。

语法非常简单,您只需要一个包含两列的Matrix并调用hist方法:

import holoviews as hv
hv.notebook_extension('bokeh')

df = generate_random_dataset(1000, list_identifier, list(range(5)), 5)

points = hv.Points(np.column_stack((df.A, df.B)))
points.hist(num_bins=5, dimension=['x', 'y'])

repartition of A and B

为了与@piRSquared解决方案进行比较,我偷了一些代码(谢谢你btw :)来显示数据有一些相关性:

mean, cov = [0, 1], [(1, .5), (.5, 1)]
data = np.random.multivariate_normal(mean, cov, 100000)
df = pd.DataFrame(data, columns=["A", "B"])

df.index = df.index.to_series().astype(str).radd('city')

df_ = pd.cut(df[['A', 'B']].stack(), 30, labels=list(range(30))).unstack()
df_.columns = df_.columns.to_series() + 'bkt'

points = hv.Points(np.column_stack((df_.Abkt, df_.Bbkt)))
points.hist(num_bins=5, dimension=['x', 'y'])

mean covariance

请考虑访问HoloViews tutorial

答案 2 :(得分:3)

作为一名代表不足的新手,我无法发表评论,因此我将此作为答案,&#34;虽然它不应该被视为一个;这些只是与评论相同的一些不完整的建议。

与其他人一样,我喜欢seaborn,但我不确定这些情节是否与您寻求的方式相互影响。虽然我没有使用bokeh,但我的理解是它提供了更多的交互方式,但无论包装是什么,当你超越3和4变量时,你只能填充一个(系列)图表。

至于您的表格中,前面提到的df.hist()lanery}是一个好的开始。一旦你有了这些垃圾箱,你就可以使用immensely powerful df.groupby()功能。我现在已经使用熊猫两年了,这个功能仍然让我大吃一惊。虽然不是交互式的,但它肯定会帮助您根据需要对数据进行切片和切块。