我的df看起来像:
df.head()
Out[1]:
A B C
city0 40 12 73
city1 65 56 10
city2 77 58 71
city3 89 53 49
city4 33 98 90
可以通过以下代码创建示例df:
df = pd.DataFrame(np.random.randint(100,size=(1000000,3)), columns=list('ABC'))
indx = ['city'+str(x) for x in range(0,1000000)]
df.index = indx
我想做的是:
a)确定A列的相应直方图桶长度,并将每个城市分配给A列的桶
b)确定B列的相应直方图桶长度,并将每个城市分配给B列的桶
也许结果df看起来像(或者是否有更好的内置方式在熊猫?)
df.head()
Out[1]:
A B C Abkt Bbkt
city0 40 12 73 2 1
city1 65 56 10 4 3
city2 77 58 71 4 3
city3 89 53 49 5 3
city4 33 98 90 2 5
Abkt和Bbkt是直方图桶标识符:
1-20 = 1
21-40 = 2
41-60 = 3
61-80 = 4
81-100 = 5
最后,我希望更好地了解每个城市在A,B和C列方面的行为,并能够回答以下问题:
a)A列(或B)的分布是什么样的 - 即什么桶最多/最少填充。
b)条件A列的特定切片/桶,B列的分布是什么样的 - 即什么桶最多/最少填充。
c)对A列和B列的特定切片/桶有条件,C的行为是什么样的。
理想情况下,我希望能够可视化数据(热图,区域标识符等)。我是一个相对的熊猫/蟒蛇新手,不知道有什么可能发展。
如果SO社区可以提供我可以做我想做的代码示例(或者如果有更好的pandas / numpy / scipy内置方法的更好方法),我将不胜感激。
同样,任何指向资源的指针都可以帮助我更好地汇总/切片/切块我的数据,并且能够在进行分析时在中间步骤中进行可视化。
更新
我正在遵循评论中的一些建议。
我试过了:
1)df.hist()
ValueError: The first argument of bincount must be non-negative
2)df[['A']].hist(bins=10,range=(0,10))
array([[<matplotlib.axes._subplots.AxesSubplot object at 0x000000A2350615C0>]], dtype=object)
#2
是不是要显示情节?而不是生成一个未呈现的对象?我正在使用jupyter notebook
。
我需要在Jupyter Notebook
中启用/启用直方图对象吗?
UPDATE2:
我通过以下方式解决了渲染问题:in Ipython notebook, Pandas is not displying the graph I try to plot.
UPDATE3:
根据评论中的建议,我开始浏览pandas visualization,bokeh和seaborn。但是,我不确定如何在图之间建立联系。
假设我有10个变量。我想探索它们,但由于10是一个很大的数字可以一次探索,我们可以说我想在任何给定的时间探索5(r,s,t,u,v)。
如果我想要一个带有边缘分布图的交互式hexbin来检查r&amp; amp; s,我如何在给定交互区域选择/ r&amp; s(多边形)切片的情况下看到t,u和v的分布。
我在这里找到了带有边缘分布图的hexbin hexbin plot:
可是:
1)如何进行交互(允许选择多边形)
2)如何链接r&amp; amp;的区域选择s到其他图,例如t,u和v的3个直方图(或任何其他类型的图)。
通过这种方式,我可以更严格地浏览数据并深入探索关系。
答案 0 :(得分:6)
为了获得您正在寻找的互动效果,您必须将所有关注的列合并在一起。
我能想到的最干净的方法是将stack
合并为一个series
然后使用pd.cut
考虑您的样本df
df_ = pd.cut(df[['A', 'B']].stack(), 5, labels=list(range(5))).unstack()
df_.columns = df_.columns.to_series() + 'bkt'
pd.concat([df, df_], axis=1)
让我们构建一个更好的示例,并使用seaborn
df = pd.DataFrame(dict(A=(np.random.randn(10000) * 100 + 20).astype(int),
B=(np.random.randn(10000) * 100 - 20).astype(int)))
import seaborn as sns
df.index = df.index.to_series().astype(str).radd('city')
df_ = pd.cut(df[['A', 'B']].stack(), 30, labels=list(range(30))).unstack()
df_.columns = df_.columns.to_series() + 'bkt'
sns.jointplot(x=df_.Abkt, y=df_.Bbkt, kind="scatter", color="k")
或者某些具有某种相关性的数据如何
mean, cov = [0, 1], [(1, .5), (.5, 1)]
data = np.random.multivariate_normal(mean, cov, 100000)
df = pd.DataFrame(data, columns=["A", "B"])
df.index = df.index.to_series().astype(str).radd('city')
df_ = pd.cut(df[['A', 'B']].stack(), 30, labels=list(range(30))).unstack()
df_.columns = df_.columns.to_series() + 'bkt'
sns.jointplot(x=df_.Abkt, y=df_.Bbkt, kind="scatter", color="k")
bokeh
没有太复杂
from bokeh.io import show, output_notebook, output_file
from bokeh.plotting import figure
from bokeh.layouts import row, column
from bokeh.models import ColumnDataSource, Select, CustomJS
output_notebook()
# generate random data
flips = np.random.choice((1, -1), (5, 5))
flips = np.tril(flips, -1) + np.triu(flips, 1) + np.eye(flips.shape[0])
half = np.ones((5, 5)) / 2
cov = (half + np.diag(np.diag(half))) * flips
mean = np.zeros(5)
data = np.random.multivariate_normal(mean, cov, 10000)
df = pd.DataFrame(data, columns=list('ABCDE'))
df.index = df.index.to_series().astype(str).radd('city')
# Stack and cut to get dependent relationships
b = 20
df_ = pd.cut(df.stack(), b, labels=list(range(b))).unstack()
# assign default columns x and y. These will be the columns I set bokeh to read
df_[['x', 'y']] = df_.loc[:, ['A', 'B']]
source = ColumnDataSource(data=df_)
tools = 'box_select,pan,box_zoom,wheel_zoom,reset,resize,save'
p = figure(plot_width=600, plot_height=300)
p.circle('x', 'y', source=source, fill_color='olive', line_color='black', alpha=.5)
def gcb(like, n):
code = """
var data = source.get('data');
var f = cb_obj.get('value');
data['{0}{1}'] = data[f];
source.trigger('change');
"""
return CustomJS(args=dict(source=source), code=code.format(like, n))
xcb = CustomJS(
args=dict(source=source),
code="""
var data = source.get('data');
var colm = cb_obj.get('value');
data['x'] = data[colm];
source.trigger('change');
"""
)
ycb = CustomJS(
args=dict(source=source),
code="""
var data = source.get('data');
var colm = cb_obj.get('value');
data['y'] = data[colm];
source.trigger('change');
"""
)
options = list('ABCDE')
x_select = Select(options=options, callback=xcb, value='A')
y_select = Select(options=options, callback=ycb, value='B')
show(column(p, row(x_select, y_select)))
答案 1 :(得分:4)
以下是使用bokeh
和HoloViews
的新解决方案。它应该对交互部分做出更多回应。
当涉及到dataviz时,我试着记住 simple is beautiful 。
我使用faker
库来生成随机城市名称,以使下面的图表更加真实。
即使最重要的部分是库的选择,我也会将所有代码放在这里。
import pandas as pd
import numpy as np
from faker import Faker
def generate_random_dataset(city_number,
list_identifier,
labels,
bins,
city_location='en_US'):
fake = Faker(locale=city_location)
df = pd.DataFrame(data=np.random.uniform(0, 100, len(list_identifier)]),
index=[fake.city() for _ in range(city_number)],
columns=list_identifier)
for name in list_identifier:
df[name + 'bkt'] = pd.Series(pd.cut(df[name], bins, labels=labels))
return df
list_identifier=list('ABC')
labels = ['Low', 'Medium', 'Average', 'Good', 'Great']
bins = np.array([-1, 20, 40, 60, 80, 101])
df = generate_random_dataset(30, list_identifier, labels, bins)
df.head()
有时,当您的数据集较小时,使用颜色显示简单图表就足够了。
from bokeh.charts import Bar, output_file, show
from bokeh.layouts import column
bar = []
for name in list_identifier:
bar.append(Bar(df, label='index', values=name, stack=name+'bkt',
title="percentage of " + name, legend='top_left', plot_width=1024))
output_file('cities.html')
show(column(bar))
将创建包含图表的新html页面(城市)。请注意,使用bokeh
生成的所有图表都是交互式的。
bokeh
最初无法绘制hexbin。但是,HoloViews
可以。因此,它允许绘制白色ipython notebook
的交互式图。
语法非常简单,您只需要一个包含两列的Matrix并调用hist方法:
import holoviews as hv
hv.notebook_extension('bokeh')
df = generate_random_dataset(1000, list_identifier, list(range(5)), 5)
points = hv.Points(np.column_stack((df.A, df.B)))
points.hist(num_bins=5, dimension=['x', 'y'])
为了与@piRSquared解决方案进行比较,我偷了一些代码(谢谢你btw :)来显示数据有一些相关性:
mean, cov = [0, 1], [(1, .5), (.5, 1)]
data = np.random.multivariate_normal(mean, cov, 100000)
df = pd.DataFrame(data, columns=["A", "B"])
df.index = df.index.to_series().astype(str).radd('city')
df_ = pd.cut(df[['A', 'B']].stack(), 30, labels=list(range(30))).unstack()
df_.columns = df_.columns.to_series() + 'bkt'
points = hv.Points(np.column_stack((df_.Abkt, df_.Bbkt)))
points.hist(num_bins=5, dimension=['x', 'y'])
请考虑访问HoloViews
tutorial。
答案 2 :(得分:3)
作为一名代表不足的新手,我无法发表评论,因此我将此作为答案,&#34;虽然它不应该被视为一个;这些只是与评论相同的一些不完整的建议。
与其他人一样,我喜欢seaborn
,但我不确定这些情节是否与您寻求的方式相互影响。虽然我没有使用bokeh
,但我的理解是它提供了更多的交互方式,但无论包装是什么,当你超越3和4变量时,你只能填充一个(系列)图表。
至于您的表格中,前面提到的df.hist()
(lanery}是一个好的开始。一旦你有了这些垃圾箱,你就可以使用immensely powerful df.groupby()
功能。我现在已经使用熊猫两年了,这个功能仍然让我大吃一惊。虽然不是交互式的,但它肯定会帮助您根据需要对数据进行切片和切块。