Jupyter Notebook中的流式网格显示

时间:2018-10-31 19:31:52

标签: python pandas jupyter-notebook

我正在尝试在Jupyter的网格中显示来自redis pubsub通道的实时价格更新。每当有价格更新时,该消息就会添加到表格的末尾。换句话说,gridview小部件将绑定到数据框,因此每次更改时,gridview都会更改。想法是得到这样的东西: enter image description here

我试图通过显示和清除输出来做到这一点。但是,我没有得到就地更新的流式网格,而是显示和清除非常烦人的输出。

这是一个jupyter单元中的输出小部件

import ipywidgets as iw
from IPython.display import display 

o = iw.Output()
def output_to_widget(df, output_widget): 
    output_widget.clear_output()
    with output_widget: 
        display(df)
o

这是订阅redis并获取消息的代码

import redis, json, time

r = redis.StrictRedis(host = HOST, password = PASS, port = PORT, db = DB)
p = r.pubsub(ignore_subscribe_messages=True)
p.subscribe('QUOTES')

mdf = pd.DataFrame()
while True:
    message = p.get_message()
    if message:
        json_msg = json.loads(message['data'])
        df = pd.DataFrame([json_msg]).set_index('sym')
        mdf = mdf.append(df)
        output_to_widget(mdf, o)
    time.sleep(0.001)

2 个答案:

答案 0 :(得分:1)

尝试将output_to_widget的第一行更改为output_widget.clear_output(wait = True)

https://ipython.org/ipython-doc/3/api/generated/IPython.display.html

答案 1 :(得分:0)

我能够使用streamz库中的Streaming DataFrames使它正常工作。

这里是将数据发送到流数据帧的类。

class DataEmitter:
def __init__(self, pubsub, src):
    self.pubsub = pubsub
    self.src = src
    self.thread = None

def emit_data(self, channel):
    self.pubsub.subscribe(**{channel: self._handler})
    self.thread = self.pubsub.run_in_thread(sleep_time=0.001)

def stop(self):
    self.pubsub.unsubscribe()
    self.thread.stop()    

def _handler(self, message):
    json_msg = json.loads(message['data'])
    df = pd.DataFrame([json_msg])
    self.src.emit(df)

这是显示流数据帧的单元格

r = redis.StrictRedis(host = HOST, password = PASS, port = PORT, db = DB)
p = r.pubsub(ignore_subscribe_messages=True)
source = Stream()
emitter = DataEmitter(p, source, COLUMNS)
emitter.emit_data(src='PRICE_UPDATES')

#sample for how the dataframe it's going to look like
example = pd.DataFrame({'time': [], 'sym': []})
sdf = source.to_dataframe(example=example)
sdf