Question

我有一个CSV文件，其中包含几分钟内记录的随机传感器数据。现在我想将这些数据从CSV文件传输到我的pyhton代码，就像它直接从传感器本身接收数据一样。（该代码用于从两个不同的传感器/ csv文件中获取读数并对它们求平均值）有人建议使用Apache Spark来传输数据，但我觉得这对我来说有点过于复杂。可能有一个更简单的解决方案吗？

Answer 1

您还可以使用pandas read_csv（）函数以小块读取大型csv文件，基本代码如下：

import pandas as pd
chunksize = 100
for chunk in pd.read_csv('myfile.csv', chunksize=chunksize):
    print(chunk)

此链接说明了这是如何工作的： http://pandas.pydata.org/pandas-docs/stable/io.html#io-chunking

Answer 2

你可以在python中使用类似tail -f的东西来实现这一点。这应该做你想要的。 http://lethain.com/tailing-in-python/

Answer 3

您还可以在Numpy / Matplotlib上使用Python。这是一种将CSV数据流作为变量而不是多余文件流的简便方法。

´import matplotlib.pyplot as plt
 from matplotlib import style 
 import numpy as np
 import io

def draw_graph_stream(csv_content):

csv_stream = io.StringIO(csv_content)
svg_stream = io.StringIO()

data =  np.genfromtxt(csv_stream, delimiter = ';')          # generate the stream

x = data[0,:]                           #first row in csv 
y = np.mean(data[1:,:], axis=0)  # first column with mean generate the average           

plt.plot(x,y)
plt.savefig(svg_stream, format = 'svg')     #just safe it as svg 

svg_stream.seek(0)           #Position 0 for reading after writing 
return svg_stream.read()

print("Start test")

with io.open('/filepathtodata','r') as csv_file:   #works like a Loop 
    print("Reading file")
    csv_content = csv_file.read()
    print("Drawing graph")
    svg_content = draw_graph_stream(csv_content)

    with io.open('thefilepathforsafe','w+') as svg_file:
        print("Write back")
        svg_file.write(svg_content)´

从CSV文件到python的实时数据流

3 个答案: