我阅读了minio文档,并看到了两种上传数据的方法:
我想测试minio并上传我刚刚用numpy.random.bytes()创建的一些数据。
如何上传存储在python解释器中的变量中的数据?
答案 0 :(得分:2)
我也遇到类似的情况:试图将pandas DataFrame作为羽毛文件存储到minio中。
我需要使用Minio
客户端直接存储字节。最后,代码看起来像这样:
from io import BytesIO
from pandas import df
from numpy import random
import minio
# Create the client
client = minio.Minio(
endpoint="localhost:9000",
access_key="access_key",
secret_key="secret_key",
secure=False
)
# Create sample dataset
df = pd.DataFrame({
"a": numpy.random.random(size=1000),
})
# Create a BytesIO instance that will behave like a file opended in binary mode
feather_output = BytesIO()
# Write feather file
df.to_feather(feather_output)
# Get numver of bytes
nb_bytes = feather_output.tell()
# Go back to the start of the opened file
feather_output.seek(0)
# Put the object into minio
client.put_object(
bucket_name="datasets",
object_name="demo.feather",
length=nb_bytes,
data=feather_output
)
我必须使用.seek(0)
才能使minio能够插入正确数量的字节。
答案 1 :(得分:2)
@gcharbon:此解决方案不适用于我。 client.put_object()
仅接受类似对象的字节。
这是我的解决方案:
from minio import Minio
import pandas as pd
import io
csv_bytes = df.to_csv().encode('utf-8')
csv_buffer = io.BytesIO(csv_bytes)
client.put_object("bucketname",
"objectname",
data=csv_buffer,
length=len(csv_bytes),
content_type='application/csv')
答案 2 :(得分:1)
看看io.BytesIO
。这些使您可以将字节数组包装在可以提供给minio的流中。
例如:
import io
from minio import Minio
value = "Some text I want to upload"
value_as_bytes = value.encode('utf-8')
value_as_a_stream = io.BytesIO(value_as_bytes)
client = Minio("my-url-here", ...) # Edit this bit to connect to your Minio server
client.put_object("my_bucket", "my_key", value_as_a_stream , file_size=len(value_as_bytes))