在将pandas数据帧转换为json时出现以下错误
OverflowError:编码字符串时,UTF-8序列长度不受支持
这是
的代码 bytes_to_write = data.to_json(orient='records').encode()
fs = s3fs.S3FileSystem(key=aws_access_key_id, secret=aws_secret_access_key)
with fs.open(file, 'wb') as f:
f.write(bytes_to_write)
试图转换为json的数据包含更多utf-8
代码
如何解决这个问题?
答案 0 :(得分:2)
就此answer suggests而言,我使用函数.to_json()
和default_handler
参数转换了数据帧,您可以找到文档here。
您必须注意default_handler=str
参数,以免出现上述错误。您可以在上面的文档中阅读详细信息。
dataframe.to_json('foo.json', default_handler=str)
请不要忘记考虑函数可以以不同的方式输出json
,正如文档所说,orient='<option>'
参数指定了这一点:
orient: str
Indication of expected JSON string format.
...
The format of the JSON string:
- ‘split’ : dict like {‘index’ -> [index], ‘columns’ -> [columns], ‘data’ -> [values]}
- ‘records’ : list like [{column -> value}, … , {column -> value}]
- ‘index’ : dict like {index -> {column -> value}}
- ‘columns’ : dict like {column -> {index -> value}}
- ‘values’ : just the values array
- ‘table’ : dict like {‘schema’: {schema}, ‘data’: {data}}
Describing the data, where data component is like orient='records'.