思考我得到以下行为b / c我的输入数组被屏蔽,我很难理解。我一直在关注this pandas doc on gotchas,但不确定是什么"哨兵"价值是。它只是" -9999"在创建DataFrame期间使用哪个,随后将其设置为NULL?
制作DataFrame时处理这些值的好方法是什么?如果屏蔽的条目设置为NULL,我很高兴。
以下是一个例子:
[Dbg]>>> segDF = pd.DataFrame(segArrNew)
Traceback (most recent call last):
File "<interactive input>", line 1, in <module>
File "C:\Anaconda\envs\esri\Lib\site-packages\pandas\core\frame.py", line 393, in __init__
datacopy[mask] = NA
File "C:\Python27\ArcGIS10.2\lib\site-packages\numpy\ma\core.py", line 3027, in __setitem__
ndarray.__setitem__(_data, indx, dval)
IndexError: arrays used as indices must be of integer (or boolean) type
[Dbg]>>> segArrNew
masked_array(data = [(1, u'01', 1, --) (2, u'01', 2, --) (3, u'01', 3, --) ...,
(56853, u'21', 241, --) (56854, u'21', 242, --) (56855, u'21', 243, --)],
mask = [(False, False, False, True) (False, False, False, True)
(False, False, False, True) ..., (False, False, False, True)
(False, False, False, True) (False, False, False, True)],
fill_value = (999999, u'N/A', 999999, u'N/A'),
dtype = [('seg_id_nat', '<i4'), ('region', '<U255'), ('seg_id_reg', '<i4'), ('refGage', '<U30')])
您可以看到数组已被屏蔽,前几行中的某些行显示了--
的示例。所以我删除了最后一个字段(refGage
)并且它有效,所以我认为它的屏蔽值只出现在该字段中。
[Dbg]>>> segArrNew2 = npFuncs.drop_fields(segArrNew, ['refGage'])
[Dbg]>>> segDF = pd.DataFrame(segArrNew2)
[Dbg]>>> segDF
<class 'pandas.core.frame.DataFrame'>
Int64Index: 57186 entries, 0 to 57185
Data columns:
seg_id_nat 57186 non-null values
region 57186 non-null values
seg_id_reg 57186 non-null values
dtypes: int64(2), object(1)
答案 0 :(得分:1)
我不确定这是执行此操作的“最佳”方式,但我使用numpy.ndarray
函数(options listed in this doc)将屏蔽数组转换为常规numpy.ma.filled()
。
[Dbg]>>> np.ma.filled(segArrNew)
array([(1, u'01', 1, u'N/A'), (2, u'01', 2, u'N/A'), (3, u'01', 3, u'N/A'),
..., (56853, u'21', 241, u'N/A'), (56854, u'21', 242, u'N/A'),
(56855, u'21', 243, u'N/A')],
dtype=[('seg_id_nat', '<i4'), ('region', '<U255'), ('seg_id_reg', '<i4'), ('refGage', '<U30')])
[Dbg]>>> df = pandas.DataFrame(numpy.ma.filled(segArrNew))
[Dbg]>>> df.ix[df['refGage'] == u'N/A'], 'refGage'] = ''
fill_value
中每个字段的segArrNew
用于生成输出DataFrame。我使用df.ix()来替换填充的标记,以掩盖掉它的内容。