为什么MATLAB中的数组饱和度为255?

时间:2010-08-11 13:40:13

标签: matlab

这是我的代码:

arr = zeros(fx-10,1);
frm = frams(x).cdata;
for k=1:fx-10
    for i=1:10
        for j=1:fy
            arr(k) = arr(k)+ abs(frm(k+i-1,j)-model(i,j))
        end
    end
end

为什么数组最多只能接收255个值?

我尝试定义:

 arr = zeros(fx-10,1,'int64');

并且代码失败了:

  

???未定义的功能或方法   'plus'表示类型的输入参数   '的int64'。

1 个答案:

答案 0 :(得分:5)

虽然数组arr的类型为double,但我相信您从frmmodel获得的一个或多个值属于UINT8类型,最大值为255.当完成算术以将这些值添加到arr时,我相信计算是使用整数运算完成的,结果将转换为双精度值放在arr中。当您继续将UINT8值加在一起时,该值最终会在最大值为255时饱和。

要解决此问题,您可以使用函数DOUBLE将值从frmmodel转换为double类型,然后再进行算术运算。这样的事情应该有效:

arr(k) = arr(k) + abs(double(frm(k+i-1,j))-double(model(i,j)));