MATLAB无法将非零条目舍入到特定的小数位

时间:2018-03-02 03:46:43

标签: matlab rounding

以下陈述是什么意思?

  

" MATLAB无法将非零条目舍入到特定的小数位,因为对于双精度(双精度变量)和1e-161e-12周围总会有剩余部分单打。"

     

实施例

     

time(3001)=0find(time==0)=3001
  但是time(3000)=-1e4find(time==-1e4) = []
  因为time(3000) + 1e-4 = -2.11e-16single(time(3000)) + 1e-4 = 2.53e-12

0 个答案:

没有答案