SQLITE浮点数精度问题

时间:2015-12-04 13:59:40

标签: sqlite

我有一张包含以下内容的表格:

Name  Number Pct
A     12.1     Null
A     24.5     Null
A      5.6     Null
B     10.4     Null
B     11.1     Null
etc.

我正在尝试填充Pct列,为此我使用:

UPDATE Table SET
Pct= Number/ (SELECT SUM(b.Number) FROM Table b WHERE name = b.name GROUP by b.name);

在我的结果中,所有A Pcts的总和是1.但是当我总结所有Bs时,我得到的东西就像1.0000015。如果我将数据粘贴到Excel中,请按名称对所有数字求和,然后除以I得到1。

SQLite是否有可能在某处失去精确度?

0 个答案:

没有答案