当提升到1的幂时,十进制会失去准确性

时间:2017-07-19 08:14:00

标签: python python-2.7 floating-point floating-accuracy

我使用var userFileDirectory="../documents/"; userFileDirectory=userFileDirectory+selectedMonth+"/"+selectedTopic+"/"+"dataCs.csv"; // Set the dimensions of the canvas / graph var margin = {top: 30, right: 20, bottom: 30, left: 50}, width = 600 - margin.left - margin.right, height = 270 - margin.top - margin.bottom; // Parse the date / time var parseDate = d3.time.format("%d-%b-%y").parse; // Set the ranges var x = d3.time.scale().range([0, width]); var y = d3.scale.linear().range([height, 0]); // Define the axes var xAxis = d3.svg.axis().scale(x) .orient("bottom").ticks(5); var yAxis = d3.svg.axis().scale(y) .orient("left").ticks(5); // Define the line var valueline = d3.svg.line() .x(function(d) { return x(d.date); }) .y(function(d) { return y(d.close); }); // Adds the svg canvas var svg = d3.select("body") .append("svg") .attr("width", width + margin.left + margin.right) .attr("height", height + margin.top + margin.bottom) .append("g") .attr("transform", "translate(" + margin.left + "," + margin.top + ")"); // Get the data d3.csv(userFileDirectory, function(error, data) { data.forEach(function(d) { d.date = parseDate(d.date); d.close = +d.close; }); // Scale the range of the data x.domain(d3.extent(data, function(d) { return d.date; })); y.domain([0, d3.max(data, function(d) { return d.close; })]); // Add the valueline path. svg.append("path") .attr("class", "line") .attr("d", valueline(data)); // Add the X Axis svg.append("g") .attr("class", "x axis") .attr("transform", "translate(0," + height + ")") .call(xAxis); // Add the Y Axis svg.append("g") .attr("class", "y axis") .call(yAxis); svg.append("text") .text("("+selectedMonth+" "+selectedTopic+")"); }); 在我的程序中遇到了一些准确性问题。

一个简单的复制品:

Decimal

给出:

from decimal import Decimal

print Decimal(1910944005427272400562113336049664)
print Decimal(1910944005427272400562113336049664)**1
print int(Decimal(1910944005427272400562113336049664)**1)

如您所见,原始值略微变小(准确地减去49664)。

现在,我的实际代码不仅仅是将数字提高到1的幂,所以最终会降低精度。

我可以使用哪个“更好1910944005427272400562113336049664 1.910944005427272400562113336E+33 1910944005427272400562113336000000 ”?

我的输入和输出介于0(含)和2 ^ 256(不包括)之间。

1 个答案:

答案 0 :(得分:3)

the documentation中所述,"十进制模块具有用户可变精度(默认为28位)"。您可以将精度设置为更高的值以获得准确的结果:

>>> decimal.getcontext().prec = 100
>>> print(int(Decimal(1910944005427272400562113336049664)**Decimal(1)))
1910944005427272400562113336049664