Cplex（十进制数）

Question

enter image description here嗨，我如何增加位数 在CPLEX的逗号（小数点后）后用于对象功能？

谢谢你 亲切吗？

Answer 1

您可以阅读此CPLEX技术说明：

http://www-01.ibm.com/support/docview.wss?uid=swg21615825

我举了一个例子

float f = sqrt(2);
execute {
function formatFloat_prec8 (f) {
f = Math.round(f*100000000);
var fs = f.toString();
fs = fs.substring(0,fs.length-8)+','+fs.substring(fs.length-8,fs.length);
return fs;
}
writeln(formatFloat_prec8(f));
};

给出

1,41421356

在https://www.ibm.com/developerworks/community/forums/html/topic?id=8522d33e-966a-4ac3-9b88-4ae8df46d5c7&ps=25

致谢

Answer 2

precision decimal

我要增加精度十进制。