java 中 double 中的小数位跟计算效率有关吗,现在有个十多位小数的乘法运算,在 java 中用什么类型效率比较快
1
SoloCompany 2016-06-24 00:06:44 +08:00
和小数位数没太大关系,和有效数字有关,当然如果你的数都是 0~1 之间的那么有效数字个数就大概等价于小数位了,这个也和 java 没有关系,请参考 IEEE 64bit 标准,双精度数是 52 有效数字位以及 11 个指数位
52 * log(2) = 15.65 也就是说换算成十进制大概可以有 15 ~ 16 个有效数字 |