1
shintendo 2021-01-26 10:47:01 +08:00
浮点精度看有效数字,你放大也没用吧
|
2
walsh 2021-01-26 10:58:00 +08:00
FLT_EPSILON DBL_EPSILON
详情《数值分析》 |
3
agagega 2021-01-26 11:04:10 +08:00 via iPhone
浮点数的误差很多来自两点:
1. 有效数字不同,也就是大数和小数做运算的时候。因为做运算的时候要把指数对齐,所以理论上你放大还是不放大没有什么区别 2. 一些数在二进制里无法精确表示 |
4
tonyrft 2021-01-26 11:05:04 +08:00
如果真的想要高精度用计算机代数系统就行了
|
5
vivoapex 2021-01-26 11:30:55 +08:00
参考《深入理解计算机系统》,我花了两周才把整数和浮点数搞定
|
6
UN2758 2021-01-26 11:47:17 +08:00
不能,由于 IEEE754 规定的尾码长度有限,遇到无法用 2 的 n^-1 表示的数时,误差就一定存在,你的放大操作是放大了阶码,没用
|