V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
UnrealEngine
V2EX  ›  PHP

浮点数精度问题求解,比如 floor(297.9 * 100) / 100 为什么会变成 297.89?

  •  
  •   UnrealEngine · 2020-08-24 17:05:52 +08:00 · 2230 次点击
    这是一个创建于 1537 天前的主题,其中的信息可能已经有所发展或是发生改变。

    用 floor 会出现这种问题,但是 round 就没事

    但是其他浮点数我也试了下 floor 正常

    14 条回复    2020-08-25 11:07:08 +08:00
    ClarkAbe
        1
    ClarkAbe  
       2020-08-24 17:08:56 +08:00 via iPhone
    计算机浮点 0.1+0.2 不等于 0.3
    ClarkAbe
        2
    ClarkAbe  
       2020-08-24 17:09:26 +08:00 via iPhone
    好吧……眼睛快了
    UnrealEngine
        3
    UnrealEngine  
    OP
       2020-08-24 17:12:45 +08:00
    @ClarkAbe 297.9 会出现 297.89 ,但是 1297.9 就没问题……
    cheng6563
        4
    cheng6563  
       2020-08-24 17:14:22 +08:00
    浮点数 k 默认算不准吧,不要靠碰巧了。
    概率什么的用用浮点数还行, 其他地方就不要用了。
    misaka19000
        5
    misaka19000  
       2020-08-24 17:15:32 +08:00
    IEEE754
    mxT52CRuqR6o5
        6
    mxT52CRuqR6o5  
       2020-08-24 17:16:17 +08:00   ❤️ 1
    试一下就知道了
    floor(297.9 * 100)和 round(297.9 * 100)的结果就已经不一样了
    jimages
        7
    jimages  
       2020-08-24 17:17:50 +08:00   ❤️ 3
    因为 297.9 * 100 = 29789.999999999996
    UnrealEngine
        8
    UnrealEngine  
    OP
       2020-08-24 17:27:38 +08:00
    @jimages 膜拜大佬~~~~
    msg7086
        9
    msg7086  
       2020-08-24 17:33:00 +08:00
    因为计算机无法用有限位数浮点来存储 297.9 。

    最接近的可以用 IEEE-754 表示的数,是 297.899993896484375 。
    他下一个可以用 IEEE-754 表示的数,是 297.9000244140625 。
    可以看到,297.9 是一个无法存储的数字。
    lovecy
        10
    lovecy  
       2020-08-24 17:58:10 +08:00
    精度问题上面大佬#9 说得很清楚了。另外 floor 向下取整,返回 float ; round 四舍五入,返回 float 。对于 297.9,两个函数的返回值本来就不一样,不知道你这里为啥要用这里俩对比。
    ClutchBear
        11
    ClutchBear  
       2020-08-24 18:38:39 +08:00
    计算机浮点数存储机制的问题
    b00tyhunt3r
        12
    b00tyhunt3r  
       2020-08-25 08:48:22 +08:00
    a7217107
        13
    a7217107  
       2020-08-25 09:35:52 +08:00
    IEEE754 月经贴
    CodeCodeStudy
        14
    CodeCodeStudy  
       2020-08-25 11:07:08 +08:00   ❤️ 1
    你用 var_export(297.9 * 100); 就知道了,得到的是 29789.999999999996
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2530 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 24ms · UTC 01:30 · PVG 09:30 · LAX 17:30 · JFK 20:30
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.