浮点数float保留小数和四舍五入问题

阅读: 评论:0

浮点数float保留小数和四舍五入问题

浮点数float保留小数和四舍五入问题

    使用%.2f对float保留两位小数时,产生的结果和预期不同,8.245保留两位小数的结果是8.24,8.255保留两位小数的结果是8.26,这就很奇怪了,为什么不是四舍五入?

    其实仍然是四舍五入,但根本问题是浮点数在计算机中不能精确存储,我们希望存储的是8.245,但其实计算机中存储的是;我们希望存储的是8.255,但其实计算机中存储的是。


    这么看的话就容易理解了,保留两位小数,第三位是4,所以舍去,结果是8.24。保留两位小数,第三位是5,所以进位,结果是8.26。


    到底5这个数在计算机中实际是,还是5001..,最简单的是多打几个小数位出来看看,使用%.10f,就可以看出来。

    

为什么浮点数不能精确表达?可以参考“IEEE二进制浮点数算术标准(IEEE 754)”。 如果想严格的四舍五入,是需要特殊处理.5这个问题的,处理方法很多。


    %f并没有找到解释四舍五入问题,找到了python中的一个解释,应该原理类似:

本文发布于:2024-02-02 10:32:53,感谢您对本站的认可!

本文链接:https://www.4u4v.net/it/170684117243221.html

版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。

标签:小数   四舍五入   浮点数   float
留言与评论(共有 0 条评论)
   
验证码:

Copyright ©2019-2022 Comsenz Inc.Powered by ©

网站地图1 网站地图2 网站地图3 网站地图4 网站地图5 网站地图6 网站地图7 网站地图8 网站地图9 网站地图10 网站地图11 网站地图12 网站地图13 网站地图14 网站地图15 网站地图16 网站地图17 网站地图18 网站地图19 网站地图20 网站地图21 网站地图22/a> 网站地图23