使用%.2f对float保留两位小数时,产生的结果和预期不同,8.245保留两位小数的结果是8.24,8.255保留两位小数的结果是8.26,这就很奇怪了,为什么不是四舍五入?
其实仍然是四舍五入,但根本问题是浮点数在计算机中不能精确存储,我们希望存储的是8.245,但其实计算机中存储的是;我们希望存储的是8.255,但其实计算机中存储的是。
这么看的话就容易理解了,保留两位小数,第三位是4,所以舍去,结果是8.24。保留两位小数,第三位是5,所以进位,结果是8.26。
到底5这个数在计算机中实际是,还是5001..,最简单的是多打几个小数位出来看看,使用%.10f,就可以看出来。
为什么浮点数不能精确表达?可以参考“IEEE二进制浮点数算术标准(IEEE 754)”。 如果想严格的四舍五入,是需要特殊处理.5这个问题的,处理方法很多。
%f并没有找到解释四舍五入问题,找到了python中的一个解释,应该原理类似:
本文发布于:2024-02-02 10:32:53,感谢您对本站的认可!
本文链接:https://www.4u4v.net/it/170684117243221.html
版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。
留言与评论(共有 0 条评论) |