python中fac

阅读: 评论:0

python中fac

python中fac

结果是不同的,因为浮点类型的精度有限,并且由于减法运算符强制其操作数为相同类型的方式. gamma函数返回一个浮点数,因此无法为这么大的数字返回准确的答案.

This page对问题进行了很好的描述.

在gamma(101)-fac(100)中,fac(100)项在减法运算之前被转换为浮点数.

>>> gamma(101)

9.332621544394415e+157

>>> float(fac(100))

9.332621544394415e+157

适合浮动的fac(100)的(最重要的)部分与gamma(101)的部分相匹配,因此减法结果为0.0.

对于第二次测试,gamma(101)没有小数部分,因此math.floor没有效果:

>>> math.floor(gamma(101)) == gamma(101)

True

当您将gamma(101)转换为long时,您可以清楚地看到它不准确:

>>> long(gamma(101))

933262154439441509656467047959538825784009703731840988

310128895405822272385704312950661130892883272778258496

64006524270554535976289719382852181865895959724032L

>>> fac(100)

933262154439441526816992388562667004907159682643816214

685929638952175999932299156089414639761565182862536979

20827223758251185210916864000000000000000000000000L

本文发布于:2024-02-02 13:53:37,感谢您对本站的认可!

本文链接:https://www.4u4v.net/it/170685321644238.html

版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。

标签:python   fac
留言与评论(共有 0 条评论)
   
验证码:

Copyright ©2019-2022 Comsenz Inc.Powered by ©

网站地图1 网站地图2 网站地图3 网站地图4 网站地图5 网站地图6 网站地图7 网站地图8 网站地图9 网站地图10 网站地图11 网站地图12 网站地图13 网站地图14 网站地图15 网站地图16 网站地图17 网站地图18 网站地图19 网站地图20 网站地图21 网站地图22/a> 网站地图23