西西河

主题:【原创】猛批烂书 程序员面试宝典 上 -- 晨池

共:💬64 🌺96
全看分页树展 · 主题 跟帖
家园 cmath里面的pow()是浮点的

涉及到浮点的问题就不是一般的费解啊。pow的内部可能是用牛顿迭代之类的方法写的,有误差难免。

7.9999999999其实和8是相等的--在特定浮点容许度范围内,所以也不能说pow()的结果有问题。

记得在实现取整的函数时,floor(a + 0.5 + EPS),因为没有最后的EPS而得到错误结果。这块的地雷真不少啊。

全看分页树展 · 主题 跟帖


有趣有益,互惠互利;开阔视野,博采众长。
虚拟的网络,真实的人。天南地北客,相逢皆朋友

Copyright © cchere 西西河