`
bmqnc
  • 浏览: 123606 次
  • 性别: Icon_minigender_1
  • 来自: 上海
社区版块
存档分类
最新评论

算法题中超级小不心的地方

阅读更多
一个是数据计算上的精度问题,即中间过程计算的结果可能超出数据所能表示的最大范围,
如int与int相乘可能超过int所能表示的范围。
第二个是数据的表示上的精度,如sqrt函数,当定点部分数值无法精确表示整数所代表的那个确切值时,可能造成精度上的损失。如可能一个数的开平方根可能不是很准,与准确值可能相差0.1这样的数值。这也是计算机中无法精确表示一些数的原因。

当然,用大数总是能解决这些精度表示上的问题的。
个人认为java库大数库确实很牛B,从这里说java比c++好用许多。当然,用大数性能上肯定会有下降。
分享到:
评论

相关推荐

Global site tag (gtag.js) - Google Analytics