float精确计算

傻子才悲伤 当我信誓旦旦地光鲜每一天时 生活正坐在一个我永远到不了的高处笑我呢 << 【基础】单选框取值--radio value / 首页 / 我看东京审判 >> float精确计算 最近借到本Java Puzzlers,Google的工程师Joshua Bloch和Neal Gafter合著 都是一些Java里的小问题,碰到了觉得很烦人,但是都是一些底层的东西,觉得非常不粗 刚刚遇到其中一个,float型的精确计算, Java在认float型的数值时,如果是小数总是不能精确到我们想要的结果,比如1.10,它也许会认成1.1000000235之类,很是烦人 书上说的解决办法是尽量使用int&long型解决还有一种是BigDemical但是会影响执行效率 搞了半天我们的PM黄总写了个方法很好,我加了句话: public float getFloNum(float num, int n) { int dd = 1; float tempnum; int tnum; for (int i = 0; i < n; i++) { dd *= 10; } tempnum = num * dd; tnum =Math.round(tempnum); return ((float)tnum/dd); } 直接将想要精确的数和要保留的位数传进去即可 jacky.v.c at 2006/10/12 19:39:59 | Trackback( 0 ) so help me to get where i belong......i love u....forever.hehehaha……………… 评论 我也用过象你上面那个先转成整数..后再除以整百的数....但还是没解决问题.... 阿当 http:// @ 2007-07-10 22:53:32 这两在我也碰到float精确的问题比如:float a = 343.2*789换正常得出的值应该是a =270784.8..但我得到的结果总是得出a = 270784.81总是会多出后面的一个小数1.....后来我直接把a定义为double 就没出现在这样的情况了.... adan http:// @ 2007-07-10 22:50:29 想说的啥? 最后更新 搬家 酝酿搬家 VBA初探 验证码--零起步 MD5---零起步 迷惑 我看东京审判 float精确计算 【基础】单选框取值--radio value 郁闷~病毒

原始快照:web.archive.org