float精确计算
jackyviccal · jacky.v.c · 2007-07-10
傻子才悲伤
当我信誓旦旦地光鲜每一天时
生活正坐在一个我永远到不了的高处笑我呢
<< 【基础】单选框取值--radio value
/
首页
/
我看东京审判 >>
float精确计算
最近借到本Java Puzzlers,Google的工程师Joshua Bloch和Neal Gafter合著
都是一些Java里的小问题,碰到了觉得很烦人,但是都是一些底层的东西,觉得非常不粗
刚刚遇到其中一个,float型的精确计算,
Java在认float型的数值时,如果是小数总是不能精确到我们想要的结果,比如1.10,它也许会认成1.1000000235之类,很是烦人
书上说的解决办法是尽量使用int&long型解决还有一种是BigDemical但是会影响执行效率
搞了半天我们的PM黄总写了个方法很好,我加了句话:
public float getFloNum(float num, int n) {
int dd = 1;
float tempnum;
int tnum;
for (int i = 0; i < n; i++) {
dd *= 10;
}
tempnum = num * dd;
tnum =Math.round(tempnum);
return ((float)tnum/dd);
}
直接将想要精确的数和要保留的位数传进去即可
jacky.v.c
at
2006/10/12
19:39:59
|
Trackback( 0 )
so help me to get where i belong......i love u....forever.hehehaha………………
评论
我也用过象你上面那个先转成整数..后再除以整百的数....但还是没解决问题....
阿当
http:// @
2007-07-10 22:53:32
这两在我也碰到float精确的问题比如:float a = 343.2*789换正常得出的值应该是a =270784.8..但我得到的结果总是得出a = 270784.81总是会多出后面的一个小数1.....后来我直接把a定义为double 就没出现在这样的情况了....
adan
http:// @
2007-07-10 22:50:29
想说的啥?
最后更新
搬家
酝酿搬家
VBA初探
验证码--零起步
MD5---零起步
迷惑
我看东京审判
float精确计算
【基础】单选框取值--radio value
郁闷~病毒
原始快照:web.archive.org