在实际开发过程中,发现FLEX在进行小数计算时,会出现精度问题。
为了测试上述假设成立,特有如下测试:
var numA:Number = 5.5;
for(var i:int =
0;i<10000;i++){
numA+=0.1;
}
trace("result:>"+numA);
var
numB:Number = 1000.5;
var numC:Number = -0.1;
for(var j:int =
0;j<10000;j++){
numB+=numC;
}
trace("result:>"+numB);
如果不存在精度问题,则应依次打印出:
result:>1005.5
result:>0.5
但是实际测试结果为:
result:>1005.5000000001601
result:>0.49999999984101495
证明了假设的成立,确认了flex在进行小数计算时,确实存在精度误差,其实在javascript,java等语言的计算中也存在此类问题。
解决办法:
在计算前,把小数相应的转化成整数,计算后,再转化回来
如下
var numA:Number = 5.5;
numA = numA
*10;
for(var i:int =
0;i<10000;i++){
numA+=0.1*10;
}
numA =
numA/10;
trace("result:>"+numA);
var numB:Number
= 1000.5;
numB = numB *10;
var
numC:Number = -0.1;
for(var j:int =
0;j<10000;j++){
numB+=numC*10;
}
numB =
numB/10;
trace("result:>"+numB);
则可以避免问题的发生
分享到:
相关推荐
flex 地图flex 地图flex 地图flex 地图flex 地图flex 地图flex 地图flex 地图flex 地图flex 地图flex 地图flex 地图flex 地图flex 地图flex 地图flex 地图flex 地图flex 地图flex 地图flex 地图flex 地图flex 地图...
FLEX特效FLEX特效FLEX特效FLEX特效 FLEX特效FLEX特效FLEX特效FLEX特效 FLEX特效FLEX特效FLEX特效FLEX特效 FLEX特效FLEX特效FLEX特效FLEX特效
Flex Flex Flex Flex Flex Flex Flex Flex Flex Flex Flex Flex Flex Flex Flex Flex Flex Flex Flex Flex Flex Flex Flex Flex Flex Flex Flex Flex Flex Flex Flex Flex Flex Flex Flex Flex Flex Flex Flex ...
Flex简介Flex简介Flex简介Flex简介Flex简介
flex事件flex事件flex事件flex事件flex事件
flex 精通 flexflex 精通 flexflex 精通 flexflex 精通 flexflex 精通 flexflex 精通 flexflex 精通 flexflex 精通 flexflex 精通 flexflex 精通 flexflex 精通 flexflex 精通 flexflex学习的好资源啊
Flex 组件Flex 组件Flex 组件Flex 组件Flex 组件
Flex万年历记事本_flex源码
java flexjava flexjava flex
flex设计模式flex设计模式flex设计模式flex设计模式flex设计模式flex设计模式flex设计模式flex设计模式flex设计模式flex设计模式flex设计模式flex设计模式flex设计模式flex设计模式flex设计模式flex设计模式
Flex相册 Flex图片
flex皮肤flex皮肤flex皮肤flex皮肤flex皮flex皮肤肤
flex 面试题flex 面试题flex面试题flex
用C++实现的源码计算工具,能计算C++ python flex 的源码。压缩包中包括编译好的exe和源码(包括测试代码和类图),个人感觉C++代码写得还行,enjoy!
FLEX计算机FLEX计算机FLEX计算机
flex计算连个日期之间相差的天数
flex画线flex画线flex画线flex画线
Flex 计算工资软件能够根据员工的基本工资计算出员工五险一金。软件还包括了员工基本信息管理。
flex3注册码flex3注册码flex3注册码flex3注册码flex3注册码flex3注册码flex3注册码flex3注册码flex3注册码flex3注册码flex3注册码flex3注册码flex3注册码
FLEX网站源码FLEX网站源码FLEX网站源码FLEX网站源码FLEX网站源码FLEX网站源码FLEX网站源码FLEX网站源码