`
hhyyllgg
  • 浏览: 27632 次
  • 性别: Icon_minigender_1
  • 来自: 北京
社区版块
存档分类
最新评论

js中小数计算误差解决办法

 
阅读更多
js的小数计算根据二进制来计算,则对0.2这种无限循环的小数进行加减乘除的时候 会产生误差
 
  下面是网上找的加减乘除的几个方法,原理是转换为整数计算 ,然后再复位


 function accMul(arg1,arg2) 
{ 
	var m=0,s1=arg1.toString(),s2=arg2.toString(); 
	try{m+=s1.split(".")[1].length}catch(e){} 
	try{m+=s2.split(".")[1].length}catch(e){} 
	return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m) 
} 

function accDiv(arg1,arg2){ 
	var t1=0,t2=0,r1,r2; 
	try{t1=arg1.toString().split(".")[1].length}catch(e){} 
	try{t2=arg2.toString().split(".")[1].length}catch(e){} 
	with(Math){ 
	r1=Number(arg1.toString().replace(".","")) 
	r2=Number(arg2.toString().replace(".","")) 
	return (r1/r2)*pow(10,t2-t1); 
	} 
} 

function accAdd(arg1,arg2){    
   var r1,r2,m;    
   try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}  
   try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}   
        m=Math.pow(10,Math.max(r1,r2))
        return (arg1*m+arg2*m)/m    
}    	
function accSub(arg1,arg2){    
   var r1,r2,m;    
   try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}  
   try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}   
        m=Math.pow(10,Math.max(r1,r2))
        return (arg1*m-arg2*m)/m    
}   
分享到:
评论
3 楼 itabclichao 2015-05-19  
  分享,好人有好报,解决了我的一哥大问题,已收藏
2 楼 hhyyllgg 2012-01-06  
colinzhy 写道
似乎这个accAdd函数计算仍然有误差啊,比如计算1.1+1.11的时候结果会出现2.210000000000004

我试了一下,确实如你所说,原因应该是小数在执行arg1*m+arg2*m在执行乘法的时候又产生误差,改为accMul(arg1,m)+accMul(arg2,m)就可以了
1 楼 colinzhy 2012-01-06  
似乎这个accAdd函数计算仍然有误差啊,比如计算1.1+1.11的时候结果会出现2.210000000000004

相关推荐

    JS绝对屏蔽计算误差

    JS绝对屏蔽计算误差的一个算法,方法是直接顺子思路写的,所以略显臃肿,但却对可以屏蔽,网上其他的一些用10的N次幂来解决一样有失效的,因为小数在乘以10N次幂的时候已经出现误差了,后续所有操作都失效。...

    js计算小数的通用方法

    js计算小数时会有误差,经过处理后就可以了

    Javascript浮点数乘积运算出现多位小数的解决方法

    这是由于在运算的时候先把浮点数转化成二进制后进行运算,但是有的小数在二进制编码后出现无限循环,因而导致计算出现了误差,在其它变成语言中也有类似的问题。 原因解释参考自百度知道: 例如:求1038.1-1000 ...

    js数字舍入误差以及解决方法(必看篇)

    1、起因: ...(2)比较稳妥方法(数字如果过大,也会有误差): *JS 中能精准表示的最大整数是 Math.pow(2, 53),十进制即 9007199254740992。 大于 9007199254740992 的可能会丢失精度 function

    js中浮点型运算BUG的解决方法说明

    曾经项目用到过的,之前在网上找到此代码,但在特定条件下除法和加法运算依然会出现BUG个人对此稍作优化 代码如下://除法函数,用来得到精确的除法结果//说明:javascript的除法结果会有误差,在两个浮点数相除的...

    JavaScript解决浮点数计算不准确问题的方法分析

    其实对于浮点数的四则运算,几乎所有的编程语言都会有类似精度误差的问题,只不过在 C++/C#/Java 这些语言中已经封装好了方法来避免精度的问题,而 JavaScript 是一门弱类型的语言,从设计思想上就没有对浮点数有个...

    详解JS– 浮点数运算处理

    JS运算后都会有很小的误差. 不像.Net或者Java那样准确. 主要是JS重点不在运算上面,可是有时候项目一定要用到.想了一下大概有两种解决方案 A 方案一: 运算结果保留2-3位小数位数. 前端界面一般用到的运算比较少。精度...

    js浮点数精确计算(加、减、乘、除)

    代码如下:<SPAN xss=removed>//说明:javascript的加法结果会有误差,在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。 //调用:accAdd(arg1,arg2) //返回值:arg1加上arg2的精确结果 ...

    js关于精确计算和数值格式化以及直接引js文件

    代码如下: (function () { var calc = { /* 函数,加法函数,用来得到精确的加法结果 说明:javascript的加法结果会有误差,在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。 参数:arg1:第一...

    muller:穆勒循环问题的简单演示,该问题演示了浮点舍入误差

    decimal_places 用于 bignumber.js,表示运算结果的最大小数位数。 (默认值为 20) 基准 测试是使用英特尔:registered: 酷睿:trade_mark: i7-4702MQ @ 2.20 Ghz 完成的,bignumber.js 的默认小数位数 本国的 real ...

    mongo-round:使用 MongoDB 聚合框架时。 此辅助函数可帮助您对数字进行四舍五入

    mongo-round 使用时执行数字舍入的辅助函数。 npm install mongo-round用法 var round = require ( 'mongo-... To cents and from cents - 从财务数据的算术运算的舍入误差中节省: db . myCollection . aggregate ( [{

Global site tag (gtag.js) - Google Analytics