当前位置:首页 > 日记 > 正文

Javascript中toFixed计算错误 | 依赖银行家舍入法的缺陷解决方法

Javascript中toFixed计算错误 | 依赖银行家舍入法的缺陷解决方法

前言

在公司项目中涉及到一个有大量浮点数价格计算的模块,从而引发了我一系列的思考:

计算机二进制环境下浮点数的计算精度缺失问题;

console.log(.1+.2);0.30000000000000004

为了解决上述问题,使用了toFixed方法却出现了浮点数小数位以5结尾的四舍五入错误问题;

var num = 0.045;console.log(num.toFixed(2));0.04

以此为起点,引发了我关于toFixed的一系列探索,终于找到了一些有用的信息,toFixed使用的计算规则是:

银行家舍入:所谓银行家舍入法,其实质是一种四舍六入五取偶(又称四舍六入五留双)法。

简单来说就是:四舍六入五考虑,五后非零就进一,五后为零看奇偶,五前为偶应舍去,五前为奇要进一。

正文

下面我们就来证实这个所谓的银行家舍入法,证实分为三种情况,分别以4、5、6为舍入位对toFixed的证实(以chrome为例):

以4为舍入位:

var num = 0.004;console.log(num.toFixed(2));0.00var num = 0.014;console.log(num.toFixed(2));0.01var num = 0.094;console.log(num.toFixed(2));0.09

在4结尾这种情况下toFixed表现的还算不错,并没有错误的问题。

以6为舍入位:

var num = 0.006;console.log(num.toFixed(2));0.01var num = 0.016;console.log(num.toFixed(2));0.02var num = 0.096;console.log(num.toFixed(2));0.10

以6结尾这种情况下toFixed表现的也不错,并没有错误的问题。

以5为舍入位:

5后非零:

var num = 0.0051;console.log(num.toFixed(2));0.01var num = 0.0052;console.log(num.toFixed(2));0.01var num = 0.0059;console.log(num.toFixed(2));0.01

根据规则,五后非零就进一,我们证实并没有任何的问题。

以5为舍入位:

5后为零: 由于这种情况比较特殊,是toFixed方法出现计算错误的情况,所以我进行了大量的证实,且分别在常见的主流浏览器下进行了测试:

以如下测试用例为例:

var num = 0.005;console.log(num.toFixed(2));var num = 0.015;console.log(num.toFixed(2));var num = 0.025;console.log(num.toFixed(2));var num = 0.035;console.log(num.toFixed(2));var num = 0.045;console.log(num.toFixed(2));var num = 0.055;console.log(num.toFixed(2));var num = 0.065;console.log(num.toFixed(2));var num = 0.075;console.log(num.toFixed(2));var num = 0.085;console.log(num.toFixed(2));var num = 0.095;console.log(num.toFixed(2));

chrome、firefox、safari、opera的结果如下:

0.01
0.01
0.03
0.04
0.04
0.06
0.07
0.07
0.09
0.10

ie11结果如下:

0.01
0.02
0.03
0.04
0.05
0.06
0.07
0.08
0.09
0.10

可以看出Ie11下正常,其余浏览器下均出现错误。虽然并不完全符合银行家舍入法的规则,我认为是由于二进制下浮点数的坑导致了不完全符合该规则。

总而言之:不论引入toFixed解决浮点数计算精度缺失的问题也好,它有没有使用银行家舍入法也罢,都是为了解决精度的问题,但是又离不开二进制浮点数的环境,但至少他帮助我们找到了问题所在,从而让我们有解决方法。

解决方法

下面我提供一种通过重写toFixed的方法:

 Number.prototype.toFixed = function(length)    {      var carry = 0; //存放进位标志      var num,multiple; //num为原浮点数放大multiple倍后的数,multiple为10的length次方      var str = this + ''; //将调用该方法的数字转为字符串      var dot = str.indexOf("."); //找到小数点的位置      if(str.substr(dot+length+1,1)>=5) carry=1; //找到要进行舍入的数的位置,手动判断是否大于等于5,满足条件进位标志置为1      multiple = Math.pow(10,length); //设置浮点数要扩大的倍数      num = Math.floor(this * multiple) + carry; //去掉舍入位后的所有数,然后加上我们的手动进位数      var result = num/multiple + ''; //将进位后的整数再缩小为原浮点数      /*      * 处理进位后无小数      */      dot = result.indexOf(".");      if(dot < 0){        result += '.';        dot = result.indexOf(".");      }      /*      * 处理多次进位      */      var len = result.length - (dot+1);      if(len < length){        for(var i = 0; i < length - len; i++){          result += 0;        }      }      return result;    }

该方法的大致思路是首先找到舍入位,判断该位置是否大于等于5,条件成立手动进一位,然后通过参数大小将原浮点数放大10的参数指数倍,然后再将包括舍入位后的位数利用floor全部去掉,根据我们之前的手动进位来确定是否进位。

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持。

相关文章

老生常谈计算机中的编码问题 | 必

老生常谈计算机中的编码问题 | 必

编码问题,计算,老生常谈,必看,机中,计算机中的编码问题因为计算机只能处理数字,如果要处理文本,就必须先把文本转换为数字才能处理。最早的计算机在设计时采用8个比特(bit)作为一个字节(byte),所以,一个字节能表示的最大的整数就是255(二进制1111111…

jQuery is not defined 错误原因与

jQuery is not defined 错误原因与

解决方法,错误,原因,电脑软件,jQuery,通常出现这种状况有几种解决方法:1:查看是否引入jquery文件就算引入了文件了是不是通过一些整站下载器之类的软件下载的,都会出现问题,建议用迅雷到官方下载即可。2:查询路径是否错误,可以在页面源码中点…

Excel中出现循环引用警告的解决方

Excel中出现循环引用警告的解决方

循环引用,步骤,解决方法,电脑软件,Excel,  很多人在打开Excel的时候会频繁弹出&ldquo;循环引用警告&rdquo;这是怎么回事?是什么原因造成的?如何阻止弹出呢?今天,小编就教大家在Excel中出现循环引用警告的解决方法。Excel中出现循环引用警…

excel表格内容错乱怎么办

excel表格内容错乱怎么办

方法,解决方法,序号,表格,内容,  Excel的表格中多数都会有序号,但如果手动输入序号会有几率是混乱的,造成数据的顺序颠倒,要避免这种情况需要用到自动排序,那么具体怎么解决excel 表格序号混乱问题呢,接下来请看本教程吧。Excel表格内容错乱的…

Word2010的表格怎么设置自动计算Wo

Word2010的表格怎么设置自动计算Wo

计算,教程,步骤,设置,表格,  在日常公文处理中,经常会遇到文本、表格混排的情况,在word2010中如何实现表格的自动计算呢?下面小编来告诉你吧。Word2010的表格设置自动计算的步骤首先启动word2010办公软件Word2010的表格设置自动计算的步骤…

Angular动态添加、删除输入框并计

Angular动态添加、删除输入框并计

动态添加,删除,计算,输入框,实例代码,Angular动态添加、删除输入框并计算值实例代码摘要: 在学习群中交流时,有人分享了一个动态添加输入框的方法,我在其基础上进行了一些改进这个功能本身并不复杂,但还是要注意,每个ng-model的对象必须是不同…

Visual Studio 2017无法加载Visual

Visual Studio 2017无法加载Visual

解决方法,无法加载,电脑软件,Studio,Visual,前几天安装了最新的Visual Studio 2017企业版,发现无法打开之前使用Visual Studio 2015创建的SharePoint 2016解决方案,提示“需要更新”。解决方法如下:右键-编辑.csproj,把MinimumOfficeToolsVersi…

HTTP 500 - 内部服务器错误

HTTP 500 - 内部服务器错误

错误,服务器,电脑软件,HTTP,IWAM账号不同步 症状举例: HTTP 500 - 内部服务器错误 原因分析: IWAM账号是安装IIS时系统自动建立的一个内置账号。IWAM账号建立后被Active Directory、IIS metabase数据库和COM+应用程序三方共同使用,账…

APMServ中Apache启动失败的解决方

APMServ中Apache启动失败的解决方

解决方法,启动失败,电脑软件,APMServ,Apache,解决办法之一: Apache 启动失败解决办法~~~ 把左下角的SSL钩上了,如果你没有用证书,就把那个去掉,反正我去掉就可以了。后来装了证书钩上SSL也可以用了。 解决办法之二: 我遇到跟楼主同样问题,在新装…

iscroll动态加载数据完美解决方法

iscroll动态加载数据完美解决方法

动态加载,解决方法,数据,完美,电脑软件,本文实例为大家分享了iscroll动态加载数据的具体代码,供大家参考,具体内容如下<div id="wrapper" class="margin-b90"> <div id="scroller"> <div id="pullDown"> <span class=…

BootStrap模态框和select2合用时in

BootStrap模态框和select2合用时in

获取焦点,解决方法,模态框,电脑软件,BootStrap,在bootstrap的模态框里使用select2插件,会导致select2里的input输入框没有办法获得焦点,没有办法输入.解决方法:1.把页面中的 tabindex="-1" 删掉(测试成功):<div id="myModal" class="m…

怎样Excel2010中根据等级划分来计

怎样Excel2010中根据等级划分来计

日期,等级,职员,算入,电脑软件,  新员工入职,一般来说都是3个月的试用期,试用期考评合格,才能被公司正式聘用成正式员工。那么,应该如何将这些信息列入到Excel表格中呢?以下是小编为您带来的关于Excel2010中根据等级划分来计算入职员工的转正…