当前位置:首页 > 日记 > 正文

详谈javascript精度问题与调整

详谈javascript精度问题与调整

一个经典的问题:

0.1+0.2==0.3

答案是:false

因为:0.1+0.2=0.30000000000000004

第一次看到这个结果就是无比惊讶,下巴碰到地上,得深入了解下问题出在哪里,该怎么去调整。

产生问题的原因

在JS中数值类型就只有number类型,没有int,float,double之分,number类型实际上存储的就是IEEE754标准的浮点数,计算规则也是。

在表达式计算前,先要按照标准将两个数转成浮点数。

IEEE 754规定:

1.32位的浮点数(单精度),最高的1位是符号位S,接着的8位是指数E,剩下的23位为有效数字M。

浮点数的表现形式:

x=(-1)^S*m*2^(e+127)

m=1.M

E=e+127

2.64位的浮点数(双精度),最高的1位是符号位S,接着的11位是指数E,剩下的52位为有效数字M。

浮点数的表现形式:

x=(-1)^S*m*2^(e+1023)

m=1.M

E=e+1023

我们就按照双精度浮点数的标准转一下看看。

首先按照规则将0.1转成二进制的浮点数。

0.1*2=0.2 //00.2*2=0.4 //000.4*2=0.8 //0000.8*2=1.6 //00010.6*2=1.2 //000110.2*2=0.4 //0001100.4*2=0.8 //00011000.8*2=1.6 //000110010.6*2=1.2 //0001100110.2*2=0.4 //00011001100.4*2=0.8 //000110011000.8*2=1.6 //0001100110010.6*2=1.2 //00011001100110.2*2=0.4 //000110011001100.4*2=0.8 //0001100110011000.8*2=1.6 //00011001100110010.6*2=1.2 //00011001100110011//省略

在转换中,会发现小数位的二进制值在不停的重复,转换没完没了了,因为乘不尽啊,不是10的倍数。

转换也不可能一直重复下去,按照标准规格化的要求凑满。

转换结果:

0.00011001100110011001100110011001100110011001100110011001

精度问题产生的第一个原因就在这里诞生了,按照标准算出来的二进制浮点数并不能都精确的表示一个小数,只是无限近似,0.5可以,因为5是10的倍数,转出来的小数位二进制不会重复。

我们看看再转回小数会怎么样,按照公式写成:

0*2^-1 + 0*2^-2 + 0*2^-3 + 1*2^-4 + 1*2^-5 + 0*2^-6 + 0*2^-7 + 1*2^-8 + 1*2^-9 + 0*2^-10 + 0*2^-11 + 1*2^-12 + 1*2^-13 + 0*2^-14 + 0*2^-15 + 1*2^-16 + 1*2^-17 + 0*2^-18 + 0*2^-19 + 1*2^-20 + 1*2^-21 + 0*2^-22 + 0*2^-23 + 1*2^-24 + 1*2^-25 + 0*2^-26 + 0*2^-27 + 1*2^-28 + 1*2^-29 + 0*2^-30 + 0*2^-31 + 1*2^-32 + 1*2^-33 + 0*2^-34 + 0*2^-35 + 1*2^-36 + 1*2^-37 + 0*2^-38 + 0*2^-39 + 1*2^-40 + 1*2^-41 + 0*2^-42 + 0*2^-43 + 1*2^-44 + 1*2^-45 + 0*2^-46 + 0*2^-47 + 1*2^-48 + 1*2^-49 + 0*2^-50 + 0*2^-51 + 1*2^-52 + 1*2^-53 + 0*2^-54 + 0*2^-55 + 1*2^-56

计算结果:

0.09999999999999999167332731531133

精度就在这里丢了一次。就是转换成小数位的二进制的时候。

按照表现形式的要求,要写成x=(-1)^s*m*2^(e+1023),m=1.M的格式,按照要求尾数m的左边最高位总是1,所以要上面小数二进制结果的小数点进行移动

移动前:

0.00011001100110011001100110011001100110011001100110011001

移动后:

1.1001100110011001100110011001100110011001100110011001*2^-4

小数点右边选取要求的52位,上面的结果因为是提前算好,所以就省略了截取工作。

因为小数点最左侧的最高位总是1,所以它是不用存储的,那么虽然存储的是52位,但实际上可以表示53位的浮点数。

S=0,E=-4+1023=1019,m=1.M=1.1001100110011001100110011001100110011001100110011001,M=1001100110011001100110011001100110011001100110011001

浮点数表示:

x=-1^0*1.1001100110011001100110011001100110011001100110011001*2^1019

浮点数存储值(最高的1位是符号位S,接着的11位是指数E,剩下的52位为有效数字M):

0 ?001111111011? 1001100110011001100110011001100110011001100110011001

同理0.2的IEEE754的转换后的结果:

浮点数表示:

-1^0*1.1001100110011001100110011001100110011001100110011001*2^1020

浮点数存储值(最高的1位是符号位S,接着的11位是指数E,剩下的52位为有效数字M):

0 ?001111111100? 1001100110011001100110011001100110011001100110011001

接下来,按照IEEE754的加法规则,运算过程为:

1.0操作数的检查。

2.比较阶码大小并对阶。

3.尾数进行加法运算。

4.结果规格化。

5.舍入处理。

6.溢出处理。

按照计算过程,结果规格化、舍入处理、溢出处理都会遭成精度问题。

总结来看,造成精度问题的环节:

1.小数向二进制转换。

2.运算过程中的规格化,舍入、溢出处理。

精度调整

两种方法可以进行调整。

1.使用toFixed函数对小数位进行四舍五入。

但是其返回值是字符串,其参数是0 ~ 20之间的值,需要注意。

(0.1+0.2).toFixed(1) // '0.3'

2.无小数运算,运算结果附上小数点

使用该方法,要注意因为要变成整数再计算,对于一个小数点后位数很多的数来运算的时候,要注意溢出。

//加function add(arg1,arg2){  var digits1,digits2,maxDigits;  try{digits1=arg1.toString().split(".")[1].length}catch(e){digits1=0}  try{digits2=arg2.toString().split(".")[1].length}catch(e){digits2=0}  maxDigits=Math.pow(10,Math.max(digits1,digits2))  return (arg1*maxDigits+arg2*maxDigits)/maxDigits }  //减function sub(arg1,arg2){  var digits1,digits2,maxDigits;  try{digits1=arg1.toString().split(".")[1].length}catch(e){digits1=0}  try{digits2=arg2.toString().split(".")[1].length}catch(e){digits2=0}  maxDigits=Math.pow(10,Math.max(digits1,digits2));  return (arg1*maxDigits-arg2*maxDigits)/maxDigits; } //乘function mul(arg1,arg2) {  var digits=0,s1=arg1.toString(),s2=arg2.toString();  try{digits+=s1.split(".")[1].length}catch(e){}  try{digits+=s2.split(".")[1].length}catch(e){} return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,digits); }//除function div(arg1,arg2){  var int1=0,int2=0,digits1,digits2;  try{digits1=arg1.toString().split(".")[1].length}catch(e){digits1=0}  try{digits2=arg2.toString().split(".")[1].length}catch(e){digits2=0}   int1=Number(arg1.toString().replace(".",""))  int2=Number(arg2.toString().replace(".",""))  return (int1/int2)*Math.pow(10,digits2-digits1); }

以上这篇详谈javascript精度问题与调整就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持。

相关文章

VS2010/VS2013项目创建 ADO.NET连

VS2010/VS2013项目创建 ADO.NET连

项目创建,步骤,连接,详细,电脑软件,本随笔主要是对初学者通过ADO.NET连接数据库的步骤(刚开始我也诸多不顺,所以总结下,让初学者熟悉步骤)1、打开VS新建一个项目(这里的VS版本不限,建项目都是一样的步骤)VS2010版本如图:VS2013版本如图:2、非空项…

Angular动态添加、删除输入框并计

Angular动态添加、删除输入框并计

动态添加,删除,计算,输入框,实例代码,Angular动态添加、删除输入框并计算值实例代码摘要: 在学习群中交流时,有人分享了一个动态添加输入框的方法,我在其基础上进行了一些改进这个功能本身并不复杂,但还是要注意,每个ng-model的对象必须是不同…

怎么使用excel的复制公式excel的复

怎么使用excel的复制公式excel的复

方法,拖动,公式,使用方法,电脑软件,  Excel中公式的复制操作有其特殊性,对此小编从以下几个方面出发,给大家介绍一下在不同情况下公式的复制方法,希望对大家有所帮助。excel的复制公式使用方法一:直接复制公式法首先选中要复制公式的单元格或…

关于jQuery.ajax | 的jsonp碰上pos

关于jQuery.ajax | 的jsonp碰上pos

详解,电脑软件,ajax,jQuery,post,前言以前一直以为当$.ajax()的 dataType设置为jsonp时,其method(请求方法)无论怎么设置,都会变成get,直到前两天遇到了一个坑。下面来一起看看详细的介绍:关于跨域请求与jsonp 跨域:由于受到同源策略(协议、域名、…

excel中分列教程

excel中分列教程

教程,电脑软件,excel,  Excel中的分列功能具体该如何运用呢?下面是由小编分享的excel中分列教程,以供大家阅读和学习。excel中分列教程:  分列步骤1:启动Excel2003(其他版本请仿照操作),打开相应的工作表,在B列右侧插入一个空白列,用于保存分…

详解angularjs中如何实现控制器和

详解angularjs中如何实现控制器和

指令,交互,控制器,如何实现,详解,如果我们具有下面的DOM结构:<div ng-controller="MyCtrl"> <loader>滑动加载</loader> </div> 同时我们的控制器具有如下的签名:var myModule = angular.module("MyModule", []); //首先定义一个模块…

微信小程序 本地数据读取实例

微信小程序 本地数据读取实例

数据读取,实例,程序,电脑软件,微信小,微信小程序 本地数据读取实例一般情况下,小程序的utils这个文件夹下,我们可以把本地的数据写进去,封装成.js文件,提供对外暴露的接口,然后读取本地数据。如果涉及到一些针对这些数据的处理方法,也可以把方法…

ps怎么制作一个小李子的暗蓝色的个

ps怎么制作一个小李子的暗蓝色的个

李子,海报,蓝色,电脑软件,ps,我们看电影,都会看到很多海报,那些海报那么酷,那么帅,大部分是用PS调色出来的,下面来说说,PS6中怎么将一张图片P出海报效果。软件名称:Adobe Photoshop 8.0 中文完整绿色破解版软件大小:150.1MB更新时间:2015-11-041、首…

在Photoshop中如何创建图层蒙版呢?

在Photoshop中如何创建图层蒙版呢?

图层,电脑软件,Photoshop,蒙版呢,ps中蒙板工具可以让我们在不破坏素材的情况下完成对图层中图像的遮盖,而且还可以任意的再次进行修改,下面为大家介绍在Photoshop中如何创建图层蒙版方法,来体验一下吧。在Photoshop中如何创建图层蒙版第一步:若…

word2007如何借助查找和替换校正错

word2007如何借助查找和替换校正错

查找,替换,错别字,电脑软件,  在编写Word文档时,文字出现了很多错误字,如果一个一个去改,既麻烦又浪费时间,这时我们可以通过&ldquo;查找替换&rdquo;功能来纠正文中的错别字。那么下面就由小编给大家分享下word2007中借助查找和替换功能校正…

Laravel网站打开速度优化的方法汇

Laravel网站打开速度优化的方法汇

优化,方法,网站,速度,电脑软件,前言Laravel是一个功能强大的框架,组件很多,代码也很庞大,它的易用方便是牺牲了性能的,即便如此它仍然是一个优秀的框架,但在正式环境下要做好优化提升网站的打开速度。下面这篇文章主要给大家介绍了关于Laravel网…

PS鼠绘拟物化渐变金色复古唱片教程

PS鼠绘拟物化渐变金色复古唱片教程

教程,渐变,金色,唱片,电脑软件,效果图:主要过程:12 3 阅读全文1 23 阅读全文教程结束,以上就是PS鼠绘拟物化渐变金色复古唱片教程的全部内容,希望大家喜欢!相关教程推荐:PS简单快速绘制超精致的金属拉丝黑胶唱片教程全球著名唱片公司标志PS利用…