博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
[Number]js中数字存储(0.1 + 0.2 !== 0.3)
阅读量:6842 次
发布时间:2019-06-26

本文共 436 字,大约阅读时间需要 1 分钟。

和其他编程语言(如 C 和 Java)不同,JavaScript 不区分整数值和浮点数值,

所有数字在 JavaScript 中均用表示,遵循,在进行数字运算的时候要特别注意。

即:在js中的数字都是64位的浮点数。浮点数不是精确的值。涉及到小数的计算需要特别注意。

IEEE 754

64位浮点数在js中的存储形式如下:

  用数学形式()表示如下:

  

  示例: 

  由上可知,可以存储的数据的小数点为52位,整个数据的有效数字长度为53位。即精度只有53个二进制位。

  1. 整数

  1)精度

   。否则,存储的数据会失去精度。

 

  简单来说,15位的十进制整数都可以精确表示。

  2)数值范围

  由存储形式可知,存储的数值大小主要有指数(Exp)决定。

  数值范围2^(-1023)~2^(1024) 开区间

  

  2. 小数

  小数存储的时候需要特别注意,因为当小数转为二进制的时候,容易丢失精度。

  

 

  

 

转载于:https://www.cnblogs.com/lyraLee/p/10912590.html

你可能感兴趣的文章