目錄 前言 JavaScript加減乘除運算 decimal.js加減乘除運算 前言 開發過程中免不了有浮點運算,JavaScript浮點運算的精度問題會帶來一些困擾 JavaScript 只有一種數字類型 ( Number ) JavaScript採用 IEEE 754 標準雙精度浮點(64),6 ...
目錄
前言
開發過程中免不了有浮點運算,JavaScript浮點運算的精度問題會帶來一些困擾
JavaScript 只有一種數字類型 ( Number )
JavaScript採用 IEEE 754 標準雙精度浮點(64),64位中 1位浮點數中符號,11存儲指數,52位存儲浮點數的有效數字
有時候小數在二進位中表示是無限的,所以從53位開始就會舍入(舍入規則是0舍1入),這樣就造成了“浮點精度問題”(由於舍入規則有時大點,有時小點)
下麵用示例來看看
JavaScript加減乘除運算
加法
var a = 0.1; var b = 0.2; console.log('0.1 以二進位表示:', a.toString(2)); console.log('0.2 以二進位表示:', b.toString(2)); console.log('直接加法運算 0.1 + 0.2 =', a + b);add.js 示例代碼
示例: 0.1 + 0.2
預期結果:0.3
實際結果:0.30000000000000004
減法
var a = 1.0; var b = 0.7; console.log('1.0 以二進位表示:', a.toString(2)); console.log('0.7 以二進位表示:', b.toString(2)); console.log('直接減法運算 1.0 - 0.7 =', a - b);sub.js示例代碼
示例: 1.0 - 0.7
預期結果:0.3
實際結果:0.30000000000000004
乘法
var a = 1.01; var b = 1.003; console.log('1.01 以二進位表示:', a.toString(2)); console.log('1.003 以二進位表示:', b.toString(2)); console.log('直接乘法運算 1.01 * 1.003 =', a * b);mul.js示例代碼
示例: 1.01 * 1.003
預期結果:1.01303
實際結果:1.0130299999999999
除法
var a = 0.029; var b = 10; console.log('0.029 以二進位表示:', a.toString(2)); console.log('10 以二進位表示:', b.toString(2)); console.log('直接除法運算 0.029 / 10 =', a / b);div.js示例代碼
示例: 0.029 / 10
預期結果:0.0029
實際結果:0.0029000000000000002
說明:以上加、減、乘、除示例分別演示了JavaScript運算結果(當然實際結果並不是我們想要的),為什麼會出現這樣的結果,前言中已經說明^_^!
decimal.js加減乘除運算
An arbitrary-precision Decimal type for JavaScript
GITHUB: https://github.com/MikeMcl/decimal.js
API: http://mikemcl.github.io/decimal.js/
NPM: https://www.npmjs.com/package/decimal.js
先安裝decimal.js
npm install --save decimal.js
把上面的示例,用decimal.js運算一次,對比一下結果
var Decimal = require('decimal.js'); //加法 var a = 0.1; var b = 0.2; console.log('直接加法運算 a + b =', a + b); console.log('Decimal.js加法運算 a + b =', new Decimal(a).add(new Decimal(b)).toNumber()); //減法 var a = 1.0; var b = 0.7 console.log('直接減法運算 a - b =', a - b); console.log('Decimal.js減法運算 a - b =', new Decimal(a).sub(new Decimal(b)).toNumber()); //乘法 var a = 1.01; var b = 1.003; console.log('直接乘法運算 a * b =', a * b); console.log('Decimal.js乘法運算 a * b =', new Decimal(a).mul(new Decimal(b)).toNumber()); //除法 var a = 0.029; var b = 10; console.log('直接除法運算 a / b =', a / b); console.log('Decimal.js除法運算 a / b =', new Decimal(a).div(new Decimal(b)).toNumber());app.js示例代碼
從圖中可以看結果一目瞭然^_^!
說明: “浮點問題”不算是問題,它一直就是這樣,也不是JavaScript獨有的, 所以這個鍋不應該它背^_^!