javascript精度問題與調整

来源:http://www.cnblogs.com/kongxianghai/archive/2017/07/07/7131865.html
-Advertisement-
Play Games

一個經典的問題: 0.1+0.2==0.3 答案是:false 因為:0.1+0.2=0.30000000000000004 第一次看到這個結果就是無比驚訝,下巴碰到地上,得深入瞭解下問題出在哪裡,該怎麼去調整。 產生問題的原因 在JS中數值類型就只有number類型,沒有int,float,dou ...


一個經典的問題:

0.1+0.2==0.3

答案是:false

因為:0.1+0.2=0.30000000000000004

 

第一次看到這個結果就是無比驚訝,下巴碰到地上,得深入瞭解下問題出在哪裡,該怎麼去調整。

 

產生問題的原因

在JS中數值類型就只有number類型,沒有int,float,double之分,number類型實際上存儲的就是IEEE754標準的浮點數,計算規則也是。

在表達式計算前,先要按照標准將兩個數轉成浮點數。

 

IEEE 754規定:

1.32位的浮點數(單精度),最高的1位是符號位S,接著的8位是指數E,剩下的23位為有效數字M。

浮點數的表現形式:

x=(-1)^S*m*2^(e+127)

m=1.M

E=e+127

2.64位的浮點數(雙精度),最高的1位是符號位S,接著的11位是指數E,剩下的52位為有效數字M。

 浮點數的表現形式:

x=(-1)^S*m*2^(e+1023)

m=1.M

E=e+1023

 

我們就按照雙精度浮點數的標準轉一下看看。

首先按照規則將0.1轉成二進位的浮點數。

0.1*2=0.2  //0
0.2*2=0.4  //00
0.4*2=0.8  //000
0.8*2=1.6  //0001
0.6*2=1.2  //00011
0.2*2=0.4  //000110
0.4*2=0.8  //0001100
0.8*2=1.6  //00011001
0.6*2=1.2  //000110011
0.2*2=0.4  //0001100110
0.4*2=0.8  //00011001100
0.8*2=1.6  //000110011001
0.6*2=1.2  //0001100110011
0.2*2=0.4  //00011001100110
0.4*2=0.8  //000110011001100
0.8*2=1.6  //0001100110011001
0.6*2=1.2  //00011001100110011
//省略


在轉換中,會發現小數位的二進位值在不停的重覆,轉換沒完沒了了,因為乘不盡啊,不是10的倍數。

轉換也不可能一直重覆下去,按照標準規格化的要求湊滿。

轉換結果:
0.00011001100110011001100110011001100110011001100110011001

精度問題產生的第一個原因就在這裡誕生了,按照標準算出來的二進位浮點數並不能都精確的表示一個小數,只是無限近似,0.5可以,因為5是10的倍數,轉出來的小數位二進位不會重覆。

 

我們看看再轉回小數會怎麼樣,按照公式寫成:

0*2^-1 + 0*2^-2 + 0*2^-3 + 1*2^-4 + 1*2^-5 + 0*2^-6 + 0*2^-7 + 1*2^-8 + 1*2^-9 + 0*2^-10 + 0*2^-11 + 1*2^-12 + 1*2^-13 + 0*2^-14 + 0*2^-15 + 1*2^-16 + 1*2^-17 + 0*2^-18 + 0*2^-19 + 1*2^-20 + 1*2^-21 + 0*2^-22 + 0*2^-23 + 1*2^-24 + 1*2^-25 + 0*2^-26 + 0*2^-27 + 1*2^-28 + 1*2^-29 + 0*2^-30 + 0*2^-31 + 1*2^-32 + 1*2^-33 + 0*2^-34 + 0*2^-35 + 1*2^-36 + 1*2^-37 + 0*2^-38 + 0*2^-39 + 1*2^-40 + 1*2^-41 + 0*2^-42 + 0*2^-43 + 1*2^-44 + 1*2^-45 + 0*2^-46 + 0*2^-47 + 1*2^-48 + 1*2^-49 + 0*2^-50 + 0*2^-51 + 1*2^-52 + 1*2^-53 + 0*2^-54 + 0*2^-55 + 1*2^-56

計算結果:

0.09999999999999999167332731531133

精度就在這裡丟了一次。就是轉換成小數位的二進位的時候。

 

按照表現形式的要求,要寫成x=(-1)^s*m*2^(e+1023),m=1.M的格式,按照要求尾數m的左邊最高位總是1,所以要上面小數二進位結果的小數點進行移動

移動前:

0.00011001100110011001100110011001100110011001100110011001

移動後:

1.1001100110011001100110011001100110011001100110011001*2^-4

小數點右邊選取要求的52位,上面的結果因為是提前算好,所以就省略了截取工作。

因為小數點最左側的最高位總是1,所以它是不用存儲的,那麼雖然存儲的是52位,但實際上可以表示53位的浮點數。

S=0,E=-4+1023=1019,m=1.M=1.1001100110011001100110011001100110011001100110011001,M=1001100110011001100110011001100110011001100110011001

浮點數表示:
x=-1^0*1.1001100110011001100110011001100110011001100110011001*2^1019

浮點數存儲值(最高的1位是符號位S,接著的11位是指數E,剩下的52位為有效數字M):

0 ‭001111111011‬ 1001100110011001100110011001100110011001100110011001

 

同理0.2的IEEE754的轉換後的結果:

浮點數表示:
-1^0*1.1001100110011001100110011001100110011001100110011001*2^1020

浮點數存儲值(最高的1位是符號位S,接著的11位是指數E,剩下的52位為有效數字M):

0 ‭001111111100‬ 1001100110011001100110011001100110011001100110011001

 

接下來,按照IEEE754的加法規則,運算過程為:

1.0操作數的檢查。

2.比較階碼大小並對階。

3.尾數進行加法運算。

4.結果規格化。

5.舍入處理。

6.溢出處理。

 

按照計算過程,結果規格化、舍入處理、溢出處理都會遭成精度問題。

總結來看,造成精度問題的環節:

1.小數向二進位轉換。

2.運算過程中的規格化,舍入、溢出處理。

 

精度調整

兩種方法可以進行調整。

1.使用toFixed函數對小數位進行四捨五入。

但是其返回值是字元串,其參數是0 ~ 20之間的值,需要註意。

(0.1+0.2).toFixed(1) // '0.3'

 

2.無小數運算,運算結果附上小數點

使用該方法,要註意因為要變成整數再計算,對於一個小數點後位數很多的數來運算的時候,要註意溢出。

//
function add(arg1,arg2){ 
  var digits1,digits2,maxDigits; 
  try{digits1=arg1.toString().split(".")[1].length}catch(e){digits1=0} 
  try{digits2=arg2.toString().split(".")[1].length}catch(e){digits2=0} 
  maxDigits=Math.pow(10,Math.max(digits1,digits2)) 
  return (arg1*maxDigits+arg2*maxDigits)/maxDigits 
} 
 
//
function sub(arg1,arg2){ 
  var digits1,digits2,maxDigits; 
  try{digits1=arg1.toString().split(".")[1].length}catch(e){digits1=0} 
  try{digits2=arg2.toString().split(".")[1].length}catch(e){digits2=0} 
  maxDigits=Math.pow(10,Math.max(digits1,digits2)); 
  return (arg1*maxDigits-arg2*maxDigits)/maxDigits; 
} 

//
function mul(arg1,arg2) { 
  var digits=0,s1=arg1.toString(),s2=arg2.toString(); 
  try{digits+=s1.split(".")[1].length}catch(e){} 
  try{digits+=s2.split(".")[1].length}catch(e){}
  return  Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,digits); 
}

//
function div(arg1,arg2){ 
  var int1=0,int2=0,digits1,digits2; 
  try{digits1=arg1.toString().split(".")[1].length}catch(e){digits1=0} 
  try{digits2=arg2.toString().split(".")[1].length}catch(e){digits2=0} 
  
  int1=Number(arg1.toString().replace(".","")) 
  int2=Number(arg2.toString().replace(".","")) 
  return (int1/int2)*Math.pow(10,digits2-digits1); 

} 

 

End

 


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • css權重 指的是樣式的優先順序,有兩條或多條樣式作用於一個元素,權重高的那條樣式對元素起作用,權重相同的後寫的樣式會覆蓋前面寫的樣式。 權重的等級 可以把樣式的應用方式分為幾個等級,按照等級來計算權重 a、!important 加在樣式屬性後,權重值為10000(慎用) b、內聯樣式(style=" ...
  • jQuery為開發插件提拱了兩個方法,分別是: jQuery.fn 原來 jQuery.fn = jQuery.prototype.對prototype肯定不會陌生啦。 雖然 javascript 沒有明確的類的概念,但是用類來理解它,會更方便。 jQuery便是一個封裝得非常好的類,比如我們用 語 ...
  • 一 歷史 二 實現 a. javascript三個部分: ECMAScript:由ECMA-262定義,提供核心語言功能; DOM:提供HTML的應用程式編程介面/提供訪問和操作網頁內容的方法和介面; BOM:提供與瀏覽器交互的方法和介面; 三 版本 ...
  • 更新於(2017.07.07)會總結項目中比較常用的有些CSS屬性 偽類選擇器 超鏈接狀態順序: ...
  • (function (window) { var arr = []; var VP = function (selector, context) { return new VP.fn.init(selector, context); } VP.fn = VP.prototype = { constr ...
  • 1.使用 代替 ==JavaScript 使用2種不同的等值運算符: |!== 和 ==|!=,在比較操作中使用前者是最佳實踐。“如果兩邊的操作數具有相同的類型和值, 返回true,!==返回false。”——JavaScript:語言精粹然而,當使用==和!=時,你可能會遇到類型不同的情況,這種情 ...
  • 前端新手自己寫的,練習一下基本功,也是在博客園留下的第一次記錄 html部分 css部分 js部分 ...
  • JavaScript是一種解釋型語言而不是編譯型語言,它往往被認為是一種腳本語言,而不被看作是一種真正的編程語言。也就是說,腳本語言比較簡單,它們是非程式員所使用的編程語言。 如果一個程式員對JavaScript沒有扎實的理解,那麼當他要用JavaScript執行較複雜的任務時,就會發現整個過程困難 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...