一個經典的問題: 0.1+0.2==0.3 答案是:false 因為:0.1+0.2=0.30000000000000004 第一次看到這個結果就是無比驚訝,下巴碰到地上,得深入瞭解下問題出在哪裡,該怎麼去調整。 產生問題的原因 在JS中數值類型就只有number類型,沒有int,float,dou ...
一個經典的問題:
0.1+0.2==0.3
答案是:false
因為:0.1+0.2=0.30000000000000004
第一次看到這個結果就是無比驚訝,下巴碰到地上,得深入瞭解下問題出在哪裡,該怎麼去調整。
產生問題的原因
在JS中數值類型就只有number類型,沒有int,float,double之分,number類型實際上存儲的就是IEEE754標準的浮點數,計算規則也是。
在表達式計算前,先要按照標准將兩個數轉成浮點數。
IEEE 754規定:
1.32位的浮點數(單精度),最高的1位是符號位S,接著的8位是指數E,剩下的23位為有效數字M。
浮點數的表現形式:
x=(-1)^S*m*2^(e+127)
m=1.M
E=e+127
2.64位的浮點數(雙精度),最高的1位是符號位S,接著的11位是指數E,剩下的52位為有效數字M。
浮點數的表現形式:
x=(-1)^S*m*2^(e+1023)
m=1.M
E=e+1023
我們就按照雙精度浮點數的標準轉一下看看。
首先按照規則將0.1轉成二進位的浮點數。
0.1*2=0.2 //0 0.2*2=0.4 //00 0.4*2=0.8 //000 0.8*2=1.6 //0001 0.6*2=1.2 //00011 0.2*2=0.4 //000110 0.4*2=0.8 //0001100 0.8*2=1.6 //00011001 0.6*2=1.2 //000110011 0.2*2=0.4 //0001100110 0.4*2=0.8 //00011001100 0.8*2=1.6 //000110011001 0.6*2=1.2 //0001100110011 0.2*2=0.4 //00011001100110 0.4*2=0.8 //000110011001100 0.8*2=1.6 //0001100110011001 0.6*2=1.2 //00011001100110011
//省略
在轉換中,會發現小數位的二進位值在不停的重覆,轉換沒完沒了了,因為乘不盡啊,不是10的倍數。
轉換也不可能一直重覆下去,按照標準規格化的要求湊滿。
轉換結果:
0.00011001100110011001100110011001100110011001100110011001
精度問題產生的第一個原因就在這裡誕生了,按照標準算出來的二進位浮點數並不能都精確的表示一個小數,只是無限近似,0.5可以,因為5是10的倍數,轉出來的小數位二進位不會重覆。
我們看看再轉回小數會怎麼樣,按照公式寫成:
0*2^-1 + 0*2^-2 + 0*2^-3 + 1*2^-4 + 1*2^-5 + 0*2^-6 + 0*2^-7 + 1*2^-8 + 1*2^-9 + 0*2^-10 + 0*2^-11 + 1*2^-12 + 1*2^-13 + 0*2^-14 + 0*2^-15 + 1*2^-16 + 1*2^-17 + 0*2^-18 + 0*2^-19 + 1*2^-20 + 1*2^-21 + 0*2^-22 + 0*2^-23 + 1*2^-24 + 1*2^-25 + 0*2^-26 + 0*2^-27 + 1*2^-28 + 1*2^-29 + 0*2^-30 + 0*2^-31 + 1*2^-32 + 1*2^-33 + 0*2^-34 + 0*2^-35 + 1*2^-36 + 1*2^-37 + 0*2^-38 + 0*2^-39 + 1*2^-40 + 1*2^-41 + 0*2^-42 + 0*2^-43 + 1*2^-44 + 1*2^-45 + 0*2^-46 + 0*2^-47 + 1*2^-48 + 1*2^-49 + 0*2^-50 + 0*2^-51 + 1*2^-52 + 1*2^-53 + 0*2^-54 + 0*2^-55 + 1*2^-56
計算結果:
0.09999999999999999167332731531133
精度就在這裡丟了一次。就是轉換成小數位的二進位的時候。
按照表現形式的要求,要寫成x=(-1)^s*m*2^(e+1023),m=1.M的格式,按照要求尾數m的左邊最高位總是1,所以要上面小數二進位結果的小數點進行移動
移動前:
0.00011001100110011001100110011001100110011001100110011001
移動後:
1.1001100110011001100110011001100110011001100110011001*2^-4
小數點右邊選取要求的52位,上面的結果因為是提前算好,所以就省略了截取工作。
因為小數點最左側的最高位總是1,所以它是不用存儲的,那麼雖然存儲的是52位,但實際上可以表示53位的浮點數。
S=0,E=-4+1023=1019,m=1.M=1.1001100110011001100110011001100110011001100110011001,M=1001100110011001100110011001100110011001100110011001
浮點數表示:
x=-1^0*1.1001100110011001100110011001100110011001100110011001*2^1019
浮點數存儲值(最高的1位是符號位S,接著的11位是指數E,剩下的52位為有效數字M):
0 001111111011 1001100110011001100110011001100110011001100110011001
同理0.2的IEEE754的轉換後的結果:
浮點數表示:
-1^0*1.1001100110011001100110011001100110011001100110011001*2^1020
浮點數存儲值(最高的1位是符號位S,接著的11位是指數E,剩下的52位為有效數字M):
0 001111111100 1001100110011001100110011001100110011001100110011001
接下來,按照IEEE754的加法規則,運算過程為:
1.0操作數的檢查。
2.比較階碼大小並對階。
3.尾數進行加法運算。
4.結果規格化。
5.舍入處理。
6.溢出處理。
按照計算過程,結果規格化、舍入處理、溢出處理都會遭成精度問題。
總結來看,造成精度問題的環節:
1.小數向二進位轉換。
2.運算過程中的規格化,舍入、溢出處理。
精度調整
兩種方法可以進行調整。
1.使用toFixed函數對小數位進行四捨五入。
但是其返回值是字元串,其參數是0 ~ 20之間的值,需要註意。
(0.1+0.2).toFixed(1) // '0.3'
2.無小數運算,運算結果附上小數點
使用該方法,要註意因為要變成整數再計算,對於一個小數點後位數很多的數來運算的時候,要註意溢出。
//加 function add(arg1,arg2){ var digits1,digits2,maxDigits; try{digits1=arg1.toString().split(".")[1].length}catch(e){digits1=0} try{digits2=arg2.toString().split(".")[1].length}catch(e){digits2=0} maxDigits=Math.pow(10,Math.max(digits1,digits2)) return (arg1*maxDigits+arg2*maxDigits)/maxDigits } //減 function sub(arg1,arg2){ var digits1,digits2,maxDigits; try{digits1=arg1.toString().split(".")[1].length}catch(e){digits1=0} try{digits2=arg2.toString().split(".")[1].length}catch(e){digits2=0} maxDigits=Math.pow(10,Math.max(digits1,digits2)); return (arg1*maxDigits-arg2*maxDigits)/maxDigits; } //乘 function mul(arg1,arg2) { var digits=0,s1=arg1.toString(),s2=arg2.toString(); try{digits+=s1.split(".")[1].length}catch(e){} try{digits+=s2.split(".")[1].length}catch(e){} return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,digits); } //除 function div(arg1,arg2){ var int1=0,int2=0,digits1,digits2; try{digits1=arg1.toString().split(".")[1].length}catch(e){digits1=0} try{digits2=arg2.toString().split(".")[1].length}catch(e){digits2=0} int1=Number(arg1.toString().replace(".","")) int2=Number(arg2.toString().replace(".","")) return (int1/int2)*Math.pow(10,digits2-digits1); }
End