最近真的是運氣不好,國慶前一天,隔壁小區有人中招了,結果國慶出不了門,好不容易國慶結束了,準備上班,結果小區又有個叼毛中招了,搞得我直接國慶放了半個月,還只能在家過,沒事幹只能這裡寫寫,那裡弄弄,於是今天就把存貨分享給大家了~ 一、什麼是PyQt6? 簡單介紹一下PyQt6 1、基礎簡介 PyQt6 ...
如何保證浮點數計算精度
在銀行和商城等項目中,對於價格或金額的計算必須要保證計算的準確,但是如果直接使用float
、double
等進行計算,會導致精度的損失。
如下例所示:
float f1 = 2.34f;
float f2 = 1.50f;
System.out.println(f1 * f2); //結果為:3.5099998 誤差-0.0000002
float f3 = 2.88f;
float f4 = 0.9f;
System.out.println(f3 / f4); //結果為:3.2000003 誤差+0.0000003
System.out.println(f3 - f4); //結果為:1.9800001 誤差+0.0000001
System.out.println(f3 + f4); //結果為:3.7800002 誤差+0.0000002
很明顯,float類型數據乘法確實會導致精度異常,所以在高精度要求的業務中,無論加減乘除,應該儘量避免或者不使用float類型進行計算,特別是和錢相關的。
那麼使用double
呢?
上代碼:
double d1 = 2.34f;
double d2 = 1.50f;
System.out.println(d1 * d2); //結果為:3.5099998712539673,實際應為:5.51 誤差-0.000001
double d3 = 2.88f;
double d4 = 0.9f;
// 3.5099998712539673
System.out.println(d3 / d4); //結果為:3.2000002119276316,實際應為:3.2 誤差+0.0000002119276316
System.out.println(d3 - d4); //結果為:1.9800001382827759 誤差+0.0000001382827759
System.out.println(d3 + d4); //結果為:3.78000009059906 誤差+0.00000009059906
可以看到,更高精度的double和float一樣,也會存在精度丟失的問題。
那麼在java語言中最適合高精度計算的類型是什麼呢?經過筆者開發中所接觸到的,java.math
包下的BigDecimal
是首選,可以處理任意精度的加減乘除四則運算。
BigDecimal
java中提供了大數字(超過16位有效位)的操作類,即:
java.math.BigInteger:針對大整數的處理類。
java.math.BigDecimal:針對大小數的操作類。
BigDecimal類創建的是對象,所以不能使用傳統的+、-、*、/
等運算符進行數學運算,而必須調用對應的方法,方法的參數也必須是BigDecimal類型。
構造BigDecimal對象常用方法:
-
BigDecimal BigDecimal(double d); //不允許使用
因為它不能精確得到響應的值,值會變大
-
BigDecimal BigDecimal(String s); //常用,推薦使用。
因為s的是完全可預知的,寫入new BigDecimal("1.23")將創建一個正好等於1.23的BigDecimal對象,因此建議優先使用
-
static BigDecimal valueOf(double d); //常用,推薦使用。
此方法的內部實現是將double類型轉換為String類型,因此這也是double或者float類型轉BigDecimal的優先選擇方法之一。
源碼如下:
public static BigDecimal valueOf(double val) {
// Reminder: a zero double returns '0.0', so we cannot fastpath
// to use the constant ZERO. This might be important enough to
// justify a factory approach, a cache, or a few private
// constants, later.
return new BigDecimal(Double.toString(val));
}
float轉BigDecimal運算
float f1 = 4.5f;
float f2 = 2.3f;
BigDecimal decimal1 = new BigDecimal(f1);
BigDecimal decimal2 = new BigDecimal(f2);
System.out.println(decimal1.add(decimal2));
System.out.println(decimal1.subtract(decimal2));
System.out.println(decimal1.multiply(decimal2));
System.out.println(decimal1.divide(decimal2,BigDecimal.ROUND_CEILING));
6.8
2.2
10.35
1.956521739130435
double轉BigDecimal運算
float f1 = 4.5f;
float f2 = 2.3f;
BigDecimal d1 = new BigDecimal(f1 + "");
BigDecimal d2 = new BigDecimal(f2 + "");
System.out.println(d1.add(d2));
System.out.println(d1.subtract(d2));
System.out.println(d1.multiply(d2));
System.out.println(d1.divide(d2,BigDecimal.ROUND_CEILING));
6.79999999999999982236431605997495353221893310546875
2.20000000000000017763568394002504646778106689453125
10.349999999999999200639422269887290894985198974609375
2.0
由上結果可以看出,float和double雖然經過BigDecimal封裝,但是運算結果同樣存在誤差
float和double轉String後再轉BigDecimal運算
float f1 = 4.5f;
float f2 = 2.3f;
BigDecimal d1 = new BigDecimal(String.valueOf(f1));
BigDecimal d2 = new BigDecimal(f2 + "");
System.out.println(d1.add(d2));
System.out.println(d1.subtract(d2));
System.out.println(d1.multiply(d2));
System.out.println(d1.divide(d2,BigDecimal.ROUND_CEILING));
結果:
6.8
2.2
10.35
2.0
由此可見,BigDecimal能更好的保證加減乘除運算結果的準確性。
可能會遇到的異常
java.lang.ArithmeticException
當使用除法時,可能會遇到java.lang.ArithmeticException
異常,原因是BigDecimal是不可變的任意精度的有符號的十進位數,所以可以做精確運算,但在除法中,準確的商可能是一個無限長的十進位數,例如:
float f3 = 1f;
float f4 = 3f;
BigDecimal d3 = new BigDecimal(String.valueOf(f3));
BigDecimal d4 = new BigDecimal(String.valueOf(f4));
System.out.println(d3.divide(d4));
如果沒有指定舍入模式,並且計算結果無法表示為準確的結果,就會拋出此異常,這個時候只需要指定舍入模式就好,如下:
System.out.println(d3.divide(d4,BigDecimal.ROUND_CEILING));
BigDecimal.ROUND_CEILING
上文中,使用了一個常量,用來表示對結果向正無窮方向進行舍入。
與此類似的常量還有如下:
ROUND_DOWN
:向零方向舍入ROUND_FLOOR
:向負無窮方向舍入ROUND_HALF_DOWN
:向(距離)最近的一邊舍入,除非兩邊(的距離)是相等,如果是這樣,向下舍入, 例如1.55 保留一位小數結果為1.5ROUND_HALF_EVEN
:向(距離)最近的一邊舍入,除非兩邊(的距離)是相等,如果是這樣,如果保留位數是奇數,使用ROUND_HALF_UP ,如果是偶數,使用ROUND_HALF_DOWNROUND_HALF_UP
:向(距離)最近的一邊舍入,除非兩邊(的距離)是相等,如果是這樣,向上舍入, 2.55保留一位小數結果為2.6ROUND_UNNECESSARY
:計算結果是精確的,不需要舍入模式ROUND_UP
:向遠離0的方向舍入