給大家看個計算題,看看大家的算術能力。 0.1 +0.1 +0.1 - 0.3 等於幾? 大家可能會說這麼簡單的問題,是不是看不起我?肯定等於0啊。 如果大家直接算的是沒有問題的,但是如果用電腦呢? 見證奇跡的時刻到了,看代碼: 運行結果: 這是因為電腦的精度的問題,在電腦的內部存儲和運算的精 ...
給大家看個計算題,看看大家的算術能力。
0.1 +0.1 +0.1 - 0.3 等於幾?
大家可能會說這麼簡單的問題,是不是看不起我?肯定等於0啊。
如果大家直接算的是沒有問題的,但是如果用電腦呢?
見證奇跡的時刻到了,看代碼:
void Main() { var f = 0.1 +0.1 +0.1 -0.3; Console.WriteLine("f=={0}",f); }
運行結果:
這是因為電腦的精度的問題,在電腦的內部存儲和運算的精度缺失等問題,我解釋的可能不太明白,不過,大家可以用下麵的方案進行解決:
void Main() { //var f = 0.1 +0.1 +0.1 -0.3; //Console.WriteLine("f=={0}",f); var f1 = new Decimal(0.1) + new Decimal(0.1) + new Decimal(0.1) - new Decimal(0.3); Console.WriteLine("f1 == {0}",f1); }
運行結果:
這樣就是正常的運算結果了。
啦啦啦!!!!