NUMBER (p,s) p和s範圍: p 1-38 s -84-127 number(p,s),s大於0,表示有效位最大為p,小數位最多為s,小數點右邊s位置開始四捨五入,若s>p,小數點右側至少有s-p個0填充(必須從小數點處開始並連續)。 舉例: number(2,1) 有效位最大為2,小數點 ...
NUMBER (p,s)
p和s範圍:
p 1-38
s -84-127
number(p,s),s大於0,表示有效位最大為p,小數位最多為s,小數點右邊s位置開始四捨五入,若s>p,小數點右側至少有s-p個0填充(必須從小數點處開始並連續)。
舉例:
number(2,1) 有效位最大為2,小數點後最多保留1位:
存1.115 得1.2
存1.11 的1.1
存1 得1
存0.01 得0
存11.1 得出錯 有效位為3,大於2
存11 得出錯 因為11等於11.0 有效位為3,大於2
number(2,4) 有效位最大為2,小數點後最多保留4位:
最大存值:0.0099,至少從小數點處開始並連續填充4-2=2個0,
如存1出錯,因為1等於1.0000,有效位為5,大於2
number(p,s),s小於0,表示有效位最大為p+|s|,沒有小數位,小數點左邊s位置開始四捨五入,小數點左側s位,每一位均為0。
舉例:
number(2,-3) 有效位最大為2+3=5,沒有小數位:
存11111 得11000,因為11111等於11111.0,從小數點左側3位處開始四捨五入。
存11545 得12000
存11545.5 得12000,因為不存小數位,所以捨去小數位
存99999 得出錯,因為四捨五入後變為,100000,有效位為6,大於5
存9999 得10000
這是本人覺得很簡單的解釋了,如需更多詳細解釋,請前往本人參考網址:
http://www.blogjava.net/caojianhua/archive/2011/01/24/343461.html