在 Excel 的運算中,有時你會發現類似以下的問題:

B1:0.000123456789012345

B2:1

B3:1.00012345678901

若 B3=B1+B2,觀察儲存格B3,結果好像不正確(應為0.000123456789012345)。那是因為在 Excel 中最多只能儲存 15 個有效位數的精確度所致。

同理,當你在使用非常的數字來運算時,也會遭遇有效位數不夠用的問題。

所以你在計算時,如果要求準確度要很精細的計算,你可能要小心一點處理。你可以參考微軟的說明:

浮點算術可能會在 Excel 中造成不正確的計算結果(http://support.microsoft.com/kb/78113/zh-tw)

 

arrow
arrow
    全站熱搜
    創作者介紹
    創作者 vincent 的頭像
    vincent

    學不完.教不停.用不盡

    vincent 發表在 痞客邦 留言(0) 人氣()