新四季網

Excel中的浮點運算誤差以及規避的辦法(Excel中的浮點運算誤差以及規避的辦法)

2023-05-01 19:40:12 3

Excel浮點計算誤差,對計算結果會有一定的影響,這個在日常的計算中一定要注意,如果是正常的數值運算,基本上不會出現錯誤了:

例如:

0.82-0.8=0.02

但是如果在外面套上函數就會出現問題:

=INT((B2-A2)*100)

應該得到的結果是2,但是Excel給出的結果卻是1,我們通過查看函數計算過程發現,兩個小數相減,得到的結果不是0.02,而是0.0199999999999999這樣一個值,這就是Excel浮點計算的誤差,我們做了一個簡單的測試,發現絕大多數的數值運算函數,都會受這個誤差的影響,導致計算結果出現錯誤。

有趣的是這個影響的數值範圍:

各種帶8的或者1.2-1.1,又不是所有的差值在0.1的都會顯示0.999999999999999,規律很難找出來。

我試了幾個這種

1.882-1.8

2.8882-2.88

這樣的都會出現浮點誤差。

出現誤差怎麼辦?

微軟提示兩個辦法:

ROUND函數來確定精度:

為了防止這個誤差,嵌套一個ROUND函數來截斷數據

Excel選項中規定計算精度:

高級選項卡下面的計算工作簿,勾選計算精度為顯示精度。

在保存工作簿時,除兩個小數位數之外的所有精度都將丟失。 此選項影響活動工作簿,包括所有工作表。 您無法撤消此選項並恢復丟失的數據。 建議您在啟用此選項之前保存工作簿。

這是微軟的原話,我覺得這個誤差多是出現在絕對值小於0的小數運算,那麼很多時候是在計算各種百分比時會出現誤差,尤其是在績效核算時的打分計算中,多扣分了同事不高興,少扣錢了老闆不滿意。一定要多加小心,認真驗算。

,
同类文章
葬禮的夢想

葬禮的夢想

夢見葬禮,我得到了這個夢想,五個要素的五個要素,水火只好,主要名字在外面,職業生涯良好,一切都應該對待他人治療誠意,由於小,吉利的冬天夢想,秋天的夢是不吉利的
找到手機是什麼意思?

找到手機是什麼意思?

找到手機是什麼意思?五次選舉的五個要素是兩名士兵的跡象。與他溝通很好。這是非常財富,它擅長運作,職業是仙人的標誌。單身男人有這個夢想,主要生活可以有人幫忙
我不怎麼想?

我不怎麼想?

我做了什麼意味著看到米飯烹飪?我得到了這個夢想,五線的主要土壤,但是Tu Ke水是錢的跡象,職業生涯更加真誠。他真誠地誠實。這是豐富的,這是夏瑞的巨星
夢想你的意思是什麼?

夢想你的意思是什麼?

你是什​​麼意思夢想的夢想?夢想,主要木材的五個要素,水的跡象,主營業務,主營業務,案子應該抓住魅力,不能疏忽,春天夢想的吉利夢想夏天的夢想不幸。詢問學者夢想
拯救夢想

拯救夢想

拯救夢想什麼意思?你夢想著拯救人嗎?拯救人們的夢想有一個現實,也有夢想的主觀想像力,請參閱週宮官方網站拯救人民夢想的詳細解釋。夢想著敵人被拯救出來
2022愛方向和生日是在[質量個性]中

2022愛方向和生日是在[質量個性]中

[救生員]有人說,在出生88天之前,胎兒已經知道哪天的出生,如何有優質的個性,將走在什麼樣的愛情之旅,將與生活生活有什么生活。今天
夢想切割剪裁

夢想切割剪裁

夢想切割剪裁什麼意思?你夢想切你的手是好的嗎?夢想切割手工切割手有一個真正的影響和反應,也有夢想的主觀想像力。請參閱官方網站夢想的細節,以削減手
夢想著親人死了

夢想著親人死了

夢想著親人死了什麼意思?你夢想夢想你的親人死嗎?夢想有一個現實的影響和反應,還有夢想的主觀想像力,請參閱夢想世界夢想死亡的親屬的詳細解釋
夢想搶劫

夢想搶劫

夢想搶劫什麼意思?你夢想搶劫嗎?夢想著搶劫有一個現實的影響和反應,也有夢想的主觀想像力,請參閱週恭吉夢官方網站的詳細解釋。夢想搶劫
夢想缺乏缺乏紊亂

夢想缺乏缺乏紊亂

夢想缺乏缺乏紊亂什麼意思?你夢想缺乏異常藥物嗎?夢想缺乏現實世界的影響和現實,還有夢想的主觀想像,請看官方網站的夢想組織缺乏異常藥物。我覺得有些東西缺失了