有效數字及其運算規則

2022-08-27 01:24:03 字數 1664 閱讀 4625

1. 1 有效數字

1. 定義

有效數字就是實際能測到的數字。有效數字的位數和分析過程所用的分析方法、測量方法、測量儀器的準確度有關。我們可以把有效數字這樣表示。

有效數字=所有的可靠的數字+ 一位可疑數字

表示含義:如果有乙個結果表示有效數字的位數不同,說明用的稱量儀器的準確度不同。

例:7.5克用的是粗天平

7.52克用的是扭力天平

7.5187克用的是分析天平

2. 「0」的雙重意義

作為普通數字使用或作為定位的標誌。

例:滴定管讀數為20.30毫公升。兩個0都是測量出的值,算做普通數字,都是有效數字,這個資料有效數字位數是四位。

改用「公升」為單位,資料表示為0.02030公升,前兩個0是起定位作用的,不是有效數字,此資料是四位有效數字。

3. 規定

(1).倍數、分數關係無限多位有效數字

(2). ph、pm、lgc、lgk等對數值,有效數字由尾數決定。

例: pm=5.00 (二位) [m]=1.0×10-5 ;ph=10.34(二位);ph=0.03(二位)

注意:首位數字是8,9時,有效數字可多計一位, 如9.83―四位。

1. 2 數字修約規則(「四捨六入五成雙」規則)

規定:當尾數≤4時則舍,尾數≥6時則入;尾數等於5而後面的數都為0時,5前面為偶數則舍,5前面為奇數則入;尾數等於5而後面還有不為0的任何數字,無論5前面是奇或是偶都入。

例:將下列數字修約為4位有效數字。

修約前修約後

0.526647--------0.5266

0.36266112------0.3627

10.23500--------10.24

250.65000-------250.6

18.085002--------18.09

3517.46--------3517

注意:修約數字時只允許一次修約,不能分次修約。 如:13.4748-13.47

1. 3 計算規則

1. 加減法

先按小數點後位數最少的資料保留其它各數的位數,再進行加減計算,計算結果也使小數點後保留相同的位數。

例:計算50.1+1.45+0.5812=?

修約為:50.1+1.4+0.6=52.1

先修約,結果相同而計算簡捷。

例:計算 12.43+5.765+132.812=?

修約為:12.43+5.76+132.81=151.00

注意:用計數器計算後,螢幕上顯示的是151,但不能直接記錄,否則會影響以後的修約;應在數值後添兩個0,使小數點後有兩位有效數字。

2. 乘除法

先按有效數字最少的資料保留其它各數,再進行乘除運算,計算結果仍保留相同有效數字。

例:計算0.0121×25.64×1.05782=?

修約為:0.0121×25.6×1.06=?

計算後結果為:0.3283456,結果仍保留為三位有效數字。

記錄為:0.0121×25.6×1.06=0.328

注意:用計算器計算結果後,要按照運算規則對結果進行修約

例:計算2.5046×2.005×1.52=?

修約為:2.50×2.00×1.52=?

計算器計算結果顯示為7.6,只有兩位有效數字,但我們抄寫時應在數字後加乙個0,保留三位有效數字。

2.50×2.00×1.52=7.60

有效數字及其運算規則

一 有效數字的含義及位數 為了得到準確的分析結果,不僅要準確地測量,而且還要正確地記錄和運算,即記錄的數字不僅表示數量的大小,而且要正確的反映測量的精確程度。如某物重 0.5180g 其中 0.518 是準確的,0 位可疑,即其有上下乙個單位的誤差,也就是說此物重的絕對誤差為 二 有效數字的運算規則...

有效數字的運算

物理實驗中經常要記錄很多測量資料,這些資料應當是能反映出被測量實際大小的全部數字,即有效數字。但是在實驗觀測 讀數 運算與最後得出的結果中。哪些是能反映被測量實際大小的數字應予以保留,哪些不應當保留,這就與有效數字及其運算法則有關。前面已經指出,測量不可能得到被測量的真實值,只能是近似值。實驗資料的...

實驗資料處理中有效數字運算規則

對於乙個間接測量,如果它是由幾個直接測量值通過相乘除運算而得到的,那麼,在進行測量時應考慮各直接測量值的有效數字位數要基本相仿,或者說它們的相對不確定度要比較接近。如果相差懸殊,那麼精度過高的測量就失去意義。3 乘方 立方 開方運算 運算結果的有效數字位數與底數的有效位數相同。4 對數 三角函式運算...