實驗資料處理中有效數字運算規則

2022-05-19 07:55:00 字數 1260 閱讀 7131

對於乙個間接測量,如果它是由幾個直接測量值通過相乘除運算而得到的,那麼,在進行測量時應考慮各直接測量值的有效數字位數要基本相仿,或者說它們的相對不確定度要比較接近。如果相差懸殊,那麼精度過高的測量就失去意義。

3.乘方、立方、開方運算

運算結果的有效數字位數與底數的有效位數相同。.

4.對數、三角函式運算

前面介紹的有效數字四則運算法則,是根據不確定度合成理論和有效數字的定義總結出來的。所以,對數、三角函式的計算必須按照不確定度傳遞公式,先求出函式值的不確定度,然後根據測量結果最後一位數字與不確定度對齊的原則來決定有效數字。.

【例5】,求

【解】按照不確定度傳遞公式所以或

【例6】,求

【解】由不確定度傳遞公式所以或

當直接測量的不確定度未給出時,上述過程也可簡化為通過改變自變數末位的乙個單位,觀察函式運算結果的變化情況來確定其有效數字。例如中的「」是欠準確數字,由計算器運算結果為,,兩種結果在小數點後面第四位出現了差異,所以

同理,,所以

但是,這種方法是較粗糙的,有時與正確結果會出現明顯差異。

5.常數

公式中的常數,如、、等,它們的有效數字位數是無限的,運算時一般根據需要,比參與運算的其它量多取一位有效數字即可。例如:

,,取為,。

,取為,。

應該指出的是,上述的運算規則不是絕對的。一般說來,為了避免在運算過程中因數字的取捨而引入計算誤差,則在運算過程中的中間結果應多保留一位數字為妥,但最後結果仍應刪去,以間接測量值最後一位數字與不確定度對齊的原則為準。

上節介紹的不確定度,只能在數量級上對測量結果的可靠程度作出乙個恰當的評價,因此它的數值沒有必要計算得過於精確。

4. 4 測量結果數字取捨規則

數字的取捨採用「四捨六入五湊偶」規則,即欲捨去數字的最高位為4或4以下的數,則「舍」;若為6或6以上的數,則「入」;被捨去數字的最高位為5時,前一位數為奇數,則「入」,前一位數為偶數,則「舍」,即通過取捨,總是把前一位湊成偶數。其目的在於使「入」和「舍」的機會均等,以避免用「四捨五入」規則處理較多資料時,因入多舍少而引入計算誤差。

例如,將下列資料保留到小數點後第二位:

,,,,

有效數字運算規則和數字取捨規則的採用,目的是保證測量結果的準確度不致因數字取捨不當而受到影響。同時,也可以避免因保留一些無意義的欠準確數字而做無用功,浪費時間和精力。現在由於計算器的應用已十分普及,計算過程多取幾位數字也並不花費多少精力,不會給計算帶來什麼困難。

但是,實驗結果的正確表達仍然值得重視的,實驗者應該能正確判斷實驗結果是幾位有效數字,正確結果該怎麼表示。d

實驗資料處理之有效數字運算規則

對於乙個間接測量,如果它是由幾個直接測量值通過相乘除運算而得到的,那麼,在進行測量時應考慮各直接測量值的有效數字位數要基本相仿,或者說它們的相對不確定度要比較接近。如果相差懸殊,那麼精度過高的測量就失去意義。3 乘方 立方 開方運算 運算結果的有效數字位數與底數的有效位數相同。4 對數 三角函式運算...

有效數字及其運算規則

一 有效數字的含義及位數 為了得到準確的分析結果,不僅要準確地測量,而且還要正確地記錄和運算,即記錄的數字不僅表示數量的大小,而且要正確的反映測量的精確程度。如某物重 0.5180g 其中 0.518 是準確的,0 位可疑,即其有上下乙個單位的誤差,也就是說此物重的絕對誤差為 二 有效數字的運算規則...

有效數字及其運算規則

1.1 有效數字 1.定義 有效數字就是實際能測到的數字。有效數字的位數和分析過程所用的分析方法 測量方法 測量儀器的準確度有關。我們可以把有效數字這樣表示。有效數字 所有的可靠的數字 一位可疑數字 表示含義 如果有乙個結果表示有效數字的位數不同,說明用的稱量儀器的準確度不同。例 7.5克用的是粗天...