近似計算中的修約規則

2022-03-01 19:36:55 字數 479 閱讀 3496

乘除運算以有效數字為準,加減運算以小數點位數為準,計算過程中可多保留一位。

已知:標準器證書給出的標準值為60.2,可見標準值是小數點後1位和三位有效數字。

1.參與平均值計算的三個數字60,60,59均為兩位有效數字,平均值計算屬於乘除運算,且是求絕對誤差和相對誤差的計算過程中的乙個步驟,所以平均值計算結果應保留三位有效數字,得59.7。

2.絕對誤差是測量結果減去其標準值(真值),屬於加減運算。加減運算以小數點後位數為準,參與加減運算的兩個值均為小數點後1位,因此測量結果應圓整到小數點後1位,那麼絕對誤差為:

59.7-60.2=-0.

5。3.相對誤差是絕對誤差除以被測量值,為(-0.5/59.

7)×100%=-0.838%。計算相對誤差屬於乘除運算,乘除運算以有效數字為準。

參與計算的數字有效數字最少的為一位有效數字(-0.5),且相對誤差是最終計算結果不是計算過程中的乙個步驟,所以相對誤差只能保留一位有效數字為-0.8%。

附錄B 近似計算偏壓構件側移二階效應的增大係數法

b.0.1 在框架結構 剪力牆結構 框架 剪力牆結構及筒體結構中,當採用增大係數法近似計算結構因側移產生的二階效應 p 效應 時,應對未考慮p 效應的一階彈性分析所得的柱 牆肢端彎矩和樑端彎矩以及層間位移分別按公式 b.0.1 1 和公式 b.0.1 2 乘以增大係數 s b.0.1 1 b.0.1...

數值修約規則與數值極限的表示和判定

gb t 8170 2008 數值修約規則與數值極限的表示和判定 定西公路總段試驗室 二o一o年十月 數值修約 一 數值修約的概念及意義 二 數值修約的基礎知識 三 數值修約規則及注意事項 四 數值運算規則 一 數值修約的概念及意義 測量及測量結果 數值修約的概念及意義 1.測量 測量結果 1 測量...

種子檢驗中對數字的修約

摘要 種子檢驗的最後一道環節,也是非常重要的乙個環節,其中資料處理是一項至關重要的工作內容,資料處理的科學與否將直接影響到種子檢驗的檢驗結果的準確性以及判定結果的正確性。因此對於種子檢驗中對數字的修約問題應該給予重視,嚴格按照檢驗規程中的規定對資料進行科學規範的處理。本文通過對種子檢驗的闡述,以及對...