化驗員、質監員培訓講義基本常識之有效數字的處理

   2021-07-27 食品微生物檢測公眾號253
核心提示:一、有效數字。1.在分析工作中實際能測量到的數字就稱為有效數字。2.在記錄有效數字時,規定只允許數的末位欠準,而且只能上下差(世界食品網-m.cctv1204.com)
 一、有效數字。

1.在分析工作中實際能測量到的數字就稱為有效數字。

2.在記錄有效數字時,規定只允許數的末位欠準,而且只能上下差1。


二、有效數字修約規則

用“四舍六入五成雙”規則舍去過多的數字。

即當尾數≤4 時,則舍;尾數≥6 時,則入;尾數等于5 時,若5 前面為偶數則舍,為奇數時則入。當5 后面還有不是零的任何數時,無論5 前面是偶或奇皆入。

例如:將下面左邊的數字修約為三位有效數字

2.324→2.32 2.325→2.32 2.326→2.33 2.335→2.34 2.32501→2.33


三、有效數字運算法則

1.在加減法運算中,每數及它們的和或差的有效數字的保留,以小數點后面有效數字位數最少的為標準。在加減法中,因是各數值絕對誤差的傳遞,所以結果的絕對誤差必須與各數中絕對誤差最大的那個相當。

例如:2.0375+0.0745+39.54=?

39.54 是小數點后位數最少的,在這三個數據中,它的絕對誤差最大,為±0.01,所以應以39.54 為準,其它兩個數字亦要保留小數點后第二位,因此三數計算應為:2.04+0.07+39.54=41.65


2.在乘除法運算中,每數及它們的積或商的有效數字的保留,以每數中有效數字位數最少的為標準。在乘除法中,因是各數值相對誤差的傳遞,所以結果的相對誤差必須與各數中相對誤差最大的那個相當。

例如:13.92×0.0112×1.9723=?

0.0112 是三位有效數字,位數最少,它的相對誤差最大,

所以應以0.0112 的位數為準,

即:13.9×0.0112×1.97=0.307


3.分析結果小數點后的位數,應與分析方法精密度小數點后的位數一致。


4.檢驗結果的寫法應與藥典規定相一致。





 
反對 0舉報 0 收藏 0 打賞 0
 
更多>同類檢驗技術
推薦圖文
推薦檢驗技術
點擊排行
 
鹽池灘羊