分析數據的處理

   2010-09-01 346
核心提示:一. 有效數字及其運算規則1. 有效數字的意義和位數(1)有效數字:所有準確數字和一位可疑數字(實際能測到的數字)(2)有效位

一. 有效數字及其運算規則

1. 有效數字的意義和位數

(1)有效數字:所有準確數字和一位可疑數字(實際能測到的數字)

(2)有效位數及數據中的“ 0 ”

      1.0005,                     五位有效數字

      0.5000,      31.05%         四位有效數字

      0.0540,      1.86            三位有效數字

      0.0054,      0.40%          兩位有效數字

      0.5,         0.002%         一位有效數字

2. 有效數字的表達及運算規則

(1)記錄一個測定值時,只保留一位可疑數據,

(2)整理數據和運算中棄取多余數字時,采用“數字修約規則”

四舍六入五考慮

五后非零則進一

五后皆零視奇偶

五前為奇則進一

五前為偶則舍棄

不許連續修約

(3)加減法:以小數點后位數最少的數據的位數為準,即取決于絕對誤差最大的數據位數;

(4)乘除法:由有效數字位數最少者為準,即取決于相對誤差最大的數據位數;

(5)對  數:對數的有效數字只計小數點后的數字,即有效數字位數與真數位數一致;

(6)常  數:常數的有效數字可取無限多位;

(7)第一位有效數字等于或大于 8 時,其有效數字位數可多算一位;

(8)在計算過程中,可暫時多保留一位有效數字;

(9)誤差或偏差取 1~2 位有效數字即可。

二. 可疑數據的取舍

1. Q-檢驗法 (3~10次測定適用,且只有一個可疑數據)

  (1) 將各數據從小到大排列:x1, x2, x3……xn ;

  (2)計算  (x-x),  即  (xn -x1);

  (3)計算    ( x-x),

  (4)計算舍棄商  Q x-xô/ xn -x1 

  (5)根據 n P Q 值表得 Q

 (6)比較 Q Q

     若:    Q ³ Q表   可疑值應舍去

             Q < Q表    可疑值應保留

2. G檢驗法(Grubbs  法)

設有n各數據,從小到大為x1, x2, x3,…… xn;

                          其中 x1 xn為可疑數據:

(1) 計算 (包括可疑值x1 xn在內)、∣x可疑-∣及S

(2) 計算G

(3) 查G值表得Gn,P

(4) 比較GGn,P

若    G ³ Gn,P則舍去可疑值;

            G < Gn,P則保留可疑值。

三. 分析數據的顯著性檢驗

1. 平均值()與標準值(m)之間的顯著性檢驗 —— 檢查方法的準確度

                   (20)

若     t ³ t0.95, n  則 m 有顯著性差異(方法不可靠)

             t < t0.95, n  則 m 無顯著性差異(方法可靠)

2. 兩組平均值的比較

(1)先用F 檢驗法檢驗兩組數據精密度 S1(小)S2(大) 有無顯著性差異(方法之間)

                      (21)

      若此 F 值小于表中的F(0.95) 值,說明兩組數據精密度S1S2無顯著性差異,反之亦反。

(2)再用 t 檢驗法檢驗兩組平均值之間有無顯著性差異

                 (22)

查    t0.95 (f=n1+n2)

若    t ³ t0.95, n  則 說明兩平均值有顯著性差異

t < t0.95, n  則 說明兩平均值無顯著性差異





 
反對 0舉報 0 收藏 0 打賞 0
 
更多>同類檢驗技術
推薦圖文
推薦檢驗技術
點擊排行
 
鹽池灘羊