<このWeb sitesは,Geocitiesの閉鎖に伴いこのサイトに移設しました。>


検量線から検出限界値(ブランクの範囲)を推定する方法

参考:「データのとり方とまとめ方」分析化学のための統計学 J.C.Miller/J.N.Miller著 共立出版


1)概要

 既知濃度の測定結果と、検量線から求めた既知濃度の測定結果との「差」のばらつきから、統計的に信頼できる範囲求め、濃度0の時のこの信頼範囲をもって、検出限界値とする考え方である。
 この考え方では、機器固有の検出限界(S/N比)等のほかの要因は考慮されていないため、これだけで検出限界値とすることは問題がある。
 詳しい内容は、参考書を参照のこと。ページ104〜117。

2)具体的な計算方法

  1. 検量線を作成するため、あらかじめ正確にわかっている濃度を測定し、濃度値をx、機器の測定値をyとしたグラフ(xy直交座標の散布図)を作成する。
  2. 1で作成したグラフから、回帰直線を計算する。原点を固定しなくて良い。
  3. 2で求めた回帰直線を使って、逆に検量線用データの濃度値(上記1のx値)から機器の測定値を導く。
  4. 検量線を作成するときに求めた機器の測定値(1のy値)と、3で求めた機器の測定値との絶対値の差を総和して、二乗する。
  5. 1で測定した検量線用データの測定回数から2を引く。
  6. 4で求めた数値を、5で求めた数値で割り、これをルートする。この値がSy/xである。
  7. 2で求めた回帰直線のy切片(濃度0=ブランク値)に、Sy/xを3倍して足す。これがy切片(ブランク値)に対する信頼範囲となる。
  8. これを1で求めた回帰直線に代入し、濃度を求める。この濃度が、検出限界値と推定できる。
参考書に書かれたデータを元に計算
1)検量線作成用データ
x(既知の濃度値)
1)検量線作成用データ
y(機器分析結果)
3)1で求めた検量線(回帰直線)に既知濃度を代入してyを求める 4−1)1のy値と3のy値の差の絶対値 4−2)二乗
0 2.1 1.517857 0.582143 0.33889
2 5 5.378571 0.378571 0.143316
4 9 9.239286 0.239286 0.057258
6 12.6 13.1 0.5 0.25
8 17.3 16.96071 0.339286 0.115115
10 21 20.82143 0.178571 0.031888
12 24.7 24.68214 0.017857 0.000319
Σ(差の二乗) 0.936786
y/x 0.432848

3)エクセルによる試算データ(上の数値とは異なります)

-> Download Zip compressed data 2.6KB
もし間違っていたら直して使って下さい。(あくまでも考え方ということで...)

4)検出限界値関係のエクセル数式

 ・測定結果が検出限界値未満であるかを判断して、もし検出限界値未満だった場合、限界値未満であると書き出す式

=IF(セルA<セルB,TEXT(セルC,"<#0.#0"),セルA*検量線)
 ここに
  セルA:測定値
  セルB:測定値の検出限界値
  セルC:濃度の検出限界値

 a)測定値が0.001で、測定値の検出限界値が0.002で、濃度の検出限界値が0.05とすると
  上記の式では、<0.05と、テキスト化して書き出されます。
 b)測定値が0.002で、測定値の検出限界値が0.001で、濃度の検出限界値が0.05とすると
  上記の式では、0.002×検量線で、濃度値が計算され、数値として書き出されます。

 ・上記の式で検出限界値未満と書き出されたセル(テキスト)と、濃度値のセル(数値)を見分ける方法:上記例のaとbの区別をする

=IF(ISNUMBER(セルD)=TRUE,数式,セルD)
 ここに
  セルD:判断を行う対象のセル
 この式はセルDが数値であるかを判断しています。数値であれば、上式内に書かれている数式を実行し、もし数値でなければセルDを書き出します。

 ・セルの中の数値の頭に”<”をつけたい時

REPLACE関数を用いる。
この関数は、
 REPLACE(文字列,開始位置,文字数,置換文字列)
であるので、開始位置を1、文字数を0にすれば、単純に数値の頭に付与されます。開始位置を変えれば、挿入になります。削除は置換文字列に「""(ヌル)」を指定します。

ホームページに戻る  一つ前のページに戻る このサイトについて
Copyright(c) 2001-2002, [always in the field]KOBAYASHI Shigeru, JAPAN


Yahoo Geocitiesの閉鎖に伴い、このホスティングサービスに移設しました。