有効数字ってなに?

有効数字とは?

 有効数字とはJISの用語定義によると以下のようになります。

測定結果などを表す数字のうちで,位取りを示すだけのゼロを
除いた意味のある数字。(JIS K 0211 分析化学用語ー基礎部門ー)

 では、意味のある数字ってなんでしょうか?
 例えば、水を1000 ml量りたいとします。普通なら、試験室ではメスシリンダー、家庭では計量カップなんかを使うと思います。でも手元にはマグカップしかありません、ですが、運のいいことにマグカップの容量は250 mlだとわかっています。
 単純に考えると、 250 ml×4 杯=1000 ml ですね。でもこれ、本当に1000 mlでしょうか?マグカップですよ?ここでは仮にマグカップの計量の不確かさは25 mlとしましょう。4杯の合計なので拡張不確かさは100 mlとなり、量った量は1000±100 mlと表現されます。(不確かさとは、測定の誤差みたいなものです。詳細は”不確かさ”の記事で解説します。)
 1000±100 mlというのは、量った水の量は900~1100 mlの範囲にあって、1000 mlである確率が一番高いよって意味です。
 ”±100 ml”なので、百の位より下が怪しい(不確か)ということになりますね。つまり、意味のある数字は千の位と百の位の2桁ということになります。これが有効数字です。

 ちなみに、定義値には不確かさがないので有効数字の対象外です。しいて言うなら、有効数字無限桁といったところでしょうか。
 例えば、数学定数の円周率や自然対数の底、 単位の接頭辞を変換する際の1000(㌔や㍉など)や1ポンド(0.45359237 kg)などは定義値のため有効数字の対象ではありません。

 有効数字の桁数をわかりやすくするためには、指数表記がよく使われます。先の例だと、1.0(1)×10^3 mlと書きます。ここで、1.0が有効数字、(1)±0.1で不確かさを、10^3(10の3乗)が位取りを表します。1.0なので2桁ですよね。ほかにも、小数の場合は例えば”0.000123”なら”1.23×10^‐4”で有効数字は3桁になります。
 では、ただ”12000”という数字が与えられた場合はどうでしょうか?これは一般的には百の位までのゼロは位取りとみなして2桁とされることが多いです。それよりも多い桁が有効であると示したい場合は指数表記を使うほうが混乱がなくてよいでしょう。余談ですが、これが麻雀の点数の場合、100点未満はないので有効数字3桁といえるかもしれませんね。

有効数字の計算はどうやるの?

  例えば、3.0 Lの試験液から1.00 gのナトリウムが検出されたとしましょう。これの濃度はいくつでしょうか?そのまま計算すると
1.00 g ÷ 3.0 L = 0.3333333…… g/L ですね。
ずっと3が続きますが、あんまり意味があるとは思えませんね。どうするのでしょうか?
 有効数字を含む計算にはルールがあります。
 1)足し算・引き算の場合。小数点以下の桁数が少ないほうに合わせます。
 例:1.2 + 3.456 = 4.656 → 小数点以下の桁数が少ないのは"1.2"の1桁なので丸めてこれに合わせる。よって、"4.6"が答えになります。
  2)掛け算・割り算の場合。有効数字の桁数の少ないものに合わせます。
 例:1.23 × 4.5678 = 5.618394 → 有効数字の桁数が少ないのは"1.23"の3桁なので、これに合わせます。よって、"5.62"が答えになります。
 ということは、ナトリウム濃度の例ですと有効数字の桁数が少ないのは"3.0 L"の2桁なので、濃度は"0.33 g/L"ということになります。
 今回は一度の計算で終わりなのでそのまま桁数を合わせましたが、さらに計算を行う場合は、1~2桁多くとって計算し最終の値を出すときに桁数を合わせてください。

 桁数を合わせるということは数値を丸めるということです。端数処理とも言いますね。
 数値の丸めといえば一般的には四捨五入ですが、丸めにはいくつか種類があります。
 1)四捨五入
 2)切り捨て・切り上げ
 3)偶数への丸め・奇数への丸め
 特に3)を最近接丸めといい、丸めの誤差が少ない丸め方です。このため、JIS Z 8401の規則Aではこの"偶数への丸め"が規定されており、JIS丸めとも言われたりします。(ISO 31-1でも規定されているのでISO丸めとも言われます。)分析で数値を扱う場合も丸めはこの"JIS丸め"で行うことが望ましいとされています。(JIS丸めについては別の記事で解説します。)

有効数字の桁数はどうやって決まるの?

 有効数字が何かわかったところで、それはどうやって決まるのか気になりませんか?
 初めにJISから引用したように、意味のある数字のことでした。では数字の意味について、もう一度考えてみましょう。
 例えば、"12.34"という測定値があった場合、これが"12.340000"でないことはもうお分かりかと思います。最少桁は不確かさを含み、かつ、丸めが行われたかもしれない数字ですね。ということは、12.335≦"12.34"≦12.345 ですね。ちなみに、"12.35"の時は、12.345<"12.35"<12.355 となります。(偶数への丸めを使っている場合。)
 測定器から読み取る際には読み取りの不確かさがあります。
 表示がアナログの場合、例えばビュレットの滴定値は最小目盛りの1/10まで読むことにとされています。最小目盛りが0.1 ml なら0.01 ml の桁まで読むわけです。(JIS K 0050 付属書Cに記載)
 50 ml のビュレットで滴定したときは、30.48 ml と読むので有効数字は3~4桁ですね。
 表示がデジタルの場合、表示の最小桁まで感度が保証されているので表示桁がそのまま有効数字になります。(電子天秤ならJIS B 7611に記載)
 1.0001と表示されているなら、有効数字は5桁ということになります。
 アナログなら目盛りの読み取りの不確かさが、デジタルなら検出の不確かさが最小桁に含まれます。つまり、その桁より小さい桁は不確かさの幅より小さいので、意味のある数字とは言えないってことですね。

 直接測れる測定器の場合はわかりやすかったんですが、ガスクロや原子吸光など、検量線を引いて使う装置の有効数字はどうやって決まるのでしょうか?
 電子天秤などデジタル表示の測定器は、最終桁まで"感度"があるから表示桁がそのまま有効数字になるということでした。装置の有効桁にも"感度"が関係ありそうですね。では”感度”とはなんでしょうか?

1)ある計測器が測定量の変化に感じる度合い。すなわち,ある測定量において,指示量の変化の測定量の変化に対する比。(JIS Z 8103 計測用語)
2)ある量の測定において検出下限または検量線の傾きで表した分析方法の性能(JIS K 0211 分析化学用語‐基礎部門)

 電子天秤の感度は1)ですね。指示量の変化が表示の最小桁の変化になるので、最小桁まで感度があるとされるわけです。
 2)には検量線とあるので、分析装置はこれが該当しそうですね。検出下限か検量線の傾きから不確かさと有効数字の桁数が求められそうです。
 例として原子吸光を考えます。
 JIS K 0121 原子吸光分析通則の3.1装置検出下限の求め方によると、検量線の空試験溶液と検量線の中ほどの濃度溶液を複数回測定し、その表示値の平均と標準偏差を求めます。表示値と濃度の関係線を作成し、その傾きに空試験液の標準偏差を当てはめて装置検出下限を計算するよう規定されています。(詳しくはJISの原文を参照のこと)
 当然ですが、装置や測定元素・検量線濃度によって検出下限も変わりますから、一概に有効数字は何桁だとは言えそうにありません。

 一般に、定量下限は検出下限の10/3倍なので、JISの分析法の定量範囲からおおよその感度を考えてみましょう。
 JIS K 0102 50.2 排水中のカルシウムのフレーム原子吸光法は、定量範囲が0.2~4 mg/L 変動係数2~10% なので、ここから分析法の感度を考えると、
 0.2 mg/L × 3/10 = 0.06 mg/L となります。考えられる標準偏差は0.02なので変動係数も規定範囲内に入っていますね。(変動係数とは、その測定の標準偏差を平均値で割ったものを%表示にしたものです。)
 以上のことから、この方法の定量範囲は0.20~4.00 mg/L なので、有効数字は2~3桁と言えそうですね。

 有効数字の決め方を3つのパターンで見てきました。いずれも測定の不確かさが大きく影響しているがわかると思います。不確かさとは測定においてとても重要な概念で、測定にはつきもののバラツキを表します。

 不確かさの解説については別で記事を作成しますので、よかったらそちらもご覧ください。最後まで読んでいただきありがとうございました。
 この先の有料ラインには装置ごとの感度の求め方をまとめておきます。
 おまけ程度の記事ですが、この記事を読んでわたしの活動を支援してもいいと思われた方は、コーヒーをおごってあげるくらいのつもりで購入していただけると嬉しいです。よろしくお願いいたします。m(._. )m

参考資料

JIS K 0211 : 2013 分析化学用語(基礎部門)
JIS Z 8103 : 2000 計測用語
JIS Z 8404 : 2018 測定の不確かさ
JIS Z 8401 : 2019 数値の丸め方
JIS K 0050 : 2019 化学分析方法通則
JIS B 7611 : 2005 非自動はかりー性能要件及び試験方法ー
JIS K 0102 : 2019 工場排水試験方法
JIS K 0121 : 2006 原子吸光分析通則

装置ごとの検出下限(感度)の求め方

ここから先は

1,742字

¥ 150

もし、わたしの活動を支援してくださるならサポートをお願いします。いただいたサポートは、書籍の購入などわたし自身の学びと提供できる情報のために使わせていただきます。