有効数字

有効数字は、その計測方法に基づいて決まられる。 測定した生データは、計測器の精度を考えて、数値を記述すべきであるが、 計算した結果をまとめる場合にも、有効数字という概念は必要となる。

[ゆうこうすうじ]有効数字の定義方法にはいくつかある。

符号、小数点と10の巾乗の表示を除いた数字で、先頭から連続した0を除いて残っ た数字の数を有効数字という。

という定義が合理的に見えるが、 ここでは次のように定義する。

符号、小数点と10の巾乗の表示を除いた数字で、先頭から連続した0を除き、さ らに、先頭の一つの1を除いて残った数字の数を有効数字という。

これは、桁上がりや桁下がりがある場合の計算での精度劣化を考慮に入れた表現 である。小数点の位置は有効数字には関係がない。

$\mbox{\LARGE 1\hspace{-1.6ex}}\underbrace{\mbox{\LARGE 2.345}}_{\textmc{有効数字4桁}}$,     $\mbox{\LARGE0.001\hspace{-3.2ex}}\underbrace{\mbox{\LARGE 23}}_{\textmc{有効数字2桁}}$,     $\mbox{\LARGE -0.01\hspace{-2ex}}\underbrace{\mbox{\LARGE 2300}}_{\textmc{有効数字4桁}}$

また、物理量の演算で加減算は、同じ単位の物理量の間でしか意味を持たないの は自明のことである。それゆえに、

$$1.455\mbox{m} + 25.8 \underline{\mbox{c}}\mbox{m} + 2 \underline{\mbox{m}}\mbox{m}$$

では、桁移動を示す、c, m を数値として扱う必要がある。 mm (ミリメートル)とcm(センチメートル) は同じ長さを 表し、同じ単位として考える必要がある。そのため、

${ 1.455 + 25.8 \underline{c} + 2.85 \underline{m} } \mbox{m} \\ = { 1.455 + 25.8\times 10^{-2} + 2.85\times 10^{-3} } \mbox{m} = 1.716 \mbox{m}$

のように、 $\times 10^{-3}$等と同じように桁移動の記号として c, m を数値の一部し、単位の一部としてはならないとする。 つまり、 「mm (ミリメートル)という単位はない」のである。 乗算や除算ではその積や商は元の数値の有効数字の小さい方になる。