next up previous contents index
Next: 精度 Up: 単位と数値 Previous: 桁移動子   目次   索引


有効数字

有効数字は、 その計測機器の精度に基づいて決まられる。 測定した生のデータは、計測器の精度を考えて、 数文字が有効な数値を記述すべきであるが、 計算した結果をまとめる場合にも、有効数字という概念は必要となる。

有効数字の定義方法にはいくつかある。

符号、小数点と10の巾乗の表示を除いた数字で、 先頭から連続した0を除いて残った数字の数を有効数字という。
という定義が合理的に見えるが、 ここでは次のように定義する。

符号、小数点と10の巾乗の表示を除いた数字で、先頭から連続した0を除き、 さらに、先頭の一つの1を除いて残った数字の数を有効数字という。

これは、 桁上がりや桁下がりがある場合の計算での精度劣化を 考慮に入れた表現である。本質的な違いはないので、前の例でもよい。 小数点の位置は有効数字には関係がない。

$\mbox{\Large 1\hspace{-1.6ex}}
\underbrace{\mbox{\Large 2.345}}_{\textmc{有効数字4(5)桁}}$,     $\mbox{\Large0.001\hspace{-3.2ex}}
\underbrace{\mbox{\Large 23}}_{\textmc{有効数字2(3)桁}}$,     $\mbox{\Large -0.0\hspace{-2ex}}
\underbrace{\mbox{\Large 4230}}_{\textmc{有効数字4桁}}$

また、物理量の演算で加減算は、同じ単位の物理量の間でしか意味を持たないの は自明のことである。それゆえに、

\begin{displaymath}
1.455\mbox{m} + 25.8 \underline{\mbox{c}}\mbox{m} + 2 \underline{\mbox{m}}\mbox{m}
\end{displaymath}

では、桁移動を示す、c, m を数値として扱う必要がある。 mm (ミリメートル)とcm(センチメートル) は同じ長さを 表し、同じ単位として考える必要がある。そのため、
$
{ 1.455 + 25.8 \underline{c} + 2.85 \underline{m} } \mbox{m} \\
= { 1.455 + 25.8\times 10^{-2} + 2.85\times 10^{-3} } \mbox{m} = 1.716 \mbox{m}
$
のように、 $\times 10^{-3}$等と同じように桁移動の記号として c, m を数値の一部し、単位の一部としてはならないとする。 つまり、 「mm (ミリメートル)という単位はない」のである。 乗算や除算ではその積や商は元の数値の有効数字の小さい方になる。



Subsections

Ken Kishimoto 2014-06-02