next up previous contents index
Next: 物理定数 Up: 有効数字 Previous: 有効数字   目次   索引


精度

精度には単位の概念が必要となる。 多くの物理量の無次元数も単位は持たないように思われるが、 $\Pi$定理など、有次元数の組合わせで無単位となっているために、 単位の概念からはずれることはない。

同じ有効数字を持つ、2.34 m と 2.34 cm では、有効数字は同じでも、2.34 m は 1/1000 m の四捨五入で得られているので、2.335〜2.344 までの範囲をとり、 0.01(=2.344999-2.335000)m すなわち、10mm の精度の数値である が、2.34 cm は、0.01cm の精度の数値であることを示すのである。

1.455 + 25.8 c + 2.85 m m
という計算をしたとき、精度のみの演算をするとき、X の部分は 精度外の数値であるので、 下記のように精度も含めて計算して、 1.71585を求めても 不明な桁XXを含む 85 は正しくないことを意味している。
  1.455XX 0.001XX  
  0.258XX 0.001XX  
$+$ 0.00285 0.00001  
$=$ 1.71585 0.001XX = 1.716
であるので、
1.45 + 0.00549624 m = 1.45549624 m
という計算をしてはならないということを意味している。 加算や減算ではその和や差は元の数値の精度が悪い方に揃うのである。



Ken Kishimoto 2014-06-02