前<<<< >>>>後

単位と有効数字

予習なくして合格はない。

単位とフォント

基本となる単位は、この授業の範囲では、

長さ m (メートル) 質量 kg (キログラム) 時間 s (秒) 温度 K (ケルビン)

の4つ。この4つを組み合わせて、面積 m3、力 N (ニュートン) や W (ワット) という単位が用いられる。

単位を表す文字は、ローマン体(ABCDEF)で書く。 圧力P など変数名は、斜体 (ABCDEF)で書く。 よって、"M m" は、エムメートルであり、メガメートルではない。 しかし、"mm" はミリメートルであり、エムメートル(m m)ではない。

工学的数値の表し方

工学的には、
  1. -1.234 x 10-6
  2. -1.234M
の2つがある。どちらでも良い。 距離 35km とか 時速 100km/h の中の k単位ではない。 「桁移動記号」という x 10xx の代わりに用いる。

3桁ごとの桁区切りの呼び方をする。これを桁記号という。 これらは本質的に数値であり単位ではない。
10 12 10 9 10 6 10 3 10 0 10 -3 10 -6 10 -9 10-12
T G M k -- m μn p
テラギガメガキロ ミリマイクロナノピコ
できるだけこの桁記号を用いて表す。


たとえば、前述の 0.0010156 は 1.056 x 10-3 とか、 1.056m(ミリ) というように表す。
10.56 x 10-4 でも 105.6 x 10-5 でも 同じ数値を表すが、3の倍数の指数が望ましく、桁記号を用いて、1.056m(ミリ) と表すのがもっともいい。

有効数字

有効数字は測定の不確かさを表すものである。そして、有効数字には計算のルー ルが存在する。
数字の文字の最初の0を含めず,小数点を考慮に入れず,記述した数字の数を もって有効数字という。
これが通常の定義である。 工業熱力学でも同じようにする。
  1. 数字の中から、符号、小数点、x10nなどを取る。
  2. 先頭に0(ゼロ)があれば、連続した 0 をすべて取る。
こうして、残った数字の数が有効数字である。 つまり,
0.01456 4桁 0.14056 5桁 1.04 3桁 8.957 4桁
-1.456x102 4桁 0.0010157 5桁 -8.5x103 2桁 15000 5桁
という具合である。
     0.14056 では、0.14056 -(A)-> 014056 -(B)-> 14056 =  5桁
     0.002016では、0.002016 -(A)-> 0002016 -(B)-> 2016 = 4桁 
また、 0.1 と 0.100 は違うのである。0.1 は有効数字1桁で 0.1±0.0499 であり、 0.100 は有効数字3桁で 0.100±0.000499 なのである。
  1. 乗除(掛算や割算)では、a X b や a / b では、結果は a , b の有効数字 が少ない方と同じ有効数字を持つ。
    14.25 x 0.231 = 3.29
    なのである。これを電卓で計算したように
    14.25 x 0.231 = 3.29175
    と書くと間違いとなる。つまり、電卓で出てきた数字をもう一回考えろと いうことです。
  2. 加減(足算と引算)では、後に述べる精度の悪い方の精度を持つ有効数字になる。
    14.25 + 0.231 = 14.48
    なのである。14.481 と書いてはいけない。
    10.00 m + 0.3 mm = 10.00 m
    なのである。10m の巻尺に髪の毛1本付いたからって、10.00 m には変わらないということである。
有効数字を3桁にせよということは解答を3桁にせよという ことであって, 途中計算を3桁にするとことではない。 誤ることがある。そのため,最初に書いたように 最後まで記号で全部計算し, 答を出す式だけ数値を代入するのが良い方法である。

例えば, a =14.0501, b =14.0814, c = 0.075 から y1 = a + b, y2 = c + by2 - y1を計算する時, 最もいい方法は

y2 - y1 = (a + b) - (c + b) = a - c = 14.0501 - 14.0814 = 0.0313
である。 これを数値をいきなり入れて
y1= a + b = 14.0501 + 0.075 = 14.1201
y2 = c + b = 14.0814 + 0.075 = 14.1565
z = y2 - y1 = 0.0313 = 3.13x 10-2
このようにできるだけ桁数をもって途中計算すれば良いが,計算途中で有効数字にまとめると,
y1 = a + b = 14.1 + 0.075 = 14.2
y2 = c + b = 14.1 + 0.075 = 14.2
z = y2 - y1 = 0
となり,答が出ないことになる。

精度

精度は有効数字のもっとも小さな桁を以て、精度となる。 有効数字と精度は異なる。

つまり、 0.132 m の精度は 0.001 m である。同じように 435.132 m の精度も 0.001 m である。 さらに 1023.4 mm と 1.2 mm は同じ 0.1mm の精度を持つ。 しかし、有効数字は、4桁と1桁の違いがある。 つまり、有効桁数が異なっても、精度は同じ。

加減算

単位の異なる物理量同士は加減算できない。当たり前であるが簡単に陥りやすいミス。
精度の異なる加減算の結果は、精度の悪い方の数値の精度になる。

つまり、310 mm + 1015.67 mm = 1325 mm である。

乗除算と単位

2つ以上の物理量の掛け算や割り算では、この物理量の持つ単位も掛けたり割っ たりする。
Q = PV
P の単位 Pa, V は m3 だから、Q は Pa m3 = N/m2× m3 = Nm = J
というようにできる。exp( ) や sin( ) の ( ) の中は無次元である。

Copyright 2003 Ken Kishimoto