有効数字の扱い方 part-2

　前回に引き続き、有効数字の運用について解説していく。

　この大原則を元に計算を行う。これを視覚的に確認するには筆算で表すとわかりやすい。

　以下の計算例を参考に、誤差がどの範囲まで及ぶのか検討してみよう。

$1.23 +3.141$

$22.345 - 10.23$

　表現が悪いかもしれないが「誤差の汚染」がどうなっているか考えることが重要である。

　有効数字を考えて加減の計算を行った結果、有効数字の桁数が増えてしまう場合や有効数字の桁数が減ってしまう場合があり得ることを押さえておこう。

$2.46 + 8.62 $

$3.14 - 2.46 $

$1.23 \times 3.14 $

$1.234 \times 2.3 $

$246 ÷ 135 $

割った結果の数値$1$と$8$は確実な値であるが、小数第2位の数値である$2$を決めるのに使った$300$は$3$からして誤差を含んでいるので、結果の$2$という値も誤差を含んでいると言える。
単に数値を割った結果では、小数第2位以下に誤差を含んでいる状態となる。(割り切れない)
誤差は最後の位にのみ含んでいる状態でなければならないので、小数第2位まで残すことになる。
小数第3位を四捨五入をし、$1.82$と記述する。有効数字は$3$桁でとなる。

$13.579 ÷ 2.4 $

割った結果の数値$5$は確実な値であるが、小数第1位の数値である$6$を決めるのに使った$157$は先頭から2番めの値に誤差を含んでいるので、結果の$6$という値も誤差を含んでいると言える。
小数第2位の数値である$5$を決めるのに使った$139$は先頭の値からに誤差を含んでいるので、結果の$5$という値は大きく誤差を含んでいると言える。
単に数値を割った結果では、小数第1位以下に誤差を含んでいる状態となる。
誤差は最後の位にのみ含んでいる状態でなければならないので、小数第1位まで残すことになる。
小数第2位を四捨五入をし、$5.7$と記述する。有効数字は$2$桁でとなる。

$2.4 ÷ 1.3579 $

割った結果の数値$1$は確実な値であるが、小数第1位の数値である$7$を決めるのに使った$10421$は先頭から2番めの値から誤差を含んでいるので、結果の$7$という値も誤差を含んでいると言える。
小数第2位の数値である$6$を決めるのに使った$9157$は先頭の値からに誤差を含んでいるので、結果の$6$という値は大きく誤差を含んでいると言える。
単に数値を割った結果では、小数第1位以下に誤差を含んでいる状態となる。
誤差は最後の位にのみ含んでいる状態でなければならないので、小数第1位まで残すことになる。
小数第2位を四捨五入をし、$5.7$と記述する。有効数字は$2$桁でとなる。