kt さんの書込 (2008/01/05(Sat) 12:36)

39 * 273/283 = 37.6... → 38 ここで，計算の順番を (39 * 273)/283 とすると， (39 * 273) = 10647 / 283 = 37.6... → 38 これは納得いきます． しかし， 10647 の有効数字を考えて 106 * 10^2 とすると 106 * 10^2 / 283 = 37.4... → 37 という結果になってしまいます． これは割り算の際に実質 106.00 * 10^2 / 283 という計算になってしまうのが原因だと思います．

自分はこれが腑に落ちません． 10647を有効数字3桁にする際には106*10^2で問題ないと思います．(有効数字4桁目を四捨五入しました) よって，答えも 106*10^2 / 283 で正しくなるはずだと思えてしかたありません．

10647 = 106 * 10^2 はやはりいけないのでしょうか？

山旅人 さんのレス (2008/01/05(Sat) 14:07)

kt さん，こんにちは．

kt さんは高校生でいらっしゃいますね．高校では有効数字というものを中途半端にしか扱わないため，混乱される方も少なくなく，本掲示板でも過去何度も話題となっております．お尋ねの39×273/283がどのような背景をもった計算なのかによっても回答のしかたが変わるのですが，まずは数値計算の一般論として書きます．

3 つの数値を，1 つ下の桁を四捨五入して得たものとし，38.5≦x＜39.5，272.5≦y＜273.5，282.5≦z＜283.5とすると， 38.5×272.5/283.5＝37.00…＜xy/z＜38.24…＝39.5×273.5/282.5 となります．この 37.0 と 38.2 の間のどこに真値があるかは神のみが知ることで，「腑に落ちない」 kt さんの気持ちには，あまり合理性はなさそうです．

高校での有効数字の計算は，途中で数値をまるめたりせず（電卓で）どんどん計算し，最後の結果のみ四捨五入し求められた桁数で答えるという，形式的・儀式的なものとしておつきあいするのが賢明です． 大学で，誤差の原因・分布・伝播といったことをキチンと勉強されると，疑問が氷解し，「あれはいったい何だったの？」 となることでしょう．

K.I. さんのレス (2008/01/05(Sat) 14:47)

有効数字の概念はすごく難しいものがあります．

39， 273， 283 のそれぞれが測定値である場合， 39 * 273 / 283 は結果として有効数字 2 桁になります． ですから，途中の計算はそれよりも 1 桁多く，つまり， 3 桁にすると よく言われてきました．

その方法では， kt さんのされた計算は正しいのです．

しかし，途中の計算を有効数字 1 桁多く，というのは便法なのです． 実際には，そのそれぞれの測定値がどれだけの誤差を持っているか， そこまで考慮して有効数字を決定する必要があります．

通常は，誤差を明記するのですが，誤差の明記がない場合には， その最終位にプラスマイナス 1 の誤差があると考えます． ですから，この場合は，38 より大きく 40 未満の数と 272 より大きく 274 未満の数との積，そして，その積と 282 より大きく 284 未満の数との商を考えていることになります． つまり，この計算の結果は， 36.39 よりも大きく， 38.87 よりも小さいということになります． それを考えると，有効数字 2 桁で，37 でも 38 でも どっちでもいいのかな，ということになります．

また，測定値がもう少し信頼出来て，プラスマイナス 0.5 であれば， 38.5 より大きく， 39.5 未満， 272.5 より大きく， 273.5 未満， 282.5 より大きく， 283.5 未満になりますから， 37.00 より大きく，38.25 未満であることになります． ですから，この場合は 38 と書くべきですね． (37.00 より大きいので， 37 になることはないですから．)

私個人的には，途中の計算は，有効数字 + 2 桁ですることをお薦めします． この場合だと，10647 → 1.065 * 10^4 になりますから， 答えとして 38 を得ることが出来ます．

なお，有効数字に関しては，私がただいま執筆中です． まだ正式に公開していませんが， hooktail.maxwell.jp/kagi/31aed24ab92f608d4ed57bbdc0557197.html を読んでみて下さい． 繰り返しになりますが，これは執筆中の記事ですので， 誤字脱字，分かりにくい表現があるかもしれません．

kt さんのレス (2008/01/05(Sat) 16:01)

>途中の計算を有効数字 1 桁多く，というのは便法なのです． そうだったのですか．． てっきり「1桁多くとれば丸めたときに必ず正しい値になる」だと誤解していました．

高校の問題なので，きっと 10647 = 106 * 10^2 なんて分母の丸めをしなければ有効数字+1桁の計算でも乗り切れそうです．

これからは有効数字うんぬん言ってないで，電卓を信じることにします(苦笑 お二人の返信わかりやすかったです．ありがとうございました．