yuuma さんの書込 (2008/11/06(Thu) 00:22)

基本的すぎる話で恐縮ですが，今まで意識をしてこなかったので， 教えていただきたいです．

例えば，直径20mmで長さが1mの円柱の体積を求めよという場合なの ですが，「20mm」は有効桁数は2桁です．また，長さの「1m」は有効 数字1桁です． この場合，答えの有効数字は１桁とすればよいとして，

12桁まで計算できる計算機で桁数を考慮しないではじき出すと・・・ 20×20×1000=314159.2654

だけど，有効数字は1桁．

ということで，3×10^5が答えとしてよいのでしょうか？

また，「計算をする際は有効数字の小さいものに揃える」というルール に杓子定規に従ってこういうことをしてしまってはいいのでしょうか？

ある長さ10mの片持ち梁がある．その梁の先端に5kNの力が加わった． 曲げモーメントを求めよ．

この場合，50kN・mなんだろうなと思うのですが， 杓子定規に考えると5×10kN・mとなりそうな気がします．

どちらが正解となりますか？

そもそも，単位を換算した際に，有効数字の桁数が変化するかどうかが わかりません．1mは1000mmということで，有効数字4桁となって， 与えられた数字は，2桁と4桁で，有効数字2桁で出すのかとも考えたり したのですが，どうでしょうか？

mNeji さんのレス (2008/11/06(Thu) 01:32)

yuumaさん，初めまして．

この手の事は，考えだすと気になりますね．

＞例えば，直径20mmで長さが1mの円柱の体積を求めよという場合なの ＞ですが，「20mm」は有効桁数は2桁です．また，長さの「1m」は有効 ＞数字1桁です．

この場合，本来ならば指数表示して，必要な有効桁数分を小数表示するべきなのでしょうね．

例えば，有効桁数が2桁ならば， ・20mm = 2.0cm = 2.0*10^(-2)m

同様に， 有効桁数が3桁ならば， ・1.00m =100cm = 1.00*10^(0)m

ついでに，有効数字が1桁とすると， ・2mm = 0.2cm = 2*10^(-3)m

＞12桁まで計算できる計算機で桁数を考慮しないではじき出すと・・・ ＞20×20×1000=314159.2654

この部分は理解出来ません．

＞ある長さ10mの片持ち梁がある．その梁の先端に5kNの力が加わった． ＞曲げモーメントを求めよ． ＞ ＞この場合，50kN・mなんだろうなと思うのですが， ＞杓子定規に考えると5×10kN・mとなりそうな気がします．

長さ10.m,に力5.kNのモーメントとすれば，有効桁数は1桁ですね．モーメントは，5*10^(4)N・mがまぎれないのでしょうか．

# SI単位系では，指数部の接頭辞，「k,M,G,T,…,m,μ,n,p,…」と10^(n)とは混在させない事になっていたと思います．

＞1mは1000mmということで，有効数字4桁となって

文脈によっても違うとおもいますが，具体的な物理量の計算でこれがいえるには， 「1.000m」と書かれる場合だけだとおもいます．

もしも「1.00m」の場合，100cm でも良いのでしょう．逆に，上の場合，「1000mm=100.0cm」で良い訳ですね．