岡山学芸館高校の
数理科学部の
公認ブログです
スポンサーサイト

一定期間更新がないため広告を表示しています

- - -
物理 20140510
どうも、部長の沼田です。
今回は物理です。
テーマは「有効数字」

調べたことによると、有効数字は和差と積商で使い方が変わります。僕はここが知りませんでした^ ^;

まず和差は、
末位の最も高いものを有効桁数とする。

国語力の低い僕にとってはさっぱりでしたσ(^_^;)
なので親に質問(笑)
それで僕が分かりやすく丁寧に言葉を変えてみました。
「少数点の高いものを有効桁数にし、他のものはそれに合わせて計算し、その小数点以下の数字は不確かなので書かない

じゃあ例問出します。

問1、156.8-151.22=?

こういう問題の場合ですね(笑)
この時、156.8■、151.22■となり
■の部分は四捨五入した位置なので0〜9のどれかが入るのですが、誤差が生じます。
さて、有効数字は156.8が4桁、151.22が5桁となり、有効数字が少ない方を有効桁数とします。

さらに言うと、151.22の少数第二位の2は156.8で言うと■の部分になり不確かなので156.8に合わせます。

151.22を四捨五入して151.2となり、
156.8-151.2=4.6
そしてここからが変わっています。

僕ならここで有効数字が4桁にしてあったので4.600と書きますが、和差の場合はこれが使えないのです…
じゃあどうするか、

4.6■とすると、??の部分は156.8■と151.2■と同じ位置なので4.6■の■は不確かなので、答えは4.6になります^ ^



次に積商ですが、これは追加されてます(笑)
たとえば

問2、12.3×12.345=?

いつもならこのまま計算して
151.8435となり、有効数字が3桁なので152としますが、
なんとこれより簡単に計算出来るみたいです(笑)

まずは有効数字が3桁と5桁です。
この時は有効桁数が3桁となるので
有効数字の少ない方を基準にし、一つ下の位まで残すことです。
実際にやってみると、5桁を4桁にします。12.345の少数第三位を四捨五入して12.35となり、
12.3×12.35=151.905
よって有効数字は3桁なので151となります。
なので、有効数字分だけ確かな値が出てきます!

積の場合はもう一つ問題出しましょう
5.50×√2=?
こういう問題が分かるかもしれません(笑)
√に1.41421356…なので有効数字がデカすぎます(笑)
5.50は有効数字3桁なのでこれを基準とします。まずは√2を四捨五入して1.414とします。一つ下まで残しますよ〜
5.50×1.414=7.777≒7.78
これで完成です。
ちなみに普通に計算してみると、
5.50×1.41421356=7.77817459≒7.78
となるので一致しますね。

なので少数に気にしないといけないのは和差の時だけですね(笑)
積商はあまり考えません(笑)

では今回はこの位にして…
次は僕の秘書の登場です(笑)
Study - -
スポンサーサイト
- - -
CALENDAR
S M T W T F S
    123
45678910
11121314151617
18192021222324
252627282930 
<< June 2017 >>
NEW ENTRY
CATEGORY
MOBILE
qrcode
SPONSORED LINK