ガイガーカウンター雑談はこちらで part53 [sc](★0)
-
- 181
- 2012/04/16(月) 09:10:38.60
-
「物理学」の範囲ね。たとえば、3.1, 3.14, 3.141 があった場合に
教養の範囲では、有効桁を合わせないで、そのまま計算して、たとえば、積の場合は
3.1*3.14*3.141 = 30.574494, 最後に有効桁を丸める。3.1で２桁だから、31になる。
ただし、末尾が5の場合、５を四捨五入した場合に末尾の5を切り捨てる、という演算がある。
http://www.gs.niigata-u.ac.jp/~kimlab/lecture/numerical/round.html
これは、JISだから、理学系物理学では使用しない。使用するのは工学系の人。
数学の場合には、たとえば、30.1, 3.1, 3.14, 3.141 があった場合に
積や除算の場合には、最小の桁数、3.1より２桁に丸めます。30, 3.1,3.1,3.1と丸めて、その後計算します。
加減算の場合には、桁の位置で丸めます。小数点第一位に丸めます。30.1,3.1,3.1,3.1と丸めて、その後計算します。
ところが、測量学関係の場合には、重み付演算になりますので、重みが一般には有効桁数の逆数比ですから
1,1,10, 100がつきます。重み付演算は内容を忘れているので、以下略。わかる人いたら解説ヨロ。
四則はなんとかわかるのだけれども、関数だとわからなくなりますので。
物理学の教養の範囲、つまり、大学1-2年で学ぶ範囲だと、
電卓の有効桁範囲をズラズラと8-16桁書き並べて、
最後に、有効桁を丸めた値を書くとなります。
このページを共有する
おすすめワード