-
- 227
- 2016/12/01(木) 00:36:02.31
-
>>151
＞測定した数字が有効数字小数点以下1桁なら足し算の場合は有効数字が同じにならなければならない。
まて、何を言っている。
足し算すると有効桁数は１つずれるだろうが。
例えば、小数点以下2桁までが有効桁数の、2.00+2.00 の場合、
2.00 は、1.995以上2.005未満なのだから、2.004 の場合もありうる。
両方 2.004なら、2.00+2.00は、4.008になってしまう。
小数点以下2桁までが有効桁数であらわすと、4.01 だ。
もちろん、両方 1.996 で、3.992 で、3.99 にするべきと場合もある。
小数点以下2桁までが有効桁数にしようとすると、「3.99 〜 4.01 」にするのが正しい。
実際には、小数点以下1桁までが有効桁数の 4.0 にする。
このページを共有する
おすすめワード