facebook twitter hatena line google mixi email
★お気に入り追加


■ このスレッドは過去ログ倉庫に格納されています

  • 227
  •  
  • 2016/12/01(木) 00:36:02.31
>>151
>測定した数字が有効数字小数点以下1桁なら足し算の場合は有効数字が同じにならなければならない。

まて、何を言っている。
足し算すると有効桁数は1つずれるだろうが。

例えば、小数点以下2桁までが有効桁数の、2.00+2.00 の場合、
2.00 は、1.995以上2.005未満なのだから、2.004 の場合もありうる。
両方 2.004なら、2.00+2.00は、4.008になってしまう。
小数点以下2桁までが有効桁数であらわすと、4.01 だ。
もちろん、両方 1.996 で、3.992 で、3.99 にするべきと場合もある。
小数点以下2桁までが有効桁数にしようとすると、「3.99 〜 4.01 」にするのが正しい。

実際には、小数点以下1桁までが有効桁数の 4.0 にする。

ここまで見た

★お気に入り追加

このページを共有する
facebook twitter hatena line google mixi email
おすすめワード