http://www.fenix.ne.jp/~cdrtk/misc/gnuplot/plot25.html
GNUPLOTでは、内部的に整数と実数(浮動小数点実数)の2つのデータ型を使っている。
割算を表す / は、演算対象がともに整数の時、結果が整数になる。
たとえば、
gnuplot> print 1 / 3は、
と0
これを避けるために、
gnuplot> print 1. / 3または
gnuplot> print 1 / 3.のように、どちらか、あるいは両方に .(小数点)をつける。
GNUPLOTは 小数点がついていると実数として扱うようで、 答が 0.333333 と正しく表示されます。
0 件のコメント:
コメントを投稿