2017年5月17日水曜日

Gnuplot 備忘録 1/2問題

webからのコピー
http://www.fenix.ne.jp/~cdrtk/misc/gnuplot/plot25.html

GNUPLOTでは、内部的に整数と実数(浮動小数点実数)の2つのデータ型を使っている。
割算を表す / は、演算対象がともに整数の時、結果が整数になる。
たとえば、
gnuplot> print 1 / 3は、
と0

これを避けるために、
gnuplot> print 1. / 3 
または
gnuplot> print 1 / 3.
のように、どちらか、あるいは両方に .(小数点)をつける。
GNUPLOTは 小数点がついていると実数として扱うようで、 答が 0.333333 と正しく表示されます。

0 件のコメント:

コメントを投稿

研究室の引越し

職場(大学)を移ることになった。コロナが終わりそうで終わらないなかで,一大事。 ただ,新しい大学では独立ポジションなので、基本的には超ハッピーな出来事。 大学の偏差値も下がってしまう,(物理的な)移動距離も遠い,などデメリットもあるのだが,まあ恵まれている方だろう。 これまで講座...