本当は怖い情報科学

とあるHPC屋の趣味&実益ブログ

Juliaの16進浮動小数点リテラル

Julia言語のチュートリアルを見ていて、16進浮動小数点リテラルなるものが存在するのを知りました[1]。書式としては、

  • 先頭に0xをつける(通常の16進リテラルと同じ)
  • 指数部の記号として p を使う
  • ただし、指数の底は2

ということで、例を見てみると

julia> 0x1.8p3
12.0

julia> (1.0 + (1/16*8)) * 2^3
12.0

ちなみに、これはJuliaだけの機能ではなくて、Javaにも存在するらしい[2]。

ふむふむなるほど。科学技術計算では使う機会がないこともなさそう…

[1] Integers and Floating-Point Numbers — Julia Language 0.5.1-pre documentation [2] Hexadecimal Floating-Point Literals (Joseph D. Darcy's Oracle Weblog)

【広告】