固定小数点数
浮動小数点数に比べて表現できる値の範囲ははるかに狭い
情報落ちが起こらない(そもそも情報落ちが起きるような差のある値は表現できない)
高速に演算できる
表現できる数値の範囲
nビットの2進数の場合
nビット…-2n-1~+2n-1-1
16ビットの場合
(0111 1111 1111 1111)2 = 216-1-1=32767
(0111 1111 1111 1110)2 = 216-1-2=32766
(1000 0000 0000 0001)2 = -32767
(1000 0000 0000 0000)2 = -216-1-1=32768
0 件のコメント:
コメントを投稿