2013年9月1日日曜日

固定小数点数

固定小数点数

浮動小数点数に比べて表現できる値の範囲ははるかに狭い
情報落ちが起こらない(そもそも情報落ちが起きるような差のある値は表現できない)
高速に演算できる


表現できる数値の範囲 
nビットの2進数の場合
nビット…-2n-1~+2n-1-1

 
16ビットの場合
(0111 1111 1111 1111)2 = 216-1-1=32767
(0111 1111 1111 1110)2 = 216-1-2=32766

(1000
 0000 0000 0001)2 =               -32767
(1000 0000 0000 0000)2 = -216-1-1=32768 


0 件のコメント:

コメントを投稿