基本情報技術者試験(FE) ~情報の基礎理論「コンピュータのデータ表現」~ 【第3回】

この記事は2013年5月28日に書かれたものです。内容が古い可能性がありますのでご注意ください。


10進数の表現(固定小数点表示)

 
固定小数点では、2進整数を、固定長の2進数で表現します。
負数は、2の補数方式で表現しますので、負数の先頭の1ビット(符号ビット)は1となります。
10進数の「***」を固定小数点表示するには、

  • 「***」の2進数を求めてから
  • 「***」の2進数の「1の補数」を求め(ビットを反転させて)
  • 「***」の2進数の「1の補数」に「1」を足し、2の補数とする。

 
kihon01-18
 
10進数の「-20」を以下のように、2進数の補数で表します。
 
kihon01-19
 
つまり、「(-20)₁₀」は、「(11101100)₂」となります。

※固定長=「ビット長」は、コンピュータによって異なる。
※補数  =与えられた数を、既定の数から引くことによって得られる数。

※既定の数とは、「基数のべき乗」か、「基数のべき乗から1を引いた数」である。x進数には「xの補数」、「x-1の補数」がある。(例:10進数⇒10の補数、9の補数)
 

10進数の表現(浮動小数点表示)

 
浮動小数点では、実数を固定長の2進数により指数形式(a=±m×r )で表現するため、科学技術計算で扱う数値のような非常に大きい(または小さい)値を表現することが出来ます。
ただし、コンピュータのレジスタの桁数が有限なので、循環小数になるような数値を表現するとき、途中で四捨五入や切捨てなどが行なわれるので、誤差が生じることがあります。
 
kihon01-20
 
※「IEEE754」は、国際標準形式です。
 

仮数部符号 正の数なら「0」、負の数なら「1」。
指数部 2の何乗するかを表す。
小数点以下の数値を表現することを考えて、負を2の補数で表す場合と「64」を加算した値で表す場合がある。
仮数部 数値を表す。
ただし、本当の値は指数部によって違うので、あくまでも仮の数。

 

次回は、「コンピュータの演算」から説明していきたいと思います。

 

ページ:
1

2

  • このエントリーをはてなブックマークに追加

PAGE TOP