6月10日 -基本情報技術者試験の勉強- - プログラミング勉強日記

コンピュータは1と0のみで情報を管理している

10進数をn進数に変換する方法

それぞれの桁をnで割って、余りを後ろから並べる

コンピュータは2進数と16進数を使う

2進数8桁をバイトという

日本語は2バイトで1文字

データ量が多い場合は補助単位を使う。キロ、メガ、ギガ、テラ、ミリ、マイクロ、ナノ、ピコ

n進数は各桁がnのべき乗になっている

nをn進数の基数という

10**-2=1/100

小数点以下はn**-桁数

変換しても割り切れない数値を循環小数という

指定した桁数を超え、正しい値を表示できなくなることを桁あふれ(オーバーフロー)といい、コンピュータはその仕組みを利用して引き算を行う

n進数で、その値を補えば最大値になる値を(n-1)の補数という

n進数で、その値を補えば桁あふれして0になる値をnの補数という

2進数の場合、1と0を逆にすると1の補数、それに1を足すと2の補数になる

コンピュータは値を格納する箱を確保してから値を入れるため、桁あふれしても自動で桁数を増やしたりしない

補数とは、その値を補えば最大値になったり桁あふれを起こしたりする値

固定小数点数とは小数点の位置が決まっている数値表現のことで、演算を行うのに都合がいい。先頭のビットで符号を表す。正が0、負が1。大きい数字や小さい数字を表現するにはかなりの桁数が必要になり、メモリに負担がかかるので、符号ビット、指数部、仮数部に分けて書く

ゾーン10進数とは10進数1桁を1バイトで格納する形式のことで、パック10進数とは10進数2桁を1バイトで格納する形式のこと。10進数をそのまま2進数に置き換えて表現することをBCD(Binary coded Dicimal)といい、計算誤差が小さいという特徴をもつ

ここまで「浮動小数点って何？」まで視聴

WEBアプリケーション作成、PHP、説明図作成、30DAYSトライアル、JQuory、Wordpress、はてなブログの機能、アルゴリズム、SEO、PerfectPixel、線形代数(詳細ではなく全体の流れ)