正規化と丸め

このカテゴリの用語

丸めモード

丸めモード 英語表記: Rounding Modes 概要 丸めモードとは、コンピュータが浮動小数点数を扱う際に、計算結果や基数変換の結果が定められたビット数(精度)を超えてしまった場合に、その超過分をどのように処理する […]

非正規化数

非正規化数 英語表記: Denormalized Number 概要 非正規化数(Denormalized Number)とは、コンピュータにおける浮動小数点表現において、極めてゼロに近い値を表現するために使用される特殊 […]

正規化数

正規化数 英語表記: Normalized Number 概要 正規化数とは、コンピューターが実数を扱う際に用いる浮動小数点数表現において、仮数部(有効数字部分)を一定のルールに従って調整した数の形式のことです。これは、 […]