« | Main | 【増田タワシの価格ウォッチ】160GB以上の2.5インチHDDの価格をチェック（データ編） （RBB TODAY） »

【コラム】コンピュータアーキテクチャの話 第99回 浮動小数点乗算器 （MYCOM Journal）

次は、掛け算器である。
1200×150は180000であるが、浮動小数点形式で表現すると、1.2×10の3乗と1.5×10の2乗の積であり、1.2×1.5=1.8と、指数部は10の2乗と3乗で10の5乗であり、結果として、1.8×10の5乗と計算する。
このように浮動小数点の乗算は、仮数部(Hidden bitの1.0を補ったFraction)の積の...

intelligentブログ　connection WEBLOG

Posted at 02:23 | | この記事のURL

この記事のURL

http://rise.sp-blog-blog.com/entry1.html