高精度電卓
高精度電卓では、evalを使わず十進四則演算と括弧を高精度計算します。
浮動小数点の内部表現では、binary32/64の符号・指数・仮数・hexを確認します。
⌂ 入力と結果はこのブラウザー内で処理され、自動保存・送信されません。
入力待ち
0.1などの小数が内部でどう表されるかを調べるときは値を入力し、binary32またはbinary64を選びます。
符号・指数・仮数と丸め後の値を見比べます。10進で短く書ける値が2進で有限桁になるとは限りません。表示したビット列を十進の厳密値そのものと混同しないでください。
0.1入力は各欄1,048,576バイト、出力は33,554,432バイト、処理時間は5,000ミリ秒までです。入力を黙って切り詰めません。