📖 講義スライド
符号・算術演算
開く ↗
📝 浮動小数点 (2013)
PDF ↗ 1
数表現のけた数に限度があるので、LSBより小さい部分について切り捨てを行うことによって生じる誤差を何というか?
▶ 解答を表示
A. 丸め誤差
解説: 丸め誤差(または量子化誤差)は、有限ビットで表現する際に生じる誤差
2
A.8(16) × 4(10) を16進数で求めよ
▶ 解答を表示
A. 2A.0
解説: A.8(16) = 10.5(10)、10.5 × 4 = 42(10) = 2A(16) = 2A.0(16)
3
0.125を符号S、4bitの指数部E、4bitの仮数部Mで表すと、S=0, E=0000(2), M=0010(2)であった。これを正規化せよ
▶ 解答を表示
A. S=0, E=E, M=8
解説: 正規化: 仮数部の最上位ビットを1にする。M=0010を左シフトし、指数部を調整する。正規化後: S=0, E=E(16), M=8(16)
4
n=8bitで、−10(10)=F6(16)である。右に2ビット算術シフトせよ(F6>>2)
▶ 解答を表示
A. FD
解説: F6(16) = 11110110(2)。算術右シフト2回(符号ビット保持): 11111101(2) = FD(16)
5
n=8bitで、−10(10)=F6(16)である。右に2ビット論理シフトせよ(F6>>>2)
▶ 解答を表示
A. 3D
解説: F6(16) = 11110110(2)。論理右シフト2回(0埋め): 00111101(2) = 3D(16)