在浮点数尾数下溢处理时,最大误差最大,但下溢处理不需要时间,平均误差又趋于O的方法是()
在浮点数尾数下溢处理时,最大误差最大,但下溢处理不需要时间,平均误差又趋于O的方法是()
A、截断法
B、舍入法
C、ROM查表法
D、恒置“1”法
【正确答案】:D
【题目解析】:恒置“1”法的好处是实现最简单,不需要增加硬件和处理时间,平均误差趋于0,至于最大误差大的问题,由于中、高速计算机的尾数位数要比小、微型机的长得多,因此,实际的最大误差要小得多。
Top