企源知识库

在浮点数尾数下溢处理时，最大误差最大，但下溢处理不需要时间，平均误差又趋于0的方法是
A、截断法
B、舍入法
C、ROM查表法
D、恒置“l”法
【正确答案】：D
【题目解析】：

由下图很清晰看到，误差最大的是D截断法舍入法恒置“1”法查表舍入法