1、主要决定于基本字长。

【资料图】

2、基本字长影响计算精度、指令功能。

3、基本字长越长，计算精度越高。

4、比如，基本字长是8位，那么它可以表示最小的正数是0.0000001；而如果基本字长是16位，则可以表示0.000000000000001。

5、显然，后者的精度更高。

6、扩展资料： 数值计算具有以下5个重要特征：数值计算的结果是离散的，并且一定有误差，这是数值计算方法区别与解析法的主要特征。

7、2、注重计算的稳定性。

8、控制误差的增长势头，保证计算过程稳定是数值计算方法的核心任务之一。

9、3、注重快捷的计算速度和高计算精度是数值计算的重要特征。

10、4、注重构造性证明。

11、5、数值计算主要是运用有限逼近的的思想来进行误差运算。

本文就为大家分享到这里，希望小伙伴们会喜欢。