计算机精度取决于什么

操作步骤/方法

方法教程

1 计算机精度主要取决字长,字长是指在同一时间中处理二进制数的位数。计算机的精度还与CPU.CPU的主频.外频.倍频.还有它的时钟频率等等有关。 2 字长通常称处理字长为8位数据的CPU叫8位CPU,32位CPU就是在同一时间内处理字长为32位的二进制数据。二进制的每一个0或1是组成二进制的最小单位,称为一个比特(bit)。字长由微处理器对外数据通路的数据总线条数决定。字长是CPU的主要技术指标之一,指的是CPU一次能并行处理的二进制位数,字长总是8的整数倍,通常PC机的字长为16位(早期),32位,64位。PC机可以通过编程的方法来处理任意大小的数字,但数字越大,PC机就要花越长的时间来计算。PC机在一次操作中能处理的最大数字是由PC机的字长确定的。

(0)
上一篇 2022年3月28日
下一篇 2022年3月28日

相关推荐