-
计算机中计算是以2进制计算的,在十进制中是一个相对短的小数,当转化成二进制时,很可能是个很长的小数,并且长度超过一定长度时,计算时就需要截断到一个电脑可存储可计算的范围(当前32位,或64位系统)。
这就计算时两个数值截取不同精度时,导致误差产生
-
这是进制的问题,我们平时所说的数字都是十进制,而计算机用的是二进制,我们给计算机输入一个十进制的问题,它会自动转化为二进制来计算,计算出的结果在转化为十进制的数字显示给我们,这个误差就出现在这个转化的过程中
-
这个是 浮点误差 的问题,一句话说不清,你可以百度 浮点误差 上面有解释。解决的方案可以设置单元格式里设小数点位数,或在公式上用ROUND函数设定位数就可以 如 =ROUND(8.54-8-0.54,2)
如本站内容“对您有用”,欢迎随意打赏,让我们持续更新!
打赏