• 首页
  • 资讯
  • 专家
  • 话题
  • 问题库
  • 礼品商店
  • 分类
    • 新闻资讯
    • 娱乐八卦
    • 3C数码
    • 医疗健康
    • 健康养生
    • 云盘解析
    首页   ›   正文

Excel输“=8.54-8-0.54”等于0.00000000000888178419700125

2021-12-07 11:34
1545  3
教育科学 未结
关注
树友t2uio8
树友t2uio8 2021-12-07 11:34
3条回答
  • 树友2twngl
    2021-12-07 11:44

    计算机中计算是以2进制计算的,在十进制中是一个相对短的小数,当转化成二进制时,很可能是个很长的小数,并且长度超过一定长度时,计算时就需要截断到一个电脑可存储可计算的范围(当前32位,或64位系统)。

    这就计算时两个数值截取不同精度时,导致误差产生

    0
  • 树友wcbaoo
    2021-12-07 11:45

    这是进制的问题,我们平时所说的数字都是十进制,而计算机用的是二进制,我们给计算机输入一个十进制的问题,它会自动转化为二进制来计算,计算出的结果在转化为十进制的数字显示给我们,这个误差就出现在这个转化的过程中

    0
  • 宽容的仙酱
    2021-12-07 12:05

    这个是 浮点误差 的问题,一句话说不清,你可以百度  浮点误差 上面有解释。解决的方案可以设置单元格式里设小数点位数,或在公式上用ROUND函数设定位数就可以  如 =ROUND(8.54-8-0.54,2)

    0
 看不清?
提交回复

如本站内容“对您有用”,欢迎随意打赏,让我们持续更新!

打赏
游客
登录后展示个人签名去登录
0文章 0问题 0回答 0点赞
写作
发布问题
发布文章
关注微信
加QQ群
随机文章
iPhone 14 Pro系列专享 苹果A16处理器挤牙膏:静待3nm A17升级
2022-12-27 11:37:13
70岁老玩家被《魔兽世界》封号 儿子回应:暴雪把他当成了脚本
2022-02-19 08:41:05
乐山大佛“真身”全部露出 持续高温水位暴降:网友感叹长见识了
2023-01-04 09:42:16
好莱坞新悬疑大片《尼罗河上的惨案》国内定档 加朵女神领衔
2022-02-19 08:39:33
马斯克脑机接口公司被控虐猴:头骨上钉有钢柱 曾让猴子用意念打游戏
2022-02-19 09:12:22
别尬夸《万里归途》 张译不是“文版战狼”
2023-02-26 09:09:49
拉稀吃什么粥 拉稀吃啥粥
2022-12-24 17:15:03
民政局回应广州2月离婚名额已全部约满 离婚一天几个名额可以去外地离婚吗
2021-12-05 21:53:03
女子高铁霸座 多次劝说仍拒不让座 被拘留5日
2022-03-04 08:05:39
孕妇发烧怎么办 孕妇如何预防感冒发烧
2021-12-18 08:20:32
荔枝适宜的人群 荔枝适宜哪些人群食用
2022-09-29 09:02:05
胶原蛋白的作用 胶原蛋白的食物有哪些
2021-12-18 07:47:47
全球首富贝索斯花5亿美元造最大游艇 竟让荷兰竟拆百年大桥让行:最后不了了之
2022-08-30 11:01:14
影像旗舰手机也堆散热!曝vivo X80系列散热面积超4000平方毫米
2022-03-11 09:03:38
iPhone为何逐渐安卓化?有这几点原因
2022-12-04 14:19:04
热门标签
智能手机为何越卖越贵 马斯克加速抢滩一文了解脑机接口 凛冬将至苹果还能靠iphone支撑多久 新野蛮人马斯克 630wrtx 4090解锁极限功耗 马斯克没有打价格战的基因 ipad营收锐减卖不动了 小米13 lite现身小米13家族最便宜版本 感受守护网络安全的黑科技app 感受守护网络安全的黑科技 新一代影像性能旗舰努比亚z50官宣 黑亚当纽约首映式 黑亚当创下巨石强森个人最好成绩 超人归来电影免费观看 超人回归dc 超人回归 贝鲁奇谈贝鲁奇 辐射剧集首张剧照 大超与白狼不可兼得 用废品造的iphone你会买单吗
Copyright © 2025 网站备案号: 闽ICP备2020021158号-10 本站所有信息来自于互联网或网友上传,如有侵权,敬请来信联系我们,1494738443@qq.com 我们立刻删除。
responsive_hankin 主题. Designed by 极速问答社区
赞赏作者

请通过微信、支付宝 APP 扫一扫

感谢您对作者的支持!

 支付宝 微信支付