为啥在excel表格中A1=0.1,B1=0.1,然而A1-B1确不等于0啊?怎么弄?

如题所述

原因是因为计算机的精度问题。0.1在十进制,看来很简单的一个数,但是在计算机里边,因为是用二进制表示的,所以它就是一个近似的值。
两个0.1里边的数值,尤其是超过计算精度的部分,很有可能就不完全一样。那么两个0.1相减之后结果可能就不完全是零。
这不是错误,只是计算机的局限。
温馨提示:答案为网友推荐,仅供参考
第1个回答  2019-11-13
Excel中对于非整数,就采用浮点运算,浮点运算会有一个很小的误差,但不会影响计算结果。如果很在意,可以在选项的高级,找到“将精度设曾显示的精度”,勾选后确定。本回答被提问者采纳
第2个回答  2019-11-13
那是单元格的数据类型不对,需要设置为数值型,你现在可能是文本类型。
相似回答