请教,为什么我给double型数据附值有时得到的结果不精确?

Question

a,b,c三个数据都是指定为double格式的edit,a=10.00f;
b=1.40f;
c=a-c;
结果a显示正常,但是b显示1.39999997615814,c显示8.60000002384186

Answer 1

以前有多人问过的,二进制浮点运算是有误差的,你用MFC,可用CString的Format格式化
如:
CString x;
x.Format("%.2f",c); // 2位小数

Answer 2

赋值时转化成二进制会有一定误差的,应为每种类型就比如double类型吧,有一个有效数据位数的问题,而有些数以有效数据位无法表达,这就有一定的误差了,如果是1.25 or1.75 or1.875什么之类的一定就没问题了,但是1.40嘛,你自己不妨画一画,小数点后面有多少0和1