FLOAT 可以有七位有效数,输出时,只要保留六位对第七位进行四舍五入,输出的结果(不是内存)可以百分百正确 比如:
float f=123.456,虽然内存中不是123.456,但如果只输出六位有效数,输出的结果肯定是123.456.但是经过运算呢?比如123.456 * 123.456,能保证他的结果第七位四舍五入,保留6位有效数的输出(不是内存)的值百分百正确呢?怎么理解证明?
float f=123.456,虽然内存中不是123.456,但如果只输出六位有效数,输出的结果肯定是123.456.但是经过运算呢?比如123.456 * 123.456,能保证他的结果第七位四舍五入,保留6位有效数的输出(不是内存)的值百分百正确呢?怎么理解证明?
不好完全保证,毕竟每次计算都有误差,而误差会积累,如果计算次数非常多,就绝对保证不了了,如果次数不是很多,可以让中间变量都是double类型,最后结果用float。