c# 中精度的问题 本帖最后由 xugeer 于 2011-10-16 00:56:46 编辑 解决方案 » 免费领取超大流量手机卡,每月29元包185G流量+100分钟通话, 中国电信官方发货 double 就如float一样,涉及小数的时候,都是不精确的 奇怪,我在一个简单的程序里调试是正确的,也显示29330.1514。但是在我的程序段里就显示不对了,不知道什么原因,大侠看看,以下是断点的,列了几个变量方便查看见图其中 alist[p],alist[p-1],alist[p-2] 分别是-96064.9824,-66734.831,-109207.41实际上,这几个数字都是从一个txt文本读进来的,上面的步骤应该没问题,因为在pp,pp_1,pp_2中分别显示出来了 什么叫float/double因为都是浮点数,所以都是有精度限制的,当加减乘除运算后,就可能偏差,一般这个偏差需要代码来控制,例如四舍五入等。 我来告诉你把因为DOUBLE嘿嘿,他再编译的时候最后会被转换成2禁止数据,也就是01010101010之类的东西,因为他的长度有限制,所以在运算的时候会出现你这种情况,也就是不精确,建议使用de什么什么的那个类型应该就不会出现这个问题了 GridView添加事件无效 静态构造方法执行错误(.net 4下用release编译) c#如果限时循环 帮忙把vb.net 语句改成C#语句 急!!!谢了 (winform)如何用C#调用API发送打印命令 大家项目里面连接数据库字符串都用"User ID=sa"吗?还是用其他的用户的 大家有写的好的.net程序的网站吗?让我们大家见识下啊!谢谢啊 我的程序同时显示多个号的时候就很慢? 重新登入功能如何做? 请教各位大哥,帮我看看下面两个问题,谢谢! post提交登录天涯 cookie如何保存 一个问题搞了 一个星期了,大家给看下
见图
其中 alist[p],alist[p-1],alist[p-2] 分别是-96064.9824,-66734.831,-109207.41
实际上,这几个数字都是从一个txt文本读进来的,上面的步骤应该没问题,因为在pp,pp_1,pp_2中分别显示出来了
因为DOUBLE嘿嘿,他再编译的时候最后会被转换成2禁止数据,也就是01010101010之类的东西,因为他的长度有限制,所以在运算的时候会出现你这种情况,也就是不精确,建议使用de什么什么的那个类型
应该就不会出现这个问题了