*运算的结果的数据类型是参与运算的数据类型中精度最高的数据类型
因为211和256都是Integer类型
所以211*256结果仍是Integer类型
但是结果是53760,而Integer类型的范围是-32768到+32767
所以溢出了
你用211*256^1时,256^1返回的是Double
Byte、 Integer、Long、Single、Currency、Double 和 Decimal的精度依次增加
所以Double的精度高,211*256^1的结果的数据类型是Double
Double 数据类型的范围是
-1.79769313486232E308 到 -4.94065645841247E-324,
和4.94065645841247E-324 到 1.79769313486232E308。
所以结果不会溢出其实你只要用CLng()就可以解决问题
hhh = 210 * CLng(256)就可以
因为211和256都是Integer类型
所以211*256结果仍是Integer类型
但是结果是53760,而Integer类型的范围是-32768到+32767
所以溢出了
你用211*256^1时,256^1返回的是Double
Byte、 Integer、Long、Single、Currency、Double 和 Decimal的精度依次增加
所以Double的精度高,211*256^1的结果的数据类型是Double
Double 数据类型的范围是
-1.79769313486232E308 到 -4.94065645841247E-324,
和4.94065645841247E-324 到 1.79769313486232E308。
所以结果不会溢出其实你只要用CLng()就可以解决问题
hhh = 210 * CLng(256)就可以
解决方案 »
- ole db ODBC代表什么??
- 我想打开服务器上,d:\aaa\a.txt的文件。请教各位,谢谢。
- vb splitbar 得用法?有没有改进得控件ocx放上去就能用?
- 请教这里的HANDle用的不对吗?用来显示密码框中的密码的
- VBA在后台写一个Excel文件的同时打开另外一个Excel文件就会出错,是怎么回事?
- VB使用水晶报表打印,能不能选择要打印的字段?
- 请问如何在水晶报表9中与VB中的数据环境建立连接?
- winsock 可以直接发16进制吗?如能怎么发?
- 请朋友帮忙找一个可以多张图片转换的控件吧,我不要demo版的!我找的几个全是demo的!
- 如何将文本框中的口令存入注册表中去?(奉送50分)
- 哪有dudi for VB3,VB4,VB5的正式版dl?
- 一个关于vb得很初级的问题
所以hhh=211*CLng(256)相当于Integer类型和Long类型相乘
结果也是Long类型,所以没有溢出
但这种情况可以避免,如:hhh= 210& * 256&