VS2005,处理大数据,数据库一千万行的数据,Access或者SqlServer的,数据文件本身有1G~~
要比较快速的处理,用DataReader太慢了,如果Fill进DataSet的话,如何?内存会不会一下子长到1G呢?
要不就分页载入?但是用Sql语句如何分页啊,好像比较麻烦?
要比较快速的处理,用DataReader太慢了,如果Fill进DataSet的话,如何?内存会不会一下子长到1G呢?
要不就分页载入?但是用Sql语句如何分页啊,好像比较麻烦?
解决方案 »
- 正则表达式就解(不以分号结尾的字符串)
- C# WPF使用Datagrid问题
- oracle system.data.oracleclient 怎么获得所有的sql语句,
- sqlcommand.ExecuteNonQuery(), 多条语句超时问题..
- 100家分店的销售方面的数据传输问题
- 怎么把一个字符串转换为datetime类型?
- 如何让一个类的英文属性名在PropertyGrid中用中文显示出来?
- 有没人用过 linq 创建oracle 的好工具介绍几个给我最好是免费的
- ssl证书的问题
- C#中,Image与Bitmap的区别?
- 如何实现蓝牙PC编程
- VS2005调试使用附加到进程后,VS2005就死掉,要求重新启动IDE,各位大侠告诉我如何解决这个问题,3KS
继续等答案~~~~
方法1:用sql分的参考
方法2:或者用C#写储存过程(这种方式我感觉似乎对Access依然是无效的?)
很好辦
用top
给你个参考
http://lovephoenix.javaeye.com/blog/131981
分页取,Sql语句一样可以
其实这个BT的需求是进行数据采集,客户端不被允许直接对数据库进行操作(因为有涉密内容,我不知道他们怎么想的,其实我们把数据取出来也是一样的,但就是不让进入内部操作~~所以只有在外围读取)
为什么要读那么多,因为采集变化的话需要和一个副本比较才可以比对出变化量。
对于大数据来说,只能分页来处理了,我还不能用top的取法,因为那样要排序,但是我的原数据和副本的正序倒序可能是不一样的~~还好可以用not in 方式来分页,似乎这个是分页方法里效率最低的,但是也没办法了。
再次谢谢各位的帮助!