==========有爬过baidu,google,sogou,yahoo等搜索引擎的吗?=======

最近做个项目,要提交一些数据给这些搜索引擎然后把返回的列表页面中的快照页面爬回来再做WEB数据挖掘.但是由于各个搜索引擎都有自己的监控机制.持续的爬取或导致自己的ip被封一段时间.于是我就采取了以代理服务器为主的策略来爬,但是效果很不理想.通过代理服务器来爬肯定速度会变慢,我在网上找了大概几百个代理,然后有专门的程序在定时维护和更新这些代理是否可用和效率如何.我会挑出效率最好的前20个代理来用.我的策略是自己的服务器爬1分钟,代理爬20分钟.如果一个代理有连续5次爬取失败便继续用下一个代理.现在遇到的问题如下:
1.程序刚启动时的一段时间内还算正常,但是时间长了就开始不停的报异常,比如java.net.SocketTimeoutException: connect timed out
java.net.ConnectException: Connection refused
还有一个是unexpected end of file异常
还有就是connect reset异常
出现这些异常也不奇怪,但是他就一直这样的报下去,导致一个网页也抓不回来.我把程序停掉再重新开始就正常了,然后过一段时间又不行了.尤其是sogou,这种情形很明显,baidu还好,有时候持续抓个1天都可以.望有经验的大侠指点.