超多IP访问/robots.txt

蜘蛛robots.txt服务器

解决方案 »

  1.   

    比较奇怪，你确定cpu被占100%是这个问题？
    把robots.txt屏蔽看看。
      

  2.   

    robots.txt这个东西只要你编程谨慎没必要放上，放上了是个累赘，分析一下他的坏处，欢迎拍砖：
    1、如果你没有将后台的地址在前台页面上调用过的话，蜘蛛是不会爬取的，对于css,js这种东西，蜘蛛也不愿意爬。
    2、很多新手在设置robots.txt的时候都是很乖很听话，敏感地址放上来屏蔽蜘蛛爬取，其实只要严格，蜘蛛爬不到，但是别有用心的人会先看robots.txt一下就找到了管理入口地址。
    3、不管哪个蜘蛛跑过来第一个爬的就是robot.txt,占用了一点资源
    你这种情况应该不是robots.txt的原因，这个文件应该是直接发出去的，到不了100%的情况