解决方案 »
- php实现文件上传到指定文件夹,文件路径或名字存入数据库,如何实现啊
- 注册链接???
- PHP写XML节点里面内容时引号问题
- PHP代码解释
- 这个问题是怎么回事》???failed to open stream
- 求助:PHP Version 4.3.4在Linux下编译GD库出错!
- 请教高手一个关于PHP解析XML的问题!!!!!!!!!!!!!!!!!
- 一个函数问题,应该很简单,请指教
- 关于手机短信接口的问题~~~
- 谁有现成的虚拟社区的程序?
- 怎么才能把数据库的中的数据以一个条件查询出来,然后统计里面的另一个字段中存的数据累加一共是多少...
- 把一段html赋值给js变量遇到换行js提示错误问题
不开放一般是做需要登录,就是对整个子目录做权限限制只要是开放的,有心人总能找到爬虫一般有两种方式得到链接——跟随和推算
前者不用说了
后者是依据url合法字符原则,在一定范围内做探测尝试,一般不需要获取网页,只做header探测是否存在就够了,然后再使用跟随就能获得了子目录下的站点
Disallow: /tner/禁止搜索引擎访问。tner下建立一个空的index.html,防止用户在键入http://www.XXX.com/tner 时,打印出tner下所有的文件列表。
我刚才搜了一下,是需要在根目录,也就是http://www.XXX.com/下面建立一个robots.txt文件是吗?可是我又怕建立这个文件,别人如果下载了这个文件,不是反而泄密了这个子目录了吗?我既不希望无关的人查到我的这个子目录(尽管他可能会猜到有这个一样子目录存在),同时也不希望搜索引擎把我的子目录的内容收录.应该怎么办呢?
别人可以打开你的 http://www.yourdomain.com/robots.txt 查看到你的设置Disallow: /tner/所以你要在/tner/目录下放一个空白的index.html文件(0字节),这样即使有人键入http://www.yourdomain.com/tner,显示为空白页,不会打印出/tner/下的文件列表。