本帖最后由 xroha 于 2014-12-15 09:49:56 编辑

解决方案 »

  1.   

    curl 只是抓取这个页面内容,但这个页面有其它许多的动态内容是不能通过抓取去填充的
      

  2.   

    文章数据应该不是动态的吧,我们查看页面源代码,应该是能查看到的代码通过curl都能抓取到吧,而且这个页面不用登陆也能看到,搜索引擎的蜘蛛也能抓取,为什么我现在用curl抓取不到呢?
      

  3.   

    没有cookie的原因吧。先把cookie加上。
    $url = "http://jingyan.baidu.com/article/00a07f38441c3782d028dc04.html";
    $cookie_jar = dirname(__FILE__)."/jy.cookie";/* 获取cookie */
    $ch = curl_init();
    curl_setopt($ch, CURLOPT_URL, $url);
    curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
    curl_setopt($ch, CURLOPT_COOKIEJAR, $cookie_jar);
    curl_exec($ch);
    curl_close($ch);然后请求的时候带上cookie:
    $ch = curl_init();
    curl_setopt($ch, CURLOPT_URL, $url);
    curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
    curl_setopt($ch, CURLOPT_COOKIEFILE, $cookie_jar);
    curl_setopt($ch, CURLOPT_HEADER, 0);
    $res = curl_exec($ch);
    curl_close($ch);
    echo $res;
      

  4.   


    加了也不行。在本地环境和三个不同IP的服务器上试了,都抓不到。使用我上面的代码,抓取到的就是百度经验的页面。你为何不把你的代码贴出来(加上cookie的代码)。
      

  5.   


    加了也不行。在本地环境和三个不同IP的服务器上试了,都抓不到。使用我上面的代码,抓取到的就是百度经验的页面。你为何不把你的代码贴出来(加上cookie的代码)。非常感谢,是我自己弄错了。少加了一行代码。