怎样做才能获取别人网站的数据,并写入到我本机上的文件中呢?
----------------------------------------------------------------
http://lingxuefeng.51.net

解决方案 »

  1.   

    GetURLHtml.aspx<%@ Page language="c#" Codebehind="GetURLHtml.aspx.cs" Src="GetURLHtml.aspx.cs" AutoEventWireup="false" Inherits="Lion.Web.Forum.WebForm1" %>
    <HTML>
     <HEAD>
      <title>Lion互动网络=>利用WebClient和WebRequest类获得网页源代码</title>
      <META http-equiv="Content-Type" content="text/html; charset=gb2312">
     </HEAD>
     <body>
      <form runat="server">
       <asp:TextBox id="UrlText" runat="server" Width="50%">http://www.lionsky.net/mywebsite/index.aspx</asp:TextBox>
       <asp:Button id="Button1" runat="server" Text="用WebClient得到"></asp:Button>&nbsp;
       <asp:Button id="Button2" runat="server" Text="用WebRequest得到"></asp:Button><BR>
       <asp:TextBox id="ContentHtml" runat="server" Width="100%" Height="360px" TextMode="MultiLine"></asp:TextBox>
      </form>
     </body>
    </HTML>GetURLHtml.aspx.Csusing System;
    using System.Collections;
    using System.ComponentModel;
    using System.Data;
    using System.Drawing;
    using System.Web;
    using System.Web.SessionState;
    using System.Web.UI;
    using System.Web.UI.WebControls;
    using System.Web.UI.HtmlControls;namespace Lion.Web.Forum
    {
     /// <summary>
     /// WebForm1 的摘要说明。
     /// </summary>
     public class WebForm1 : System.Web.UI.Page
     {
      protected System.Web.UI.WebControls.TextBox TextBox1;
      protected System.Web.UI.WebControls.Button Button1;
      protected System.Web.UI.WebControls.Button Button2;
      protected System.Web.UI.WebControls.TextBox UrlText;
      protected System.Web.UI.WebControls.TextBox ContentHtml;
      protected System.Web.UI.WebControls.TextBox TextBox2;
     
      #region Web 窗体设计器生成的代码
      override protected void OnInit(EventArgs e)
      {
       //
       // CODEGEN: 该调用是 ASP.NET Web 窗体设计器所必需的。
       //
       InitializeComponent();
       base.OnInit(e);
      }
      
      /// <summary>
      /// 设计器支持所需的方法 - 不要使用代码编辑器修改
      /// 此方法的内容。
      /// </summary>
      private void InitializeComponent()
      {    
       this.Button1.Click += new System.EventHandler(this.Button1_Click);
       this.Button2.Click += new System.EventHandler(this.Button2_Click);  }
      #endregion  private void Button1_Click(object sender, System.EventArgs e)
      {
       string PageUrl = UrlText.Text;
       System.Net.WebClient wc = new System.Net.WebClient();
       wc.Credentials = System.Net.CredentialCache.DefaultCredentials;   ///方法一:
       Byte[] pageData = wc.DownloadData(PageUrl);
       ContentHtml.Text = System.Text.Encoding.Default.GetString(pageData);   /// 方法二:
       /// ***************代码开始**********
       /// Stream resStream = wc.OpenRead(PageUrl);
       /// StreamReader sr = new StreamReader(resStream,System.Text.Encoding.Default);
       /// ContentHtml.Text = sr.ReadToEnd();
       /// resStream.Close();
       /// **************代码结束********
       /// 
       wc.Dispose();    }  private void Button2_Click(object sender, System.EventArgs e)
      {
       string PageUrl = UrlText.Text;
       System.Net.WebRequest  request = System.Net.WebRequest.Create(PageUrl);
       System.Net.WebResponse response = request.GetResponse();
       System.IO.Stream resStream = response.GetResponseStream(); 
       System.IO.StreamReader sr = new System.IO.StreamReader(resStream, System.Text.Encoding.Default);
       ContentHtml.Text = sr.ReadToEnd();
       resStream.Close(); 
       sr.Close();  }
     }
      

  2.   

    http://goody9807.611.cn/Announce/Announce.asp?BoardID=2&ID=585
      

  3.   

    前言:小偷程序其实是懒人的妙法。它可以偷文章,实时新闻资讯,歌曲,甚至歌曲数据的职能寻找和入库等!功能可谓强大,但是还有好多朋友到处求小偷程序,问什么?因为网上没有几篇详细介绍小偷程序的文章供大家参考。其实做小偷程序并不难,我在这儿把我作小偷程序的经验贴出来大家看看,可能也有不对的地方,请大家多多指出来。一、基本原理及简单实例原理部分网上太多了,blue1000也没有必要在这里罗嗦了,这里引用一下,嘿嘿
    注:此下内容为引用(有部分修改):原作者:572019 引用自:动易网络(一)原理
    小偷程序实际上是通过了XML中的XMLHTTP组件调用其它网站上的网页。比如新闻小偷程序,很多都是调用了sina的新闻网页,并且对其中的html进行了一些替换,同时对广告也进行了过滤。用小偷程序的优点有:无须维护网站,因为小偷程序中的数据来自其他网站,它将随着该网站的更新而更新;可以节省服务器资源,一般小偷程序就几个文件,所有网页内容都是来自其他网站。缺点有:不稳定,如果目标网站出错,程序也会出错,而且,如果目标网站进行升级维护,那么小偷程序也要进行相应修改;速度,因为是远程调用,速度和在本地服务器上读取数据比起来,肯定要慢一些。
    (二)事例
    下面就XMLHTTP在ASP中的应用做个简单说明<% 
    ’常用函数 
    ’1、输入url目标网页地址,返回值getHTTPPage是目标网页的html代码 
    function getHTTPPage(url) 
    dim Http 
    set Http=server.createobject("MSXML2.XMLHTTP") 
    Http.open "GET",url,false 
    Http.send() 
    if Http.readystate<>4 then 
    exit function 
    end if 
    getHTTPPage=bytesToBstr(Http.responseBody,"GB2312") 
    set http=nothing 
    if err.number<>0 then err.Clear 
    end function
    '2、转换乱玛,直接用xmlhttp调用有中文字符的网页得到的将是乱玛,可以通过adodb.stream组件进行转换Function BytesToBstr(body) 
    dim objstream 
    set objstream = Server.CreateObject("adodb.stream") 
    objstream.Type = 1 
    objstream.Mode =3 
    objstream.Open 
    objstream.Write body 
    objstream.Position = 0 
    objstream.Type = 2 
    objstream.Charset = "GB2312" ’转换原来默认的UTF-8编码转换成GB2312编码,否则直接用XMLHTTP组件调用有中文字符的网页得到的将是乱码 
    BytesToBstr = objstream.ReadText 
    objstream.Close 
    set objstream = nothing 
    End Function 
    ’下面试着调用http://www.3doing.com/earticle/的html内容 
    Dim Url,Html 
    Url="http://www.3doing.com/earticle/"; 
    Html = getHTTPPage(Url) 
    Response.write Html 
    %>注:此上内容为引用(有部分修改):原作者:572019 引用自:动易网络二、几个常用的函数(一)InStr 函数
    描述
    返回某字符(string2)串在另一字符串(string1)中第一次出现的位置。
    语法
    InStr(string1, string2)
    例如:
    Dim SearchString, SearchChar
    SearchString ="http://blue1000.com" ' 要在其中搜索的字符串。
    SearchChar = "blue1000" ' 搜索 "blue1000"。
    MyBK = Instr(SearchString, SearchChar) ' 返回 8
    '如果找不到则返回“0”,例如:
    SearchChar = "BK"
    MyBK = Instr(SearchString, SearchChar) ' 返回 0(二)Mid 函数
    描述
    从字符串中返回指定数目的字符。
    语法
    Mid(string, start, over)
    例如:
    Dim MyBK
    MyBK = Mid("我们的BK(blue1000.com)设计", 7, 12) '截取字符串"我们的BK(blue1000.com)设计"第7个字符以后的12个字符
    '此时MyBK的值就变成了"blue1000.com"(三)Replace 函数(这个我就不细说了,只举个例子)
    Dim SearchString, SearchChar
    SearchString ="我们的BK设计是一个网站建设资源网站" ' 要在其中搜索的字符串。
    SearchString =Replace(SearchString,"BK设计","Blue1000.Com")
    '此时SearchString的值就变成了"我们的Blue1000.Com是一个网站建设资源网站"上面的内容只说了如何获取整个页面的html的代码和几个常用的函数,那么如何获取指定部分的代码呢?如何删除我不需要的内容呢?如何才能将外站的链接改成我的呢?又如何实现把原来的翻页做成我的呢?
    详情请看下节,小偷程序精华所在:
    (一)如何截取指定区域的HTML代码?
    (对方网站的HTML代码在哪儿看?晕:IE浏览器>>查看>>源文件。不要告诉我你不知道IE是什么!)
    例如我只想获取以下HTML代码中"<td>"和"</td>"之间的的文字部分:<html> 
    <title>BK(blue1000.com)设计--网页制作资源站点</title> 
    <body> 
    <table> 
    <tr><td></td></tr> 
    <tr><td id="Content">BK(blue1000.com)设计--网页制作资源站点是个资源多多的站点……</td></tr> 
    </table> 
    </body> 
    </html>
    <% 
    …… 
    Dim StrBK,start,over,RsBK 
    StrBK=getHTTPPage(网页的地址) 
    start=Instr(StrBK,"<td id=""Content"">") ’此处的作用是获取字符串开始地方的定位。Instr函数前面一节说过了哦~ 
    ’这里要有人问了:原来的代码是<td id="Content">,怎么你这里调用的是<td id=""Content"">啊?答案:asp中(准确的说是VBscript中是用两个双引号来表示一个双引号的,因为双引号对于程序来说是个敏感字符。) 
    over=Instr(StrBK,"…</td></tr>")’此处的作用是获取字符串结束地方的定位。 
    ’这里又要有人问了:( :程序调用HTML代码干吗前面多出来3个点点"…"啊?答:提示:上面一行也有一个</td></tr>,如果这里用</td></tr>来定位的话,程序会错误地把上面一行的</td></tr>当成欲获取字符串的结束部分了。 
    RsBK=mid(StrBK,start,over-start) ’此处的作用是取出StrBK中第start个字符到第over个字符之间的字符串。mid函数前面一节我也讲过了;over-start是为了计算出开始位置和结束位置之间的距离,也就是字符数。 
    response.write(RsBK) ’最后输出程序获取的内容 
    %>
    不要高兴的太早,当你运行的时候,你会发现页面的html代码有错误,为什么呢?因为你获取的html代码是:<td id="Content">BK(blue1000.com)设计--网页制作资源站点是个资源多多的站点…
    看到了吧?有残缺的HTML代码啊!怎么办呢?start=Instr(StrBK,"<td id=""Content"">")这个语句获取的是"<td id="Content">"在StrBK中的位置数,现在我们可以在程序语句的后面加上17,那么程序就会将位置指向<td id="Content">后面的那个字符.
    好的,程序将改成这样: <% 
    …… 
    Dim StrBK,start,over,RsBK 
    StrBK=getHTTPPage(网页的地址) 
    start=Instr(StrBK,"<td id=""Content"">") + 17 
    over=Instr(StrBK,"…</td></tr>") ’这里你也可以减去七(-7)把3个点去掉 
    RsBK=mid(StrBK,start,over-start) 
    response.write(RsBK) 
    %>
    这样就OK了,我们就可以将我们想要的东西偷过来显示在我们自己的页面了,呵呵~(二)如何将获取的字符中的一部分删掉或者做一些修改?
    接着上面的来讲,我们可以将RsBK中的"BK(blue1000.com)"换成"BK":
    RsBK=replace(RsBK,"BK(blue1000.com)","BK")
    或者直接把"(blue1000.com)"删掉:
    RsBK=replace(RsBK,"(blue1000.com)","")
    好了,现在RsBK就变成了:"BK设计--网页制作资源站点是个资源多多的站点……"了.但是事实中,有些情况可能replace函数是不适应的,比如我们想把某个字符串里面的所有连接都去掉.连接可能包括很多种类型,replace只能替代其中特定的一个,我们不可能用一个又一个对应的replace函数来替换吧?
    那么现在就用到了程序中的正则表达式,详细请参阅:
    正则表达式简介(1):
    http://www.blue1000.com/bbs/dispbbs.asp?boardID=3&ID=1558&page=1
    正则表达式简介(2):
    http://www.blue1000.com/bbs/dispbbs.asp?boardID=3&ID=1559&page=1如果哪位朋友正好想去掉页面中所有链接的话,请关注Blue1000.com的下一篇教程:<<如何清除网页中的所有链接[正则表达式]>>(三)如何将对方网站的翻页也处理成我们自己的呢?
    答案是:利用replace函数和页面参数的传递。
    例如对方页面里含有这样的翻页代码:"<a href=2.htm>下一页</a>",我们可以先利用上面讲的内容,获取这个字符串,然后用replace函数:RsBK=replace(RsBK,"<a href=","<a href=page.asp?Url=")
    然后再page.asp的程序里获取Url的参数值,最后用小偷技术获取下一页你想要的内容就可以了。(四)如何将获取的内容入库
    由于篇幅有限,这里简单说一下.
    其实很简单:
    将偷来的内容作一下处理,防止在写入数据库的时候出现sql注入错误,例如:replace(String,"'","''")
    然后执行一个插入数据库操作的sql命令就ok了~
    以上只是一些关于XMLHTTP组件的初级应用,实际上它还能实现的功能还有很多,比如说保存远程图片到本地服务器上,配合adodb.stream组件可以把获取来的数据保存进数据库。小偷的作用和使用范围都很广。