从Internet上抓取指定URL的源码的方案(C#)

引言:
在做无线项目的时候,与通讯公司的数据通讯有一部分是通过XML交互的,所以必须要动态抓取通讯公司提供的固定的Internet上的数据,便研究了一下如何抓取固定url上的数据,现与大家分享一下。
类名GetPageCode,有一个方法GetSource,通过属性传递参数,入参控制的是要取得URL的地址,代理 服务器 的设置及输出方式的控制,这里大家可以再扩展自己的需要,我这里只提供了两种方式,一种是直接写到本地的某个文件中,另外一种就是返回字符串的。类里已经作了比较详细的注释,我想大家很容易就看明白了,如果实在不明白,那就msn上问吧,MSN: [email protected]

调用方式:
#region 测试获取远程网页
GetPageCode gpc = new GetPageCode();
gpc.Url=" http://ppcode.com ";
gpc.ProxyState=1;//使用代理 服务器 ,0为不使用,设置为1后下面的代理设置才起作用
gpc.ProxyAddress=" http://proxyName.com";// 代理 服务器 地址
gpc.ProxyPort="80";//代理 服务器 的端口
gpc.ProxyAccount="proxy";//代理 服务器 账号
gpc.ProxyPassword="password";//代理 服务器 密码
gpc.ProxyDomain="bqc";//代理 服务器 域
gpc.OutFilePath=filePath;//设置输出文件路径的地方,如果不设置,则返回字符串
gpc.GetSource();//处理
string tempErr=gpc.NoteMessage;//如果出错,这里会提示
string tempCode=gpc.OutString;//返回的字符串
#endregion
类代码:
using System;
using System.Collections;
using System.ComponentModel;
using System.Data;
using System.Drawing;
using System.IO;
using System.Net;
using System.Text;
using System.Web;

namespace Test.Com
{
///

1<summary>   
2/// 功能:取得Internet上的URL页的源码   
3/// 创建:2004-03-22   
4/// 作者:Rexsp MSN:[email protected]   
5/// </summary>

public class GetPageCode
{
#region 私有变量
///

1<summary>   
2/// 网页URL地址   
3/// </summary>

private string url=null;
///

1<summary>   
2/// 是否使用代码  服务器  :0 不使用 1 使用代理  服务器    
3/// </summary>

private int proxyState=0;
///

1<summary>   
2/// 代理  服务器  地址   
3/// </summary>

private string proxyAddress=null;
///

1<summary>   
2/// 代理  服务器  端口   
3/// </summary>

private string proxyPort=null;
///

1<summary>   
2/// 代理  服务器  用户名   
3/// </summary>

private string proxyAccount=null;
///

1<summary>   
2/// 代理  服务器  密码   
3/// </summary>

private string proxyPassword=null;
///

1<summary>   
2/// 代理  服务器  域   
3/// </summary>

private string proxyDomain=null;
///

1<summary>   
2/// 输出文件路径   
3/// </summary>

private string outFilePath=null;
///

1<summary>   
2/// 输出的字符串   
3/// </summary>

private string outString=null;
///

1<summary>   
2/// 提示信息   
3/// </summary>

private string noteMessage;

#endregion

#region 公共属性
///

1<summary>   
2/// 欲读取的URL地址   
3/// </summary>

public string Url
{
get{return url;}
set{url=value;}
}
///

1<summary>   
2/// 是否使用代理  服务器  标志   
3/// </summary>

public int ProxyState
{
get{return proxyState;}
set{proxyState=value;}
}
///

1<summary>   
2/// 代理  服务器  地址   
3/// </summary>

public string ProxyAddress
{
get{return proxyAddress;}
set{proxyAddress=value;}
}
///

1<summary>   
2/// 代理  服务器  端口   
3/// </summary>

public string ProxyPort
{
get{return proxyPort;}
set{proxyPort=value;}
}
///

1<summary>   
2/// 代理  服务器  账号   
3/// </summary>

public string ProxyAccount
{
get{return proxyAccount;}
set{proxyAccount=value;}
}
///

1<summary>   
2/// 代理  服务器  密码   
3/// </summary>

public string ProxyPassword
{
get{return proxyPassword;}
set{proxyPassword=value;}
}
///

1<summary>   
2/// 代理  服务器  域   
3/// </summary>

public string ProxyDomain
{
get{return proxyDomain;}
set{proxyDomain=value;}
}
///

1<summary>   
2/// 输出文件路径   
3/// </summary>

public string OutFilePath
{
get{return outFilePath;}
set{outFilePath=value;}
}
///

1<summary>   
2/// 返回的字符串   
3/// </summary>

public string OutString
{
get{return outString;}

}
///

1<summary>   
2/// 返回提示信息   
3/// </summary>

public string NoteMessage
{
get{return noteMessage;}

}

#endregion

#region 构造函数
public GetPageCode()
{
}
#endregion

#region 公共方法
///

1<summary>   
2/// 读取指定URL地址,存到指定文件中   
3/// </summary>

public void GetSource()
{
WebRequest request = WebRequest.Create(this.url);
//使用代理 服务器 的处理
if(this.proxyState==1)
{
//默认读取80端口的数据
if(this.proxyPort==null)
this.ProxyPort="80";

WebProxy myProxy=new WebProxy();
myProxy = (WebProxy)request.Proxy;
myProxy.Address = new Uri(this.ProxyAddress+":"+this.ProxyPort);
myProxy.Credentials = new NetworkCredential(this.proxyAccount, this.proxyPassword, this.ProxyDomain);
request.Proxy = myProxy;
}
try

{
//请求服务
WebResponse response = request.GetResponse();
//返回信息
Stream resStream = response.GetResponseStream();
StreamReader sr = new StreamReader(resStream, System.Text.Encoding.Default);
string tempCode= sr.ReadToEnd();
resStream.Close();
sr.Close();

//如果输出文件路径为空,便将得到的内容赋给OutString属性
if(this.outFilePath==null)
{
this.outString=tempCode;
}
else
{

FileInfo fi = new FileInfo(this.outFilePath);
//如果存在文件则先干掉
if(fi.Exists)
fi.Delete();

StreamWriter sw = new StreamWriter(this.outFilePath,true,Encoding.Default);
sw.Write(tempCode);
sw.Flush();
sw.Close();
}
}
catch
{
this.noteMessage="出错了,请检查网络是否连通;";
}

}
#endregion

}
}

Published At
Categories with Web编程
Tagged with
comments powered by Disqus