http://www.sufeinet.com/plugin.php?id=keke_group

苏飞论坛

 找回密码
 马上注册

QQ登录

只需一步,快速开始

分布式系统框架(V2.0) 轻松承载百亿数据,千万流量!讨论专区 - 源码下载 - 官方教程

HttpHelper爬虫框架(V2.7-含.netcore) HttpHelper官方出品,爬虫框架讨论区 - 源码下载 - 在线测试和代码生成

HttpHelper爬虫类(V2.0) 开源的爬虫类,支持多种模式和属性 源码 - 代码生成器 - 讨论区 - 教程- 例子

查看: 17324|回复: 14

[更新] Httphelper1.5版发布,可自由切换IE代理

[复制链接]
发表于 2014-4-21 08:26:37 | 显示全部楼层 |阅读模式


Httphelper1.4.5版发布,可自由切换IE代理

导读部分
-------------------------------------------------------------------------------------------------------------
C#HttpHelper类苏飞版--系列教程导航
http://www.sufeinet.com/thread-3-1-1.html

Httphelper代码在线预览


修改之前方法如下
[C#] 纯文本查看 复制代码
  /// <summary>
        /// 设置代理
        /// </summary>
        /// <param name="item">参数对象</param>
        private void SetProxy(HttpItem item)
        {
            if (!string.IsNullOrWhiteSpace(item.ProxyIp))
            {
                //设置代理服务器
                if (item.ProxyIp.Contains(":"))
                {
                    string[] plist = item.ProxyIp.Split(':');
                    WebProxy myProxy = new WebProxy(plist[0].Trim(), Convert.ToInt32(plist[1].Trim()));
                    //建议连接
                    myProxy.Credentials = new NetworkCredential(item.ProxyUserName, item.ProxyPwd);
                    //给当前请求对象
                    request.Proxy = myProxy;
                }
                else
                {
                    WebProxy myProxy = new WebProxy(item.ProxyIp, false);
                    //建议连接
                    myProxy.Credentials = new NetworkCredential(item.ProxyUserName, item.ProxyPwd);
                    //给当前请求对象
                    request.Proxy = myProxy;
                }
            }
            else
            {
                request.Proxy = item.WebProxy;
            }
        }

修改之后方法 如下
[C#] 纯文本查看 复制代码
 /// <summary>        /// 设置代理
        /// </summary>
        /// <param name="item">参数对象</param>
        private void SetProxy(HttpItem item)
        {
            bool isIeProxy = item.ProxyIp.ToLower().Contains("ieproxy");
            if (!string.IsNullOrWhiteSpace(item.ProxyIp) && !isIeProxy)
            {
                //设置代理服务器
                if (item.ProxyIp.Contains(":"))
                {
                    string[] plist = item.ProxyIp.Split(':');
                    WebProxy myProxy = new WebProxy(plist[0].Trim(), Convert.ToInt32(plist[1].Trim()));
                    //建议连接
                    myProxy.Credentials = new NetworkCredential(item.ProxyUserName, item.ProxyPwd);
                    //给当前请求对象
                    request.Proxy = myProxy;
                }
                else
                {
                    WebProxy myProxy = new WebProxy(item.ProxyIp, false);
                    //建议连接
                    myProxy.Credentials = new NetworkCredential(item.ProxyUserName, item.ProxyPwd);
                    //给当前请求对象
                    request.Proxy = myProxy;
                }
            }
            else if (isIeProxy)
            {
                //设置为IE代理
            }
            else
            {
                request.Proxy = item.WebProxy;
            }
        }


使用IE代理方法
[C#] 纯文本查看 复制代码
  HttpHelper http = new HttpHelper();
            HttpItem item = new HttpItem()
            {
                URL = "http://www.sufeinet.com",//URL     必需项    
                Method = "get",//URL     可选项 默认为Get   
                IsToLower = false,//得到的HTML代码是否转成小写     可选项默认转小写   
                Cookie = "",//字符串Cookie     可选项   
                Referer ="",//来源URL     可选项   
                Postdata = "",//Post数据     可选项GET时不需要写   
                Timeout = 100000,//连接超时时间     可选项默认为100000    
                ReadWriteTimeout = 30000,//写入Post数据超时时间     可选项默认为30000   
                UserAgent = "Mozilla/5.0 (compatible; MSIE 9.0; Windows NT 6.1; Trident/5.0)",//用户的浏览器类型,版本,操作系统     可选项有默认值   
                ContentType = "text/html",//返回类型    可选项有默认值   
                Allowautoredirect = false,//是否根据301跳转     可选项   
                //CerPath = "d:\123.cer",//证书绝对路径     可选项不需要证书时可以不写这个参数   
                //Connectionlimit = 1024,//最大连接数     可选项 默认为1024    
                ProxyIp = "ieproxy",//代理服务器ID     可选项 不需要代理 时可以不设置这三个参数    
                //ProxyPwd = "123456",//代理服务器密码     可选项    
                //ProxyUserName = "administrator",//代理服务器账户名     可选项   
                ResultType = ResultType.String
            };
            HttpResult result = http.GetHtml(item);
            string html = result.Html;
            string cookie = result.Cookie;


只要将这一行设置为
ProxyIp = "ieproxy",//代理服务器ID 可选项 不需要代理 时可以不设置这三个参数
就可以使用IE代理了。如果不想使用直接不设置或者设置为Null就行了。

其他的方法还与之前的一样。

本帖被以下淘专辑推荐:



1. 开通SVIP会员,免费下载本站所有源码,不限次数据,不限时间
2. 加官方QQ群,加官方微信群获取更多资源和帮助
3. 找站长苏飞做网站、商城、CRM、小程序、App、爬虫相关、项目外包等点这里
发表于 2014-4-21 08:34:08 | 显示全部楼层
非常感谢你帮了我的大忙,真的太感谢你啦!
发表于 2014-4-21 09:37:51 | 显示全部楼层
这个版本的就可以实现数据抓包了吧?
 楼主| 发表于 2014-4-21 09:42:55 | 显示全部楼层
txblovehq 发表于 2014-4-21 09:37
这个版本的就可以实现数据抓包了吧?

是的可以,设置 ProxyIp = "ieproxy"就行了
发表于 2014-4-21 10:14:59 | 显示全部楼层
真是难得给力的帖子啊,强烈支持楼主。  站长太给力了。狂点三十二个赞。
发表于 2014-4-21 10:31:37 | 显示全部楼层
群里♂ Monn<admin@wxb8.com> 兄弟说测试不行,我仅帮反馈 QQ图片20140421103117.jpg


发表于 2014-4-21 10:35:28 | 显示全部楼层
改成这样可以。。

[C#] 纯文本查看 复制代码
 /// <summary>
        /// 设置代理
        /// </summary>
        /// <param name="item">参数对象</param>
        private void SetProxy(HttpItem item)
        {
            if (item.ProxyIp.ToLower().Contains("ieproxy"))
            {
                //设置为ie代理
            }
            else
            {
                if (!string.IsNullOrEmpty(item.ProxyIp))
                {
                    //设置代理服务器
                    if (item.ProxyIp.Contains(":"))
                    {
                        string[] plist = item.ProxyIp.Split(':');
                        WebProxy myProxy = new WebProxy(plist[0].Trim(), Convert.ToInt32(plist[1].Trim()));
                        //建议连接
                        myProxy.Credentials = new NetworkCredential(item.ProxyUserName, item.ProxyPwd);
                        //给当前请求对象
                        request.Proxy = myProxy;
                    }
                    else
                    {
                        WebProxy myProxy = new WebProxy(item.ProxyIp, false);
                        //建议连接
                        myProxy.Credentials = new NetworkCredential(item.ProxyUserName, item.ProxyPwd);
                        //给当前请求对象
                        request.Proxy = myProxy;
                    }
                }
                else
                {
                    request.Proxy = item.WebProxy;
                }
            }            
        }
发表于 2014-4-21 10:40:45 | 显示全部楼层
@sufei
还有个问题,还是我在这个帖子里提到的:http://www.sufeinet.com/thread-8419-1-1.html
如果使用ie的代理,访问https类型的网站,会提示“基础连接已经关闭: 未能为 SSL/TLS 安全通道建立信任关系。”  
例如:设置为ie代理,然后直接get这个地址:https://passport.ganji.com/login.php
就会报上面提到的错误。
我只是反馈我遇到的问题,请站长莫怪。。呵呵。。
 楼主| 发表于 2014-4-21 10:41:34 | 显示全部楼层
@xjwebs @Monn

这个是我Svn版本问题。我已更新,抱歉
发表于 2014-4-21 10:47:46 | 显示全部楼层
站长苏飞 发表于 2014-4-21 10:41
@xjwebs @Monn

这个是我Svn版本问题。我已更新,抱歉

已看到,站长威武。我上边提到的问题,有机会研究下看啥问题哈。。
您需要登录后才可以回帖 登录 | 马上注册

本版积分规则

QQ|手机版|小黑屋|手机版|联系我们|关于我们|广告合作|苏飞论坛 ( 豫ICP备18043678号-2)

GMT+8, 2024-4-29 06:15

© 2014-2021

快速回复 返回顶部 返回列表