苏飞论坛

 找回密码
 马上注册

QQ登录

只需一步,快速开始

扫一扫,访问微社区

分布式系统框架(V2.0) 轻松承载百亿数据,千万流量!讨论专区 - 源码下载 - 官方教程

HttpHelper万能框架(V2.3-含.netcore) HttpHelper官方出品,无敌框架讨论区 - 源码下载 - 在线测试和代码生成

HttpHelper爬虫类(V2.0) 最牛的爬虫类,没有爬不到只有想不到 源码 - 代码生成器 - 讨论区 - 教程- 例子

楼主: lrd1986

[源码分享] 看妹子小程序源码

[复制链接]
发表于 2014-5-7 15:14:42 | 显示全部楼层
发表于 2014-5-15 23:07:40 | 显示全部楼层
发表于 2014-5-16 08:33:15 | 显示全部楼层
回复

使用道具 举报

发表于 2014-5-25 19:35:07 | 显示全部楼层
发表于 2014-5-25 19:35:24 | 显示全部楼层
发表于 2014-5-27 08:48:36 | 显示全部楼层
发表于 2014-7-11 10:28:29 | 显示全部楼层
发表于 2014-7-17 17:09:01 | 显示全部楼层
已发现BUG,注释的内容会提示403错误 替换为下面的就OK 还是飞哥的厉害
            //webContent = null;
            //if (string.IsNullOrEmpty(url))
            //{
            //    return false;
            //}
            //bool result = false;
            //try
            //{
            //    HttpWebRequest httpWebRequest = (HttpWebRequest)WebRequest.Create(url);
            //    httpWebRequest.Timeout = 30000;

            //    httpWebRequest.Headers.Add("Accept", "text/html, application/xhtml+xml, */*");
            //    httpWebRequest.Headers.Add("User-Agent", "Mozilla/5.0 (Windows NT 6.1; WOW64; rv:18.0) Gecko/20100101 Firefox/18.0");

            //    httpWebRequest.Headers.Set("Pragma", "no-cache");
            //    HttpWebResponse httpWebResponse = (HttpWebResponse)httpWebRequest.GetResponse();
            //    Stream responseStream = httpWebResponse.GetResponseStream();
            //    StreamReader streamReader = new StreamReader(responseStream, ec);
            //    webContent = streamReader.ReadToEnd();
            //    result = true;
            //}
            //catch
            //{
            //    result = false;
            //}
            //return result;

            HttpHelper http = new HttpHelper();
            HttpItem item = new HttpItem()
            {
                URL = url,//URL     必需项
                Method = "GET",//URL     可选项 默认为Get
                Timeout = 100000,//连接超时时间     可选项默认为100000
                ReadWriteTimeout = 30000,//写入Post数据超时时间     可选项默认为30000
                IsToLower = false,//得到的HTML代码是否转成小写     可选项默认转小写
                Cookie = "",//字符串Cookie     可选项
                UserAgent = "Mozilla/5.0 (Windows NT 6.1; WOW64; rv:18.0) Gecko/20100101 Firefox/18.0",//用户的浏览器类型,版本,操作系统     可选项有默认值
                Accept = "text/html, application/xhtml+xml, */*",//    可选项有默认值
                ContentType = "text/html",//返回类型    可选项有默认值
                Referer = "http://www.sufeinet.com",//来源URL     可选项
                //Allowautoredirect = true,//是否根据301跳转     可选项
                //CerPath = "d:\123.cer",//证书绝对路径     可选项不需要证书时可以不写这个参数
                //Connectionlimit = 1024,//最大连接数     可选项 默认为1024
                Postdata = "",//Post数据     可选项GET时不需要写
                //ProxyIp = "192.168.1.105",//代理服务器ID     可选项 不需要代理 时可以不设置这三个参数
                //ProxyPwd = "123456",//代理服务器密码     可选项
                //ProxyUserName = "administrator",//代理服务器账户名     可选项
                //ResultType = ResultType.String,//返回数据类型,是Byte还是String
            };
            HttpResult result = http.GetHtml(item);
            string html = result.Html;
            string cookie = result.Cookie;
            byte[] b = result.ResultByte;

            webContent = html;
发表于 2014-7-23 00:24:24 | 显示全部楼层
回复

使用道具 举报

发表于 2014-8-3 01:12:49 | 显示全部楼层
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 马上注册

本版积分规则

QQ|手机版|小黑屋|手机版|联系我们|关于我们|广告合作|苏飞论坛 ( 豫ICP备17001017号-1)

GMT+8, 2019-11-13 02:53

© 2017-2018

快速回复 返回顶部 返回列表