苏飞论坛

 找回密码
 马上注册

QQ登录

只需一步,快速开始

扫一扫,访问微社区

分布式系统框架(V1.3) 轻松承载百亿数据,千万流量!讨论专区 - 源码下载 - 官方教程

HttpHelper万能框架(V2.3-含.netcore) HttpHelper官方出品,无敌框架讨论区 - 源码下载 - 在线测试和代码生成

HttpHelper爬虫类(V1.9) 最牛的爬虫类,没有爬不到只有想不到 源码 - 代码生成器 - 讨论区 - 教程- 例子

查看: 457|回复: 7

[求助] 请求的html为空的问题。

[复制链接]
发表于 2019-5-6 10:04:18 | 显示全部楼层 |阅读模式
我刚开始接触抓取网页,昨天晚上无意中找到这里,感觉功能很强大,所以买了会员。
今天我用万能框架试着抓取网页。首先我用demo里的源码试着抓论坛的html结果返回空。
[C#] 纯文本查看 复制代码
////创建Httphelper对象
            HttpHelper http = new HttpHelper();
            //创建Httphelper参数对象
            HttpItem item = new HttpItem()
            {
                URL = "http://www.sufeinet.com",//URL     必需项    
                Method = "get",//URL     可选项 默认为Get   
                ContentType = "text/html",//返回类型    可选项有默认值   
                //ContentType = "application/x-www-form-urlencoded",//返回类型    可选项有默认值   
            };
            //请求的返回值对象
            HttpResult result = http.GetHtml(item);
            //获取请请求的Html
            string html = result.Html;


之后我利用代码生成器试着看了一下,测试下来是没问题的。于是我自动生成了代码。
[C#] 纯文本查看 复制代码
 HttpHelper http = new HttpHelper();

            HttpItem item = new HttpItem()
            {
                URL = "http://www.cnjidan.com/dadou/shanghai.html",//URL     必需项  
                Method = "GET",//URL     可选项 默认为Get  
                Timeout = 100000,//连接超时时间     可选项默认为100000  
                ReadWriteTimeout = 30000,//写入Post数据超时时间     可选项默认为30000  
                IsToLower = false,//得到的HTML代码是否转成小写     可选项默认转小写  
                Cookie = "",//字符串Cookie     可选项  
                UserAgent = "Mozilla/5.0 (Windows NT 6.1; WOW64; rv:18.0) Gecko/20100101 Firefox/18.0",//用户的浏览器类型,版本,操作系统     可选项有默认值  
                Accept = "text/html, application/xhtml+xml, */*",//    可选项有默认值  
                ContentType = "text/html",//返回类型    可选项有默认值  
                Referer = "http://www.cnjidan.com/dadou/shanghai.html",//来源URL     可选项  
                Allowautoredirect = false,//是否根据301跳转     可选项  
                AutoRedirectCookie = false,//是否自动处理Cookie     可选项  
                                           //CerPath = "d:\123.cer",//证书绝对路径     可选项不需要证书时可以不写这个参数  
                                           //Connectionlimit = 1024,//最大连接数     可选项 默认为1024  
                Postdata = "",//Post数据     可选项GET时不需要写  
                              //ProxyIp = "192.168.1.105:2020",//代理服务器ID     可选项 不需要代理 时可以不设置这三个参数  
                              //ProxyPwd = "123456",//代理服务器密码     可选项  
                              //ProxyUserName = "administrator",//代理服务器账户名     可选项  
                ResultType = ResultType.String,//返回数据类型,是Byte还是String    
            };
            //请求的返回值对象
            HttpResult result = http.GetHtml(item);
            //获取请请求的Html
            string html = result.Html;
            //获取请求的Cookie
            string cookie = result.Cookie;

可是result.Html是空的。

我不是很懂,怎么才能得到网页的html内容呢?
发表于 2019-5-6 10:13:14 | 显示全部楼层
 楼主| 发表于 2019-5-6 10:17:07 | 显示全部楼层
我知道啊,但是控制台运行起来之后,
[C#] 纯文本查看 复制代码
string html = result.Html;

到这里是空的,
发表于 2019-5-6 10:20:56 | 显示全部楼层
 楼主| 发表于 2019-5-6 10:24:20 | 显示全部楼层
发表于 2019-5-6 11:25:49 | 显示全部楼层
[C#] 纯文本查看 复制代码
HttpHelper http = new HttpHelper();
           HttpItem item = new HttpItem()
           {
               URL = "http://www.cnjidan.com/dadou/shanghai.html",//URL     必需项    
           };
           //请求的返回值对象
           HttpResult result = http.GetHtml(item);
           //获取请请求的Html
           string html = result.Html;
           //获取请求的Cookie
           string cookie = result.Cookie;

发表于 2019-5-6 11:27:43 | 显示全部楼层
发表于 2019-5-9 08:40:03 | 显示全部楼层
空白问题已经修复

我个人代码书写失误,请更新后使用

HttpHelper万能框架修复V2.3.4版本某些网站返回内容空白的Bug
http://www.sufeinet.com/thread-32362-1-1.html
(出处: 苏飞论坛)
您需要登录后才可以回帖 登录 | 马上注册

本版积分规则

QQ|手机版|小黑屋|手机版|联系我们|关于我们|广告合作|苏飞论坛 ( 豫ICP备17001017号-1)

GMT+8, 2019-7-20 19:29

© 2017-2018

快速回复 返回顶部 返回列表