http://www.sufeinet.com/plugin.php?id=keke_group

苏飞论坛

 找回密码
 马上注册

QQ登录

只需一步,快速开始

分布式系统框架(V2.0) 轻松承载百亿数据,千万流量!讨论专区 - 源码下载 - 官方教程

HttpHelper爬虫框架(V2.7-含.netcore) HttpHelper官方出品,爬虫框架讨论区 - 源码下载 - 在线测试和代码生成

HttpHelper爬虫类(V2.0) 开源的爬虫类,支持多种模式和属性 源码 - 代码生成器 - 讨论区 - 教程- 例子

查看: 3482|回复: 2

[HttpHelper] 获取不了网页的源代码

[复制链接]
发表于 2015-5-4 10:50:04 | 显示全部楼层 |阅读模式
8金钱
用程序获取不了http://www.ayhbj.gov.cn/tabid/337/Default.aspx这个网站的源代码,哪位帮帮我啊

最佳答案

查看完整内容

[mw_shl_code=csharp,true] private void Form1_Load(object sender, EventArgs e) { HttpHelper http = new HttpHelper(); HttpItem item = new HttpItem() { URL = "http://www.ayhbj.gov.cn/tabid/337/Default.aspx", Accept = "ext/html, application/xhtml+xml, */*", }; HttpResult result = http.Get ...


1. 开通SVIP会员,免费下载本站所有源码,不限次数据,不限时间
2. 加官方QQ群,加官方微信群获取更多资源和帮助
3. 找站长苏飞做网站、商城、CRM、小程序、App、爬虫相关、项目外包等点这里
发表于 2015-5-4 10:50:05 | 显示全部楼层
[C#] 纯文本查看 复制代码
        private void Form1_Load(object sender, EventArgs e)
        {
            HttpHelper http = new HttpHelper();
            HttpItem item = new HttpItem()
            {
                URL = "http://www.ayhbj.gov.cn/tabid/337/Default.aspx",
                Accept = "ext/html, application/xhtml+xml, */*",
            };
            HttpResult result = http.GetHtml(item);

            if (result.Html.Contains("cookie"))
            {
                string p1= StrBetween(result.Html, "cookie|", "|path");
                string p2 = StrBetween(result.Html, "reload|", "'.split");

                item = new HttpItem()
                {
                    URL = "http://www.ayhbj.gov.cn/tabid/337/Default.aspx",
                    Accept = "ext/html, application/xhtml+xml, */*",
                    Cookie = "t3_ar="+p1+"/"+p2,
                };
                result = http.GetHtml(item);
            }
        }

        private string StrBetween(string str,string l,string r)
        {
            string ret = string.Empty;
            int ln = l.Length+str.IndexOf(l);
            int rn = str.IndexOf(r);
            ret = str.Substring(ln,rn-ln);
            return ret;
        }


两次访问,第一次访问获取cookie,第二次访问带上cookie就可以了。
回复

使用道具 举报

发表于 2015-5-4 11:17:33 | 显示全部楼层
这个直接获取不到很正常吧,因为网站是分开两步的,第一步先获取Cookie,并通过Js生成一个访问串,然后带这这个Cookie才能获取到实际的值
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 马上注册

本版积分规则

QQ|手机版|小黑屋|手机版|联系我们|关于我们|广告合作|苏飞论坛 ( 豫ICP备18043678号-2)

GMT+8, 2024-5-1 03:35

© 2014-2021

快速回复 返回顶部 返回列表