http://www.sufeinet.com/plugin.php?id=keke_group

苏飞论坛

 找回密码
 马上注册

QQ登录

只需一步,快速开始

分布式系统框架(V2.0) 轻松承载百亿数据,千万流量!讨论专区 - 源码下载 - 官方教程

HttpHelper爬虫框架(V2.7-含.netcore) HttpHelper官方出品,爬虫框架讨论区 - 源码下载 - 在线测试和代码生成

HttpHelper爬虫类(V2.0) 开源的爬虫类,支持多种模式和属性 源码 - 代码生成器 - 讨论区 - 教程- 例子

查看: 3129|回复: 2

[学生提问] 一个国外的网站 主页都无法访问

[复制链接]
发表于 2019-3-14 19:39:55 | 显示全部楼层 |阅读模式

            HttpHelper httpHelper1 = new HttpHelper();
            HttpItem httpItem1 = new HttpItem()
            {
                Method = "get",
                URL = "http://www.rakuten.com/r/SNELLI125?eeid=28187",
                Host = "www.rakuten.com",
                UserAgent = "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/72.0.3626.109 Safari/537.36",
                Accept = "text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,image/apng,*/*;q=0.8",
                Timeout = 3000,
                ReadWriteTimeout = 3000,
                Encoding = System.Text.Encoding.Default


            };
            HttpResult httpResult = httpHelper1.GetHtml(httpItem1);

            string str = Cookiestr(httpResult.Cookie, "_abck=", ";");
            string str1 = Cookiestr(httpResult.Cookie, "bm_sz=", ";");
            CookieCollection cookie = new CookieCollection();
            Cookie cookie1 = new Cookie();
            cookie1.Value = str;
            cookie1.Name = "_abck";

            cookie.Add(cookie1);
            cookie1 = new Cookie();
            cookie1.Value = str1;
            cookie1.Name = "bm_sz";
            cookie.Add(cookie1);
            httpItem1 = new HttpItem()
            {
                Method = "get",
                URL = "https://www.rakuten.com/r/SNELLI125?eeid=28187",
                UserAgent = "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/72.0.3626.109 Safari/537.36",
                Accept = "text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,image/apng,*/*;q=0.8",
                Timeout = 3000,
                ReadWriteTimeout = 3000,
                CookieCollection = cookie


            };


参数都照着网页的数据提交了  还是跪了 不知道哪里出问题 跪求有大佬 指点下 网站 :https://www.rakuten.com/r/SNELLI125?eeid=28187

这是重定向后的网址?

这是重定向后的网址?


首次访问的数据

首次访问的数据


1. 开通SVIP会员,免费下载本站所有源码,不限次数据,不限时间
2. 加官方QQ群,加官方微信群获取更多资源和帮助
3. 找站长苏飞做网站、商城、CRM、小程序、App、爬虫相关、项目外包等点这里
 楼主| 发表于 2019-3-14 20:25:22 | 显示全部楼层
= = 我搞懂了 是VS2017没走代理 我设置了全局代理他也不走  。。。。。蛋疼 我无意看了日志才发现 苏飞大哥 请问VS 为什么不走代理呢。。。要如何设置啊  百度都百度不到
发表于 2019-3-18 07:58:36 | 显示全部楼层
【HttpHelper万能框架教程】- 为Http请求设置代理IP
http://www.sufeinet.com/thread-10027-1-1.html
(出处: 苏飞论坛)
您需要登录后才可以回帖 登录 | 马上注册

本版积分规则

QQ|手机版|小黑屋|手机版|联系我们|关于我们|广告合作|苏飞论坛 ( 豫ICP备18043678号-2)

GMT+8, 2024-4-24 17:02

© 2014-2021

快速回复 返回顶部 返回列表