http://www.sufeinet.com/plugin.php?id=keke_group

苏飞论坛

 找回密码
 马上注册

QQ登录

只需一步,快速开始

分布式系统框架(V2.0) 轻松承载百亿数据,千万流量!讨论专区 - 源码下载 - 官方教程

HttpHelper爬虫框架(V2.7-含.netcore) HttpHelper官方出品,爬虫框架讨论区 - 源码下载 - 在线测试和代码生成

HttpHelper爬虫类(V2.0) 开源的爬虫类,支持多种模式和属性 源码 - 代码生成器 - 讨论区 - 教程- 例子

查看: 10751|回复: 17

[学生提问] 有谁能够抓取京东下拉框关键词的?请给个提示思路!传统的抓包之后拼链接不行

[复制链接]
发表于 2015-7-1 00:13:24 | 显示全部楼层 |阅读模式
10金钱
使用传统的HttpWebRequest抓取不到,使用浏览器的调试工具调试的时候,如下图: QQ截图20150701001408.png




打开抓取到的链接:http://dd.search.jd.com/?ver=2&a ... lback=jQuery8321970


会直接跳转到:
http://www.360buy.com/error2.aspx


求有经验的大神给个思路看看是怎么回事!谢谢了






最佳答案

查看完整内容

带什么都 行,只要是这个网站的,这是来源页面,表示发起请求的当前页面。有些网站会验证一下来源,表示是不是本站页面发出的,但是一般不会,注意一下应该就行了。


1. 开通SVIP会员,免费下载本站所有源码,不限次数据,不限时间
2. 加官方QQ群,加官方微信群获取更多资源和帮助
3. 找站长苏飞做网站、商城、CRM、小程序、App、爬虫相关、项目外包等点这里
发表于 2015-7-1 00:13:25 | 显示全部楼层
越狱 发表于 2015-7-1 21:57
这下确实可以了。

但是站长你好,我想知道,为什么我用火狐浏览器调试的时候,发现refer是:http://ww ...

带什么都 行,只要是这个网站的,这是来源页面,表示发起请求的当前页面。有些网站会验证一下来源,表示是不是本站页面发出的,但是一般不会,注意一下应该就行了。
回复

使用道具 举报

发表于 2015-7-1 09:08:05 | 显示全部楼层
用我的万能框架很轻松就能提取到啊。 QQ截图20150701090831.jpg
http://httphelper.sufeinet.com/
回复

使用道具 举报

 楼主| 发表于 2015-7-1 10:15:23 | 显示全部楼层
站长苏飞 发表于 2015-7-1 09:08
用我的万能框架很轻松就能提取到啊。
http://httphelper.sufeinet.com/

大神,能不能把你的代码贴出来,我写的怎么老是获取不到?
回复

使用道具 举报

发表于 2015-7-1 10:55:41 | 显示全部楼层
越狱 发表于 2015-7-1 10:15
大神,能不能把你的代码贴出来,我写的怎么老是获取不到?

我用的是我的万能框架,你不是框架会员,贴给你也没有用。
回复

使用道具 举报

发表于 2015-7-1 11:46:31 | 显示全部楼层
key=关键词 就是的呀~
回复

使用道具 举报

 楼主| 发表于 2015-7-1 13:42:45 | 显示全部楼层
zyf7758521ai 发表于 2015-7-1 11:46
key=关键词 就是的呀~

为什么我打开抓包的链接会跳转到别的网页?是什么原因造成的?
回复

使用道具 举报

 楼主| 发表于 2015-7-1 13:43:08 | 显示全部楼层
站长苏飞 发表于 2015-7-1 10:55
我用的是我的万能框架,你不是框架会员,贴给你也没有用。

为什么我打开抓包的链接会跳转到别的网页?是什么原因造成的?
回复

使用道具 举报

发表于 2015-7-1 14:01:57 | 显示全部楼层
越狱 发表于 2015-7-1 13:42
为什么我打开抓包的链接会跳转到别的网页?是什么原因造成的?

请求带的参数不够,页面自然会跳转,这个没有什么吧。
回复

使用道具 举报

 楼主| 发表于 2015-7-1 19:17:00 | 显示全部楼层
站长苏飞 发表于 2015-7-1 14:01
请求带的参数不够,页面自然会跳转,这个没有什么吧。

谢谢你的回复,我明白了。
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 马上注册

本版积分规则

QQ|手机版|小黑屋|手机版|联系我们|关于我们|广告合作|苏飞论坛 ( 豫ICP备18043678号-2)

GMT+8, 2024-4-28 19:49

© 2014-2021

快速回复 返回顶部 返回列表