苏飞论坛

 找回密码
 马上注册

QQ登录

只需一步,快速开始

HttpHelper爬虫框架(V2.4-含.netcore) HttpHelper官方出品,爬虫框架讨论区 - 源码下载 - 在线测试和代码生成

HttpHelper爬虫类(V2.0) 开源的爬虫类,支持多种模式和属性 源码 - 代码生成器 - 讨论区 - 教程- 例子

查看: 3719|回复: 3

[求助] GetResponse() 请求越来越慢是咋回事?

[复制链接]
发表于 2021-10-1 21:00:58 | 显示全部楼层 |阅读模式
不是说咱们的框架有问题,我自己封装的httpwebrequest也是越来越慢。我做的是一个友情链接爬虫,跟着网站提取友情链接,一直无限爬下去,例如我有10万个不重复的网址,启动100个线程爬行,一开始GetResponse()几百毫秒就能返回,几个小时以后就开始就要七八秒甚至十几秒才返回。


下面是我跑了几个小时后的调试时间:
QQ截图20211001205656.png


代码:
QQ截图20211001205743.png


我想请教一下管理员或者其他牛逼的网友,为啥GetResponse()刚开始快,后面越来越慢?  还是说是我什么地方弄的不对?


1. 开通SVIP会员,免费下载本站所有源码,不限次数据,不限时间
2. 加官方QQ群,加官方微信群获取更多资源和帮助
3. 找站长苏飞做网站、商城、CRM、小程序、App、爬虫相关、项目外包等点这里
 楼主| 发表于 2021-10-3 18:55:55 | 显示全部楼层
自己顶一下
 楼主| 发表于 2021-10-4 17:22:58 | 显示全部楼层
自己顶一下
发表于 2021-11-20 17:00:06 | 显示全部楼层
帮你顶下
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 马上注册

本版积分规则

QQ|手机版|小黑屋|手机版|联系我们|关于我们|广告合作|苏飞论坛 ( 豫ICP备18043678号-2)

GMT+8, 2022-9-27 06:24

© 2014-2021

快速回复 返回顶部 返回列表