分布式系统框架(V2.0) 轻松承载百亿数据,千万流量!讨论专区 - 源码下载 - 官方教程

HttpHelper爬虫框架(V2.4-含.netcore) HttpHelper官方出品,爬虫框架讨论区 - 源码下载 - 在线测试和代码生成

HttpHelper爬虫类(V2.0) 开源的爬虫类,支持多种模式和属性 源码 - 代码生成器 - 讨论区 - 教程- 例子

苏飞论坛

 找回密码
 马上注册

QQ登录

只需一步,快速开始

查看: 804|回复: 3

[求助] GetResponse() 请求越来越慢是咋回事?

[复制链接]
发表于 2021-10-1 21:00:58 | 显示全部楼层 |阅读模式
开通SVIP会员,免费下载本站所有源码,不限次数据,不限时间
不是说咱们的框架有问题,我自己封装的httpwebrequest也是越来越慢。我做的是一个友情链接爬虫,跟着网站提取友情链接,一直无限爬下去,例如我有10万个不重复的网址,启动100个线程爬行,一开始GetResponse()几百毫秒就能返回,几个小时以后就开始就要七八秒甚至十几秒才返回。


下面是我跑了几个小时后的调试时间:
QQ截图20211001205656.png


代码:
QQ截图20211001205743.png


我想请教一下管理员或者其他牛逼的网友,为啥GetResponse()刚开始快,后面越来越慢?  还是说是我什么地方弄的不对?
 楼主| 发表于 2021-10-3 18:55:55 | 显示全部楼层
开通SVIP会员,免费下载本站所有源码,不限次数据,不限时间
自己顶一下
 楼主| 发表于 2021-10-4 17:22:58 | 显示全部楼层
开通SVIP会员,免费下载本站所有源码,不限次数据,不限时间
自己顶一下
发表于 2021-11-20 17:00:06 | 显示全部楼层
开通SVIP会员,免费下载本站所有源码,不限次数据,不限时间
帮你顶下
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 马上注册

本版积分规则

QQ|手机版|小黑屋|手机版|联系我们|关于我们|广告合作|苏飞论坛 ( 豫ICP备17001017号-1)

GMT+8, 2021-12-6 22:41

© 2014-2021

快速回复 返回顶部 返回列表