http://www.sufeinet.com/plugin.php?id=keke_group

苏飞论坛

 找回密码
 马上注册

QQ登录

只需一步,快速开始

分布式系统框架(V2.0) 轻松承载百亿数据,千万流量!讨论专区 - 源码下载 - 官方教程

HttpHelper爬虫框架(V2.7-含.netcore) HttpHelper官方出品,爬虫框架讨论区 - 源码下载 - 在线测试和代码生成

HttpHelper爬虫类(V2.0) 开源的爬虫类,支持多种模式和属性 源码 - 代码生成器 - 讨论区 - 教程- 例子

查看: 8636|回复: 3

[总群] c#并发爬虫,双线程,双ip代理,每秒钟都爬不到一个

[复制链接]
发表于 2018-12-28 16:41:50 | 显示全部楼层 |阅读模式
本帖最后由 Amy 于 2018-12-28 16:47 编辑

Daniel(916365312) 11:48:34

各位大侠,我有个c#并发爬虫,双线程,双ip代理,但是还是有性能瓶颈,每秒钟都爬不到一个,。netframework 的默认链接最大值已设512,但是就是跑不快,有啥原因呢?
Daniel() 11:48:53
1.png


舒洋() 11:49:10

跟踪一下卡在什么环节
Daniel() 11:49:35

不觉得卡在什么环节啊。
Daniel() 11:49:43

没报错啊
♂cyberarmy() 11:51:00

直接 Parallel.For
Daniel() 11:51:38

parallel.for真心没试过。
Daniel() 11:51:53

我是task[]来做的。
Daniel() 11:52:35

我看书说parallel.for 是数据密集型的时候用的,
舒洋() 11:52:38

1秒一个,网站本身访问就慢吧,传递协议什么的都有损耗
舒洋() 11:52:58

用proxy也有时间损耗
Daniel() 11:53:15

我用3个http供应商来同时down,
Daniel() 11:53:31
2.png


Daniel() 11:59:20
3.png

并发18个才有一秒2个的效果,
Daniel() 12:00:22

而且很多http商都说并发不限制,但是用同一个http商的时候,就更慢了。



1. 开通SVIP会员,免费下载本站所有源码,不限次数据,不限时间
2. 加官方QQ群,加官方微信群获取更多资源和帮助
3. 找站长苏飞做网站、商城、CRM、小程序、App、爬虫相关、项目外包等点这里
发表于 2018-12-28 17:30:48 | 显示全部楼层
我只是路过打酱油的。
发表于 2018-12-29 08:25:05 | 显示全部楼层
我只是路过打酱油的。
发表于 2018-12-29 08:28:28 | 显示全部楼层
强烈支持楼主ing……
您需要登录后才可以回帖 登录 | 马上注册

本版积分规则

QQ|手机版|小黑屋|手机版|联系我们|关于我们|广告合作|苏飞论坛 ( 豫ICP备18043678号-2)

GMT+8, 2024-7-15 19:22

© 2014-2021

快速回复 返回顶部 返回列表