苏飞论坛

 找回密码
 马上注册

QQ登录

只需一步,快速开始

分布式系统框架(V2.0) 轻松承载百亿数据,千万流量!讨论专区 - 源码下载 - 官方教程

HttpHelper爬虫框架(V2.7-含.netcore) HttpHelper官方出品,爬虫框架讨论区 - 源码下载 - 在线测试和代码生成

HttpHelper爬虫类(V2.0) 开源的爬虫类,支持多种模式和属性 源码 - 代码生成器 - 讨论区 - 教程- 例子

查看: 19231|回复: 14
打印 上一主题 下一主题

[源码分享] 代理IP自动更新校验器完整项目源码

[复制链接]
跳转到指定楼层
楼主
发表于 2014-7-21 21:18:32 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
本帖最后由 米饭不能用了 于 2014-7-22 09:36 编辑



                                          

                                 
代理IP用途非常广泛,但是因为其不够稳定所以需要不停的更新,C#源码世界第二季重磅出击,能够自动获取更新代理IP地址并自动校验有效性。                                 
整个项目非常完整,从数据库设计到流程,多线程执行任务。数据库基于SQLite,实现了以下功能:                                 
定时自动从代理IP网站提取代理到数据库中并判断该代理ip的位置。                                 
多线程校验代理IP有效性,自动剔除无效代理。                                 
提供了现成的随机去除一个有效代理IP的方法,并附送一个demo,自动提取一个有效IP并使用这个IP访问网站。                                 

源码采用简单三层架构:                                 
Model:模型层,主要放了一个tb_proxy模型,包含代理ip的IP、端口、有效性、地址、最后校验时间                                 
Common:数据交互,主要存放了一个tb_proxy类,包含了对代理IP的增加、删除、修改和随机提取                                 
Library:公用类库,包含一个HttpHelper类、RegHelper正则帮助类、IPHelper根据ip查询位置信息类和一个SQLiteHelper类。                                 
主程序:一个主窗体和一个代理提取测试窗体。主窗体中主要完成代理的提取和多线程校验,测试窗体主要实现随机提取一个有效代理并访问一个ip查询网站,测试代理有效性和真实性。                                 

源码特色:                                 
项目非常简洁明了,代码都有详细的注释说明。                                 
使用了qqwry.dat根据IP获取所在地址。                                 
多线程校验使用了lock以防止冲突,默认开启了50个线程,如果觉得CPU扛不住可以适当减少。                                 
更新数据库的方法也使用了lock,因为太多的并发会导致SQLite出错,这样这样做并不影响更新速度。                                 
日志显示采用了公共的日志列队方法,直接在主项目的任何地方调用都可以。                                 

源码下载: 代理IP自动获取更新校验器完整项目源码.rar (4.38 MB, 下载次数: 603)
用到的其他源码:                                 
苏飞HttpHelper (这个就不用说啦)
SQLite设计使用的是SQLite Expert Personal 3.5,使用方法在:http://www.hellocsharp.com/article/28.aspx                                 

注意:                                 
本源码中的代理IP来源自两个网站,提取方法也是内置的,所以如果需要更多的代理IP自己找到提供代理IP的网站或者接口,写相应的提取代码就可以了,剩下的就是直接调用写好的添加方法了。                                 

本源码由C#源码世界首发,如果转载或复制请尊重作者版权,该源码为第一版本,肯定有不完善的地方。
如果对于源码有好的建议或者有不明白的地方可以在:
进行提问反馈也可以直接回复该帖子,我会及时帮大家解决!


1. 开通SVIP会员,免费下载本站所有源码,不限次数据,不限时间
2. 加官方QQ群,加官方微信群获取更多资源和帮助
3. 找站长苏飞做网站、商城、CRM、小程序、App、爬虫相关、项目外包等点这里
沙发
发表于 2014-7-22 09:04:05 | 只看该作者
把代码上传一份吧,这样下载不方便,
板凳
 楼主| 发表于 2014-7-22 09:06:22 | 只看该作者
站长苏飞 发表于 2014-7-22 09:04
把代码上传一份吧,这样下载不方便,

好的,马上传
地板
发表于 2014-7-22 09:13:42 | 只看该作者

恩好的,你如果想加你网站的连接可以在文章结尾加上参考链接。
5
发表于 2014-7-22 14:18:48 | 只看该作者
哈哈。。。
最近好多人共享自己的小软件。
支持啊。
6
发表于 2014-7-22 14:28:50 | 只看该作者
好东西啊···谢谢分享,这要是手动检验得多痛苦啊
7
发表于 2014-7-24 08:33:39 | 只看该作者
非常感谢!!
回复

使用道具 举报

8
发表于 2014-7-24 11:43:01 | 只看该作者
强烈支持楼主ing……
9
发表于 2014-7-26 07:53:08 | 只看该作者
谢谢!!!!!!!!!!!!!!!!!!!!!!!!!11
回复

使用道具 举报

10
发表于 2014-8-5 22:46:47 | 只看该作者
真是难得给力的帖子啊,强烈支持楼主。

非常赞啊,用到了不少技术点
您需要登录后才可以回帖 登录 | 马上注册

本版积分规则

QQ|手机版|小黑屋|手机版|联系我们|关于我们|广告合作|苏飞论坛 ( 豫ICP备18043678号-2)

GMT+8, 2025-10-29 08:16

© 2014-2021

快速回复 返回顶部 返回列表