http://www.sufeinet.com/plugin.php?id=keke_group

苏飞论坛

 找回密码
 马上注册

QQ登录

只需一步,快速开始

分布式系统框架(V2.0) 轻松承载百亿数据,千万流量!讨论专区 - 源码下载 - 官方教程

HttpHelper爬虫框架(V2.7-含.netcore) HttpHelper官方出品,爬虫框架讨论区 - 源码下载 - 在线测试和代码生成

HttpHelper爬虫类(V2.0) 开源的爬虫类,支持多种模式和属性 源码 - 代码生成器 - 讨论区 - 教程- 例子

查看: 3694|回复: 2

[HttpHelper] 多网站爬虫如何做多规则处理

[复制链接]
发表于 2019-12-21 09:46:19 | 显示全部楼层 |阅读模式
例如从百度搜索 “c#” 关键词分别得到 n 个不同的网站链接,每个网站的 标题、正文部分的代码规则都不统一,在不写各种匹配规则的情况下,如何精准的提取标题及内容
标题想到的方法是匹配 h1-h3 inntext
内容区有什么办法处理,  因一般从搜索结果出来的网站很多都是顶级域名,只有后面几页才开始出现内页







1. 开通SVIP会员,免费下载本站所有源码,不限次数据,不限时间
2. 加官方QQ群,加官方微信群获取更多资源和帮助
3. 找站长苏飞做网站、商城、CRM、小程序、App、爬虫相关、项目外包等点这里
发表于 2019-12-21 14:48:40 | 显示全部楼层
都是有规则的,需要你去发现。
发表于 2019-12-25 16:04:22 | 显示全部楼层
11111111111111111111111111
您需要登录后才可以回帖 登录 | 马上注册

本版积分规则

QQ|手机版|小黑屋|手机版|联系我们|关于我们|广告合作|苏飞论坛 ( 豫ICP备18043678号-2)

GMT+8, 2024-3-29 20:43

© 2014-2021

快速回复 返回顶部 返回列表