苏飞论坛广告位

苏飞论坛

 找回密码
 马上注册

QQ登录

只需一步,快速开始

扫一扫,访问微社区

分布式系统框架(V1.3) 轻松承载百亿数据,千万流量!讨论专区 - 源码下载 - 官方教程 - 订阅更新

HttpHelper万能框架(V2.3) HttpHelper官方出品,无敌框架讨论区 - 源码下载 - 在线测试和代码生成

HttpHelper爬虫类(V1.9) 最牛的爬虫类,没有爬不到只有想不到 源码 - 代码生成器 - 讨论区 - 教程- 例子

查看: 159|回复: 2

[咨询站长] 多线程执行一个耗时方法采集数据

[复制链接]
  • TA的每日心情
    开心
    2018-11-3 09:11
  • 签到天数: 2 天

    [LV.1]初来乍到

    发表于 2018-11-2 10:16:26 | 显示全部楼层 |阅读模式
    耗时方法:
    获取词,到网页进行数据抓取,然后处理后存进数据库

    需要使用可以控制的线程数对方法进行处理,以提升运行效率,求指点
  • TA的每日心情
    开心
    2018-7-30 09:08
  • 签到天数: 2 天

    [LV.1]初来乍到

    发表于 2018-11-2 10:31:24 | 显示全部楼层
    本帖最后由 131415 于 2018-11-2 10:33 编辑

    线程我还没用,只用了抓取。流程是:1.模拟登录获取到Cookie,再用Cookie带上网址去抓取数据
    2.抓取下来的数据循环存到girdview显示出来,顺便存入数据库。
    就是存入数据库的时候,对girdview显示数据的速度有所影响。不知道还有没有更好的方法。
  • TA的每日心情
    开心
    2018-11-3 09:11
  • 签到天数: 2 天

    [LV.1]初来乍到

     楼主| 发表于 2018-11-2 10:38:40 | 显示全部楼层
    131415 发表于 2018-11-2 10:31
    线程我还没用,只用了抓取。流程是:1.模拟登录获取到Cookie,再用Cookie带上网址去抓取数据
    2.抓取下来的 ...

    我获取的数据直接存进数据库,然后再进行显示,抓取的时候只显示抓取进度。

    您需要登录后才可以回帖 登录 | 马上注册

    本版积分规则

    QQ|手机版|小黑屋|手机版|联系我们|关于我们|广告合作|苏飞论坛 ( 豫ICP备17001017号-1 )

    GMT+8, 2018-11-14 17:41

    © 2017-2018

    快速回复 返回顶部 返回列表