采集场景
进入全国公共资源交易平台首页,(https://deal.ggzy.gov.cn/ds/deal/dealList.jsp),按照关键词进行采集列表数据。同时,用触发器采集当天最新招标数据
采集步骤
步骤一:打开网页关键词进行搜索采集
步骤二:配置【循环列表】提取数据
步骤三:修改字段
步骤四:用触发器采集当天最新招标数据
步骤五:启动采集
以下为具体步骤:
步骤一、打开网页关键词进行搜索采集
1、在首页中输入目标网址,示例为:https://deal.ggzy.gov.cn/ds/deal/dealList.jsp
2、点击【开始采集】,八爪鱼自动打开网页进入配置界面。点击页面上的搜索输入框,配置输入文本步骤,如:采购、工程。可根据实际需要修改输入的文本进行搜索
特别说明:
a. 手动输入的url数量不得大于1万个,如有超过1万url,请选择【从文件导入】,具体请查看教程 网址输入升级
b. 打开网页后,如果开始开始【自动识别】,请点击【不再自动识别】或【取消识别】将其关掉。因为本文不适合使用【自动识别】。
c. 【自动识别】适用于自动识别网页上的列表、滚动和翻页,识别成功后直接启动采集即可获取数据。详情点击查看 【自动识别】教程
d. 本文使用【关键词搜索】,如需输入多个关键词进行采集,详细教程学习【文本循环:批量输入关键词】
步骤二:配置【循环列表】提取数据
1、创建【循环列表】
通过以下连续3步,采集所有循环列表
① 选中页面上1个列表的一个元素,选择【选中全部相似子元素】,
② 选择【选中全部相似组】
③ 在黄色操作提示框中,点击【元素中数据内容】
2、创建【循环翻页】
① 如果只是采集一页数据,可跳过此步骤。
② 如果需要翻页以采集多页数据:选中网页上的 【下一页】 按钮,然后在操作提示框中,点击【循环点击下一页】,创建循环翻页以采集更多页的数据
特别说明:
a. 经过以上连续4步,【循环-提取数据】创建完成。【循环】中的项,对应着页面上所有视频列表,【提取数据】中的字段,对应着每个视频列表中的字段。启动采集以后,八爪鱼就会按照循环中的顺序依次提取每个列表中的字段。
b. 为何通过以上4步,可建立【循环-提取数据】?详情点击查看 列表数据采集教程 。
c. 创建【循环翻页】后,八爪鱼会自动点击翻页按钮进行翻页,从第1页,第2页......直到最后1页。如果只需采集特定页的数据,可在八爪鱼中设置循环翻页的次数,详情点击查看 翻页以采集多页数据教程 。
步骤三:修改字段
1、在【当前页面数据预览】页面,可删除多余字段,修改字段名,移动字段顺序等。
步骤四、用触发器采集当天最新招标数据
1、每一个「提取数据」步骤,都可设置触发器。
2、点击【提取数据】步骤,在下方设置页面,点击[基础设置]点击「新增触发器」,可进入到触发器编辑界面,设置触发器名称和条件
a、字段如图位置,将展示本「提取数据」步骤中的所有字段,可选择要设置条件的字段,设置条件,这里演示设置设置【发布时间 早于 采集当天0点,执行操作结束采集-结束循环翻页】
特别注意:
触发器主要功能是可以对采集的数据进行一定的筛选,满足设定的条件时就采集,不满足条件时就丢弃本条数据。
比如,只想采集日期为今天的数据或者文章,或者只想采集价格大于100的商品,或者销量大于1000的商品等等,这些都可以用触发器的功能去实现,非常实用又强大的一个功能。
触发器是通过对【提取数据】步骤中的字段,设置“某字段 → 满足/不满足某条件 → 就执行某操作(丢弃该条数据/结束循环/结束本次采集)”,以限制采集范围,提高采集效率。
具体使用方法请参考教程:触发器
步骤五:启动采集
1、单击【采集】并选择【本地采集】的【普通模式】启动采集。启动后八爪鱼开始自动采集数据。
特别说明:
a. 【本地采集】是使用自己的电脑进行采集,【云采集】是使用八爪鱼提供的云服务器采集,点击查看 本地采集与云采集详解。
2、采集完成后,选择合适的导出方式导出数据。支持导出为Excel、CSV、HTML、数据库等。这里导出为Excel。数据示例:
作者:Mona
编辑:Mona