网络神采中文版是一款十分优秀的采集软件,网络神采中文版体积不大,但是功能非常的好用,可以快速采集、下载网页数据。并且网络神采中文版支持智能采集、可视化采集,支持二次开发、分布式部署。
1、采集强度
支持JS解析、POST分页、登录采集、跨层采集。对于疑难采集页面,有成熟的解决方案。
2、速度快
支持多任务同时运行,每个任务又可以设置多线程,确保运行效率。
3、规模化
支持任务多级分类、批量管理。支持云服务器分布式部署,管理员团队协合。
4、流程化
支持定时采集,任务定时自动启动。通过二次开发,实现流程化的信息采集、信息处理。
5、运行稳定
系统运行稳定,要求“0 bug”。目标网页改版后,自动通知管理员。
6、准确性
定制好任务后,采集准确率可达100%,即一条不漏。
新闻采集是最常用的,也是最容易理解的,我们就拿一个简单的新闻采集任务作为入门示例。该任务有两层:“新闻列表”和“新闻内容”。我们将新闻列表作为“起始地址”,然后通过“导航规则”从“新闻列表”提取“新闻内容”的网址,最后根据“采集规则”采集所需内容。
1、创建任务
在网络神采软件主窗口,单击菜单“任务”->“新建”,打开“任务编辑”对话框来创建一个任务。下面通过图文混合,一步步讨论如何填写设置:
第一步:任务概述
在“任务概述”中,我们只填写一个任务名称即可:郑州大学新闻信息。其它设置暂且不讨论,等您熟练以后再参考我们的帮助文档。
第二步:起始地址
起始地址就是我们要采集内容的入口地址,在这里是“新闻列表”:http://www3.zzu.edu.cn/msgs/vmsgisapi.dll/vmsglist?mtype=x&lan=202&tts=&tops=&pn={1,100}。其中,“pn”是分页变量名,这个可以通过在浏览时“新闻列表”时对其进行翻页并观察得出。如果“pn=1”就表示第1页,“pn=2”表示第2页,以此类推。我们为“pn”指定一个变量值:{1,100},就表示将要采集1到100页。这种分页变量格式是我们软件定义的,可以通过点击“插入”按钮插入预置分页变量。
第三步:导航规则
因为该任务有两层,所以需要建两条“导航规则”,分别命名为:“新闻列表”和“新闻内容”。我们需要从“新闻列表”提取“新闻内容”的网址,以实现导航。因此,设“新闻列表”为“中间层”,并填写“下一层网址模板”以提取网址。而“新闻内容”只需选中“最终页面”,然后保存即可。
那如何确定“新闻列表”的“下一层网址模板”呢?请看下图。
通过查看“新闻列表”的源文件,我们可以找出“新闻内容”的网址,即黄色部分所示。我们把网址中的变量部分替换成“*”(通配符),便是“下一层网址模板”,即:http://www16.zzu.edu.cn/msgs/vmsgisapi.dll/onemsg?msgid=* 。这样,我们在提取时就有了一个依据:只提取匹配模板的网址,而跳过其它网址。
“导航规则”最终设置如下:
第四步:采集规则
通过“导航规则”我们一路走到了“最终页面”,也就是“新闻内容”,接下来就需要根据“采集规则”采集所需内容了。如上图所示,一条“采集规则”对应一个数据库字段,也就是一种信息类型,如:标题、发布者、供稿人、内容等。“数据库字段”可以不填,默认为其规则名称。而“所属层次”为跨层采集功能,本示例用不到,保持默认即可。
下面就是最重要的:“信息前标志”和“信息后标志”,软件通过在源文件中查找“前后标志”来定位要采集的信息。那么如何取得信息的前后标志呢?请看下图。
如图所示,“红色部分”表示信息的前标志,而“黄色部分”为后标志,被夹在中间的“蓝色部分”就是我们需要采集的内容。依次为:“标题”、“发布者”、“供稿人”、“发布日期”、“阅读次数”、“内容”。
“采集规则”最终设置如下:
注意:
1、如果使用“前后标志”采集信息,必须与“网页源文件”中出现的顺序一致。
2、一条“采集规则”应用后,会将“采集内容”的尾部作为“当前位置”,然后从“当前位置”查找下一条“采集规则”的“信息前标志”。
3、如果选中了“全局规则”、“静态规则”,则再不受“当前位置”影响。
第五步:采集结果
如图所示,我们不在这里做任何设置,采集后直接将结果导出即可。
同类推荐
2022-07-05
立即下载2022-07-12
立即下载2022-07-05
立即下载2022-06-28
立即下载2022-07-02
立即下载2022-07-05
立即下载相关文章
八爪鱼采集器新手采集教程
2022-11-26八爪鱼采集器自定义模块使用教程
2022-11-26火车头采集器如何采集图片?火车头采集器采集图片的技巧
2022-11-12Blender怎么调节视野显示范围?
2022-12-18金山游侠修改仙剑1的方法
2022-12-11火绒安全怎么全盘查杀?火绒安全软件全盘查杀的技巧
2021-10-30FileZilla Server添加用户链接不上去的解决方法
2022-11-26新三国争霸兑换码2021_新三国争霸最新兑换码
2022-12-04将图片添加到Microsoft Excel 工作表单元格中的技巧
2022-06-08云顶之弈S5.5英雄羁绊有什么改动?英雄羁绊改动介绍
2022-12-11