发布于 2015-08-12 00:47:55 | 185 次阅读 | 评论: 0 | 来源: 网友投递
Pholcus Go 爬虫软件
Pholcus(幽灵蛛)是一款纯Go语言编写的高并发、分布式、重量级爬虫软件,支持单机、服务端、客户端三种运行模式,拥有Web、GUI、命令行三种操作界面;规则简单灵活、批量任务并发、输出方式丰富(mysql/mongodb/csv/excel等)、有大量Demo共享;同时她还支持横纵向两种抓取模式,支持模拟登录和任务暂停、取消等一系列高级功能。
Pholcus 0.6.0 发布,更新内容如下:
新增web操作界面(已支持web/gui/command三种界面);
支持运行模式热切换。
下载器支持固定UserAgent,自动保存cookie模式;
下载器支持随机大量常用UserAgent,禁用cookie模式;
下载器添加url自动转码功能;
优化app等模块,接口对接更加灵活简单。
更多内容请查看软件主页。
Pholcus(幽灵蛛)是一款纯Go语言编写的重量级爬虫软件,清新的GUI界面,优雅的爬虫规则、可控的高并发、任意的批量任务、多种输出方式、大量Demo,支持横纵向两种抓取模式,支持模拟登录和任务取消等,并且考虑了支持分布式布局。