WebCollector网络爬虫框架
v2.x大小：16.8 MB更新：2026-10-05
类别：其他网站源码系统：JAVA
分类分类
大小：16.8 MB更新：2026-10-05
类别：其他网站源码系统：JAVA
WebCollector是一个无须配置、便于二次开发的Java爬虫框架（内核），它提供精简的的API，只需少量代码即可实现一个功能强大的爬虫。WebCollector-Hadoop是WebCollector的Hadoop版本，支持分布式爬取。
WebCollector致力于维护一个稳定、可扩的爬虫内核，便于开发者进行灵活的二次开发。内核具有很强的扩展性，用户可以在内核基础上开发自己想要的爬虫。源码中集成了Jsoup，可进行精准的网页解析。2.x版本中集成了selenium，可以处理JavaScript生成的数据。
1、自定义遍历策略，可完成更为复杂的遍历业务，例如分页、AJAX
2、可以为每个 URL 设置附加信息(MetaData)，利用附加信息可以完成很多复杂业务，例如深度获取、锚文本获取、引用页面获取、POST 参数传递、增量更新等。
3、使用插件机制，用户可定制自己的Http请求、过滤器、执行器等插件。
4、内置一套基于内存的插件（RamCrawler)，不依赖文件系统或数据库，适合一次性爬取，例如实时爬取搜索引擎。
5、内置一套基于 Berkeley DB（BreadthCrawler)的插件：适合处理长期和大量级的任务，并具有断点爬取功能，不会因为宕机、关闭导致数据丢失。
6、集成 selenium，可以对 JavaScript 生成信息进行抽取
7、可轻松自定义 http 请求，并内置多代理随机切换功能。 可通过定义 http 请求实现模拟登录。
8、使用 slf4j 作为日志门面，可对接多种日志
9、使用类似Hadoop的Configuration机制，可为每个爬虫定制配置信息。
同类推荐：站长常用源码
百度网盘绿色免安装版其它工具366.81 MBv7.37.0.5官方版2026-06-19
下载CacheCloud云管理平台其他网站源码16.7 MBv1.22026-07-06
下载OPMS管理系统其他网站源码4.79 MBv1.32026-07-06
下载AppUI响应式后台管理模板其他网站源码13.7 MBv1.02026-07-06
下载71516网址导航星座运程查询其他网站源码115 KBv1.12026-07-06
下载免插件免费在线读报其他网站源码90KB2026-07-06
下载Vuls漏洞扫描器其他网站源码1.26 MBv0.26.02026-07-06
下载CopyTranslator复制即翻译其他网站源码5.3 MBv9.1.02026-07-06
下载t-io百万级网络框架其他网站源码4.14 MBv3.7.42026-07-06
下载xhEditor编辑器其他网站源码170 KBv0.9.6 繁体中文2026-07-06
下载KindEditor 功能增强版其他网站源码101KBv3.22026-07-06
下载天猫知名商家导航其他网站源码80 KBv12026-07-06
下载Flat UI工具包其他网站源码6.93 MBv2.4.02026-07-06
下载
百度网盘绿色免安装Pc电脑版
夸克网盘官方正式版
迅雷vip破解版永久会员2024版
