crawlers
Norconex Crawlers是一个开源的网络和文件系统爬虫框架，提供全面的数据采集和处理功能。该框架支持灵活的数据存储方式，可扩展性强，跨平台兼容。它既可通过命令行配置文件运行，也能作为Java库集成到应用中。Norconex Crawlers适用于搜索引擎数据采集等多种场景，是一个功能完善的爬虫解决方案。
