ai.robots.txt
ai.robots.txt是一个开源项目,提供AI公司和大语言模型训练相关的网络爬虫屏蔽列表。项目鼓励用户贡献并实施,包含爬虫详情、FAQ、更新订阅和滥用报告渠道。此外还提供Nginx和Apache等屏蔽教程,帮助网站管理员有效保护内容。