AnQiCMS支持自定义robots.txt文件,控制搜索引擎爬虫行为。

robots.txt作用

robots.txt文件告诉搜索引擎哪些页面可以抓取,哪些禁止抓取。优化搜索引擎对网站的索引。

默认配置

AnQiCMS提供默认的robots.txt配置,允许搜索引擎抓取公开内容。一般情况无需修改。

自定义配置

可在后台编辑robots.txt内容,添加Disallow规则禁止特定目录或页面的抓取。如管理后台、搜索结果页等。

Sitemap声明

建议在robots.txt中添加Sitemap地址,帮助搜索引擎发现Sitemap文件。如:Sitemap: https://www.example.com/sitemap.xml

测试验证

配置完成后,使用百度站长平台或Google Search Console的robots.txt测试工具验证配置是否正确。