很多博客收录不上去,往往是 robots.txt 和 sitemap 配置不对。这两个文件直接告诉搜索引擎"哪些能抓、哪些不能抓、内容在哪"。下面按正确姿势给你配一遍。
1. robots.txt:声明规则
robots.txt 放在网站根目录,作用是屏蔽后台等不想被收录的目录,并声明 sitemap 位置:
User-agent: *
Disallow: /zb_system/
Disallow: /zb_users/
Sitemap: https://你的域名/sitemaps.xml
别把整站 Disallow 了,那是自杀式配置。
2. sitemap:给搜索引擎指路
sitemap 列出站内所有 URL 和更新时间,帮助蜘蛛更快发现和抓取新内容。建议:
- 按文章、页面、分类分开生成多个 sitemap
- 统一用主域名(www 与非 www 选一个,另一个 301 跳转,避免重复内容)
- 内容更新后及时重建 sitemap
3. 域名统一(关键)
如果 www 和非 www 都能访问且都返回 200,就是重复内容,严重拖累收录。必须二选一,另一个做 301 永久跳转。
4. 提交给搜索引擎
在百度搜索资源平台、Google Search Console 里提交 sitemap 地址,收录会明显加速。之后保持稳定更新,质量上去了权重自然来。
本站的 sitemap 每天凌晨自动重建,保证新文章第一时间被搜索引擎发现。




还没有评论,来说两句吧...