云站指南建站与运维知识库

robots.txt 检查

抓取站点根目录的 robots.txt 并逐行解析:按 User-agent 分组展示 Allow/Disallow 规则、提取 Sitemap 声明、标出语法与顺序问题,并给出面向站长的解读提示。

服务器实时查询 · 不保存输入分类:网络工具

01检查站点的 robots.txt

支持 example.com、https://example.com/path 等写法,未带协议时自动补 https://。

输入站点地址后抓取根目录的 robots.txt:解析分组规则、Sitemap 声明与常见问题。

常见问题

robots.txt 能保护敏感页面吗?

不能。robots.txt 只是给遵循约定的爬虫的抓取建议,恶意爬虫可以无视它。敏感内容必须通过登录鉴权或内网隔离保护,绝不能依赖 Disallow。

站点没有 robots.txt 要紧吗?

不要紧。没有该文件时,遵循约定的爬虫视为全站允许抓取,多数小站不需要主动创建;当你确实要控制抓取范围或声明 Sitemap 地址时再创建即可。

Disallow 的页面还会出现在搜索结果吗?

有可能。被外部链接引用的 URL 仍可能以纯地址形式出现在结果里。要彻底移除,应改用页面级 noindex(并允许抓取),或使用搜索引擎站长平台的移除工具。

相关教程

配合工具阅读

查看全部教程
部署迁移入门8 分钟

网站上线前检查清单:上线日自查 12 项

把上线日最容易忘的事整理成 12 项清单,按安全、可达、体验、兜底四组逐项打勾,别让"忘了"毁掉第一次上线。

部署上线检查HTTPS
2026年10月30日

相关工具

继续使用其他工具