网页工具 / 19
Noindex检查工具
检查robots元元素和最终的X-Robots-Tag响应头,识别noindex和nofollow信号。
Noindex检查工具: TOEA会读取robots、googlebot和bingbot元指令,以及最终的X-Robots-Tag响应头,并报告明确的noindex/nofollow标记。 按需安全处理。
- 类别
- 网络工具
- 使用次数
- 在TOEA服务器上
- 费用
- 免费·无需注册
- 可用性
- 可直接使用
指令如何组合
none表示noindex, nofollow。当多个指令同时适用时,例如通用的robots元标签、针对特定爬虫的googlebot标签以及X-Robots-Tag标头,搜索引擎会采用限制最严格的组合。对于没有HTML头部的文件,例如PDF和图片,只有标头能够设置noindex。
noindex只有在页面再次被抓取时才会生效,因此添加标签后,页面仍可能在搜索结果中保留数天或数周。
测试网站事故
开发网站或测试网站通常会使用noindex排除在搜索结果之外,但网站上线时,这个标签有时也会一起发布,悄悄地将整个网站从搜索结果中移除。每次上线或更换主题后,都应在首页和部分模板页面上运行此检查。
不要将noindex与指向其他页面的canonical结合使用:前者表示删除此页面,后者表示将其视为另一个页面的副本。请使用canonical检查工具检查canonical。
使用方法
- 输入公开页面的网址。
- 选择“检查可索引性”。
- 查看页面级和响应头级指令。
隐私与限制
页面会通过TOEA的API获取,不会存储。可索引结果并不保证搜索引擎会将该页面编入索引。
相关工具
常见问题
robots.txt中的noindex算吗?
不算。现代搜索引擎使用页面或响应头中的noindex指令;robots.txt控制抓取,并可能导致搜索引擎无法看到该指令。
可索引是否意味着已被编入索引?
不意味着。搜索引擎还会考虑许多其他质量、重复内容、canonical、抓取和政策信号。
免费工具·使用在toea服务器上次·无需账户