爱站SEO工具之robots信息检测

本工具可以检测指定域名的robots.txt文件配置信息,可以方便快速检测robots文件每一行的含义,检测配置是否正确。

使用步骤:将需要检测robots的地址输入检测框内,点击“查询”开始检测,系统会自动检测并将检测结果显示在robots检测结果框内。

Robots.txt是存放在站点根目录下的一个纯文本文件。robots文件作用很强大,配置却很简单。它可以指定搜索引擎蜘蛛只抓取指定的内容,或禁止搜索引擎蜘蛛抓取 网站 的部分或全部内容。

内容版权声明:除非注明,否则皆为本站原创文章。

转载注明出处:https://www.heiqu.com/6902835eab9195b2b5f268318b19a1c3.html