研究百度干SEO做推广变成一个被互联网搞的人
seo秀 网站优化 0条留言 133 次浏览 3年前 (2022-10-02) [编辑]
Robots.txt 文件必须放在网站的根目录。放在子目录的 Robots.txt 文件搜索引擎不能爬取到,所以不会起任何作用。
例子:
http://www.xxxx.com/robots.txt 有效
http://www.xxxx.com/bbs/robots.txt 无效
如果你不能控制根目录的 robots.txt,则你可以通过在子目录网页中使用标签阻止网页被收录。
设置Tag是个好习惯
◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。
评论列表