SEO链接优化之robots.txt的写法。什么是robots.txt这是一个文本文件，是搜索引擎爬行网页要查看的第一个文件，你可以告诉搜索引擎哪些文件可以被查看，哪些克制。当搜索机器人接见一个站点时，它首先会检查根目录是否存在robots.txt，若是有就确定抓取局限，没有就按链接顺序抓取。
robots.txt有什么用？为何需要用robots.txt这个文件来告诉搜索机器人不要爬行我们的部门网页，好比：后台治理文件、程序剧本、附件、数据库文件、编码文件、样式表文件、模板文件、导航图片和背景图片等等。说到底了，这些页面或文件被搜索引擎收录了，用户也看不了，多数需要口令才气进入或是数据文件。既然这样，又让搜索机器人爬行的话，就浪费了服务器资源，增添了服务器的压力，因此我们可以用robots.txt告诉机器人集中注意力去收录我们的文章页面。增强用户体验。
1、用robots屏障网站重复页
许多网站一个内容提供多种浏览版本，虽然很利便用户却对蜘蛛造成了难题，由于它分不清谁人是主，谁人是次，一旦让它以为你在恶意重复，你就惨了
User-agent：
Disallow： /sitemap/ 《克制蜘蛛抓取 文本网页》
2、用robots珍爱网站平安
许多人纳闷了，robots怎么还和网站平安有关系了实在关系还很大，不少低级黑客就是通过搜索默认后台上岸，以到达入侵网站的目的
User-agent：
Disallow： /admin/ 《克制蜘蛛抓取admin目录下所有文件》
3、防止盗链
一样平常盗链也就几个人，可是一旦被搜索引擎ldquo;盗链rdquo;那家伙你100M宽带也吃不消，若是你做的不是图片网站，又不想被搜索引擎ldquo;盗链rdquo;你的网站图片
User-agent：
Disallow： .jpg
4、提交网站舆图
现在做优化的都知道做网站舆图了，可是却没几个会提交的，绝大多数人是爽性在网页上加个链接，实在robots是支持这个功效的
Sitemap： http:-www--com/sitemaps/sitemapsml
5、克制某二级域名的抓取
一些网站会对VIP会员提供一些特殊服务，却又不想这个服务被搜索引擎检索到
User-agent：
Disallow： /
以上五招robots足以让你对搜索引擎蜘蛛掌控能力提升不少，就像百度说的：我们和搜索引擎应该是同伙，增添一些相同，才气消除一些隔膜。
robots.txt基本语法：
1、robots.txt的几个要害语法：
a、User-agent: 应用下文规则的周游器，好比Googlebot,Baiduspider等。p分页题目e
b、Disallow: 要阻挡的网址,不允许机器人接见。
c、Allow: 允许接见的网址
d、rdquo;rdquo; : 通配符mdash;匹配0或多个随便字符。
e、rdquo;rdquo; : 匹配行结束符。
f、rdquo;rdquo; : 注释mdash;说明性的文字,不写也可。
g、Googlebot: 谷歌搜索机器人(也叫搜索蜘蛛)。
h、Baiduspider: 百度搜索机器人(也叫搜索蜘蛛)。
i、目录、网址的写法:都以以正斜线 (/) 开头。
如
Disallow:/
Disallow:/images/
Disallow:/admin/
Disallow:/css/
2、枚举一些robots.txt 详细用法：
(1)允许所有的robot接见
User-agent:
Disallow:
或者
User-agent:
Allow: /
或者建一个空文件rdquo;robots.txtrdquo;即可。
(2)仅克制某个机器人接见您的网站，如Baiduspider。
User-agent: Baiduspider
Disallow: /
3、仅允许某个机器人接见您的网站，如Baiduspider。
User-agent: Baiduspider
Disallow:
User-agent:
Disallow: /
4、克制接见特定目录
User-agent:
Disallow: /admin/
Disallow: /css/
Disallow:
要阻挡对所有包罗问号 () 的网址的接见(详细地说，这种网址以您的域名开头、后接随便字符串，然后接问号，而后又接随便字符串)，请使用以下内容：
User-agent: Googlebot
Disallow: /
要指定与某个网址的末端字符相匹配，请使用 。例如，要阻挡以 ls 末端的所有网址，请使用以下内容： User-agent: Googlebot
Disallow: /ls
您可将此模式匹配与 Allow 指令配合使用。例如，若是 代表一个会话 ID，那么您可能希望清扫包罗 的所有网址，以确保 Googlebot 不会抓取重复网页。然则以 末端的网址可能是您希望包罗在内的网页的版本。在此情况下，您可以对您的 robots.txt 文件举行如下设置：
User-agent:
Allow: /
Disallow: /
Disallow: / 指令会阻止包罗 的所有网址(详细地说，它将阻挡所有以您的域名开头、后接随便字符串，然后接问号，而后又接随便字符串的网址)。
Allow: / 指令将允许以 末端的任何网址(详细地说，它将允许所有以您的域名开头、后接随便字符串，然后接 ， 之后不接任何字符的网址)。
以上先容多数都是Google的http:-www-google-com/support/we hellip; cnamp;answer40360，百度的大同小异详细可以看http:-www-baidu-com/search/robots.html
一样平常网站查看robots.txt文件的方式是主页后面加robots.txt就可以，好比淘宝网的就是http:-www-taobao-com/robots.txt请注意，仅当您的网站包罗不希望被搜索引擎收录的内容时，才需要使用robots.txt文件。若是您希望搜索引擎收录网站上所有内容，请勿确立robots.txt文件。p分页题目e
网站Robots.txt协议，你懂若干
网站Robots.txt文件，是网站与搜索引擎交流的通用协议，通过Robots协议的设置告诉搜索引擎哪些页面可以抓取，哪些页面不能抓取：一方面可以做网站平安的防护，更主要的是用来做优化，削减无效页面的收录，提升站点的排名效果。..
..
然则在现实的操作中，绝大多数的网站，在其撰写上都存在或多或少的欠缺，甚至由于技术性的错误撰写，还会导致网站降权、不收录、被K等一系列问题的泛起。对于这一点，A5营销，包罗我，在对客户的SEO诊断过程中，会经常遇到，可以算是许多站点的通病。今天写出这篇文章，就是来做一个分享：关于robots.txt协议，你写对了吗
一：设置成Allow全站点抓取
百度收录的越多，网站的排名越高这是绝大多数站长的以为，事实上也是云云。然则也并非绝对建立：低质量的页面收录，会降低网站的排名效果，这一点你考虑到了吗
若是你的网站结构不是异常的清晰，以及不存在多余的ldquo;功效rdquo;页面，不建议对网站开全站点的抓取，事实上，在A5的SEO诊断中，只遇到极少数的一部门网站，可以真正的做到全站点都允许抓取，而不做屏障。随着功效的厚实，要做到允许全站点抓取，也不太可能。
二：什么样的页面不建议抓取
对于网站功效上有用的目录，有用的页面，在用户体验上可以获得更好的提升。然则搜索引擎方面来讲，就会造成：服务器肩负，好比：大量的翻页谈论，对优化上则没有任何的价值。
除此外还包罗如：网站做了伪静态处置后，那么就要将动态链接屏障掉，制止搜索引擎抓取。用户登录目录、注册目录、无用的软件下载目录，若是是静态类型的站点，还要屏障掉动态类型的链接Disallow: / 为什么呢我们举个例子来看：
上面是某客户网站发现的问题，被百度收录的原因是：有人恶意提交此类型的链接，然则网站自己又没有做好防护。
三：撰写上的细节注意事项
方式上来讲，绝大多数的站长都明了，这里就不做多说了，不明了的站长，可以上百度百科看一下。今天这里说一些不常见的，可能是不少站长的疑问。
1、举例：Disallow; /a 与Disallow: /a/的区别，许多站长都见过这样的问题，为什么有的协议后加斜杠，有的不加斜杠呢笔者今天要说的是：若是不加斜杠，屏障的是以a字母开头的所有目录和页面，而后者代表的是屏障当前目录的所有页面和子目录的抓取。
通常来讲，我们往往选择后者更多一些，由于界说局限越大，容易造成ldquo;误杀rdquo;。p分页题目e
2、JS文件、CSS需要屏障吗不少网站都做了这个屏障，然则笔者要说的是：google站长工具明确的说明：封禁css与js挪用，可能会影响页面质量的判断，从而影响排名。而对此，我们做了一些领会，百度方面同样会有一定影响。
3、已经删除的目录屏障，许多站长往往删除一些目录后，怕泛起404问题，而举行了屏障，克制搜索引擎再抓取这样的链接。事实上，这样做真的好吗纵然你屏障掉了，若是之前的目录存在问题，那么没有被蜘蛛从库中剔除，同样会影响到网站。
建议最佳的方式是：将对应的主要错误页面整理出来，做死链接提交，以及自界说404页面的处置，彻底的解决问题，而不是逃避问题。
(责任编辑：网络)
评论列表