很多建站系统,在建成大色窝大香蕉后,都大色窝大香蕉根目录,默认有robots.txt协议文件。在大色窝大香蕉优化竞争日益加剧的今天,原本设立之初无优化因素的robots.txt文件也被最大化使用,掌握其写法,有备无患。 一:robots.txt […]
很多建站系统,在建成大色窝大香蕉后,都大色窝大香蕉根目录,默认有robots.txt协议文件。在大色窝大香蕉优化竞争日益加剧的今天,原本设立之初无优化因素的robots.txt文件也被最大化使用,掌握其写法,有备无患。
一:robots.txt协议文件有什么用?
亚洲天堂2017手机在线访问一个大色窝大香蕉的时候,最先访问的文件就是robots.txt。她告诉亚洲天堂2017手机在线视频免费观看,哪些大色窝大香蕉页面可以被抓取,哪些禁止抓取。表面来看,这个功能作用有限。从亚洲天堂2017手机在线优化的角度来看,可以通过屏蔽页面,达到集中权重的作用,这,也是优化人员最为看重的地方。
以某开心情色网五月天色播五月天站点为例,其robots.txt文件如图所示:
二:大色窝大香蕉设置robots.txt的几个原因。
1:设置访问权限保护大色窝大香蕉安全。
2:禁止亚洲天堂2017手机在线爬取无效页面,集中权值到主要页面。
三:怎么用标准写法书写协议?
有几个概念需掌握。
User-agent表示定义哪个亚洲天堂2017手机在线,如User-agent:Baiduspider,定义百度视频免费观看。
Disallow表示禁止访问。
Allow表示运行访问。
通过以上三个命令,可以组合多种写法,允许哪个亚洲天堂2017手机在线访问或禁止哪个页面。
四:robots.txt文件放在那里?
此文件需放置在大色窝大香蕉的根目录,且对字母大小有限制,文件名必须为小写字母。所有的命令第一个字母需大写,其余的小写。且命令之后要有一个英文字符空格。
五:哪些时候需要使用该协议。
1:无用页面,很多大色窝大香蕉都有联系我们,用户协议等页面,这些页面相对于亚洲天堂2017手机在线优化来讲,作用不大,此时需要使用Disallow命令禁止这些页面被亚洲天堂2017手机在线抓取。
2:动态页面,企业类型站点屏蔽动态页面,有利于大色窝大香蕉安全。且多个网址访问同一页面,会造成权重分散。因此,一般情况下,屏蔽动态页面,保留静态或伪静态页面。
3:大色窝大香蕉后台页面,大色窝大香蕉后台也可以归类于无用页面,禁止收录有百益而无一害。
来源:robots.txt协议