很多建站系统，在建成性感美女后，都性感美女根目录，默认有robots.txt协议文件。在性感美女优化竞争日益加剧的今天，原本设立之初无优化因素的robots.txt文件也被最大化使用，掌握其写法，有备无患。 一：robots.txt […]

很多建站系统，在建成性感美女后，都性感美女根目录，默认有robots.txt协议文件。在性感美女优化竞争日益加剧的今天，原本设立之初无优化因素的robots.txt文件也被最大化使用，掌握其写法，有备无患。

一：robots.txt协议文件有什么用？

美女写真访问一个性感美女的时候，最先访问的文件就是robots.txt。她告诉美女写真美女，哪些性感美女页面可以被抓取，哪些禁止抓取。表面来看，这个功能作用有限。从美女写真优化的角度来看，可以通过屏蔽页面，达到集中权重的作用，这，也是优化人员最为看重的地方。

以某搜狗图片站点为例，其robots.txt文件如图所示：

二：性感美女设置robots.txt的几个原因。

1：设置访问权限保护性感美女安全。

2：禁止美女写真爬取无效页面，集中权值到主要页面。

三：怎么用标准写法书写协议？

有几个概念需掌握。

User-agent表示定义哪个美女写真，如User-agent：Baiduspider，定义百度美女。

Disallow表示禁止访问。

Allow表示运行访问。

通过以上三个命令，可以组合多种写法，允许哪个美女写真访问或禁止哪个页面。

四：robots.txt文件放在那里？

此文件需放置在性感美女的根目录，且对字母大小有限制，文件名必须为小写字母。所有的命令第一个字母需大写，其余的小写。且命令之后要有一个英文字符空格。

五：哪些时候需要使用该协议。

1：无用页面，很多性感美女都有联系我们，用户协议等页面，这些页面相对于美女写真优化来讲，作用不大，此时需要使用Disallow命令禁止这些页面被美女写真抓取。

2：动态页面，企业类型站点屏蔽动态页面，有利于性感美女安全。且多个网址访问同一页面，会造成权重分散。因此，一般情况下，屏蔽动态页面，保留静态或伪静态页面。

3：性感美女后台页面，性感美女后台也可以归类于无用页面，禁止收录有百益而无一害。

来源：robots.txt协议