介绍robots文件的知识

1.在robots里面如何把网站地图提交给搜索引擎的规则。

Sitemap:<sitemap_location>

<sitemap_location> 填写 Sitemap 的完整网址

如:http://www.hosteasecn.com/sitemap.xml

2.robots文件的正确写法

例如屏蔽和允许都有,那么要先禁止后允许,例如我允许抓取xxx目录,然后屏蔽对404页面的抓取,我们可以这样写。

Disallow: /xxx/

Allow:/404.html

 

3.百度里面对robots文件的生效周期是多长时间?

百度对Robots.txt 的抓取频率是一个周期右左。所以只有等robots文件被抓取了才能生效。

 

 

本文固定链接: http://www.hosteasecn.com/?p=146 | 网络营销_产品运营_营销策划_整合营销_运营策划学习

该日志由 admin 于2016年08月07日发表在 seo基础知识, seo知识 分类下,
原创文章转载请注明: 介绍robots文件的知识 | 网络营销_产品运营_营销策划_整合营销_运营策划学习

报歉!评论已关闭.