介绍robots文件的知识
1.在robots里面如何把网站地图提交给搜索引擎的规则。
Sitemap:<sitemap_location>
<sitemap_location> 填写 Sitemap 的完整网址
如:http://www.hosteasecn.com/sitemap.xml
2.robots文件的正确写法
例如屏蔽和允许都有,那么要先禁止后允许,例如我允许抓取xxx目录,然后屏蔽对404页面的抓取,我们可以这样写。
Disallow: /xxx/
Allow:/404.html
3.百度里面对robots文件的生效周期是多长时间?
百度对Robots.txt 的抓取频率是一个周期右左。所以只有等robots文件被抓取了才能生效。
本文固定链接: http://www.hosteasecn.com/?p=146 | 网络营销_产品运营_营销策划_整合营销_运营策划学习
最活跃的读者