当前位置:首页 >> 新闻内容
论robots协议使用方法和重要性
来源:本站 | 作者:Shop7z编辑部 | 发布时间:2015/10/4 

    

  很多站长最头疼的一个问题就是,搜索引擎蜘蛛为什么不光顾自己的网站,或者光顾频率比较低。这样对网站收录的影响是比较大的,直接影响到网站的排名。

  先谈一下搜索引擎蜘蛛的工作原理吧,蜘蛛又称网络爬虫、网页蜘蛛、网络机器人,更生动的叫网页追逐者。一种按照一定的规则,自动地抓取万维网信息的程序或者脚本。另外一些不常使用的名字还有蚂蚁、自动索引、模拟程序或者蠕虫。   

  网络爬虫

  你知道万维网中有多少蜘蛛吗?下面介绍一下全球知名的蜘蛛,NO1:谷歌蜘蛛:google 谷歌蜘蛛最新名称为“compatible; Googlebot/2.1;” “Googlebot-Mobile”,看名字是抓取wap内容的:,全球最大的搜索引擎公司。NO2:百度蜘蛛:Baiduspider 常见百度旗下同类型蜘蛛还有下面这些Baiduspider-mobile(wap引擎)、Baiduspider-image(搜图引擎 )、Baiduspider-video(视频引擎)Baiduspider-news(新闻引擎),中文搜索引擎最强的公司。NO3:360蜘蛛:360Spider。NO4:SOSO蜘蛛,NO4:Sosospider 雅虎蜘蛛,NO:5“Yahoo! Slurp China”或者Yahoo!NO6: 有道蜘蛛:YoudaoBot,YodaoBot,NO7: 搜狗蜘蛛:Sogou News Spider,这些是全球最出名的蜘蛛,其实还有好多我就不一一列举了。

  蜘蛛特点就是通过结网来捕获猎物,所以我们的网站就跟猎物一样等蜘蛛来捕获,如果网站内容新颖独特,更新内容频率高蜘蛛就会经常光顾你的网站。但是也不能让蜘蛛随便抓取,比如后台地址,所以就有了robots这个协议,这个很重要如果robots.txt协议写的好可以事半功倍。下面介绍一下robots.txt协议怎么写可以迎合蜘蛛的口味:

  User-agent: *

  开头字母必须是大写的,后面加英文形式下的冒号,然后后面是空格。

  *表示通配符号。这里指通配所有的搜索引擎。

  Disallow: / 表示禁止搜索引擎爬取所有页面,/表示目录。

  Disallow: 表示不禁止

  Disallow: /admin/禁止爬取admin后台目录。

  Disallow: /admin 禁止抓取包含admin的路径 后面不带/表示只要路径中包含admin蜘蛛就不会抓取。

  Allow: 表示允许

  Allow: /admin/s3.html 允许抓取admin目录下的s3.html 这个文件。

  Disallow: /.css$ 表示以.css结尾的文件都不允许抓取,带上$表示特定的文件。

  3.robots.txt协议写法注意点

  注意:

  所有的语法必须空格/开头,所有正规的搜索引擎在抓取网站URL的时候会第一时间抓取robots.txt,如果没有robots.txt文件,蜘蛛会默认网站允许抓取所有信息。

  网站地图放在robots.txt文件里。

  所以把网站地图放在robots.txt文件夹里可以让蜘蛛更快速的抓取网站路径。 把做好的XML地图写在robots.txt文件里上传根目录就好。

  总结:robots协议对伪静态的网站很重要,如果没有robots协议搜索引擎就会重复收录对网站权重排名有影响。robots协议最后必须加入网站地图,这样才会更好的引导蜘蛛抓取你的网站。

 Shop7z网上购物系统
 最新资讯
Shop7z终极版:全站百分百采用纯html5/CSS/CSS3代码开发,代码集简洁与大气于一身,系统集合了Shop7z其他各版本优势于一体,高端大气,适合各行业开店。
Shop7z至尊版:集众家之所长,大气超美观页面于一体,采用宽屏版面设计开发,美观大气、动感时尚!宽屏版购物系统适合各行各业的网上开店需求
Shop7z多用户版:集"网上商城+用户开店"的完美模式!支持商家加盟,强大的店铺功能,独立的商家后台及结算,欢迎亲们测试!
Shop7z旗舰版:Shop7z旗舰版功能强大性能稳定,均支持商品组合套餐+限时抢购秒杀+不同规格不同价格+淘定数据包导入等功能!
 热点咨询
 推荐文章
 联系方式
工作时间: 早上9:00 - 21:00 (全年无休)
在线客服:275084681 81447933 
联系电话:0311-85315152 13102887321
电子邮件:Shop7z@126.com
工作期间推荐QQ联系,第一时间回复信息。
 首 页 | 购物系统 | 查看如何购买?如何建立网站? | 成功案例 | 常见问题/支持 | 网站合作 | 空间、域名 | 版权声明 | 新闻中心 | 关于我们
Shop7z网上购物系统在线客服:    275084681 客服QQ二:  81447933     客服电话:13102887321 0311-85315152
软件著作权证书登记号:2014SR001852 软著登字第0671096号     软件著作权证书登记号:2018SR956050 软著登字第3285145号
服务电话:0311-85315152    手机:131 0288 7321 (节假日不休)
地址:河北省石家庄市中山东路乐汇城A座A-1501#  邮政编码:050051
E-mail:Shop7z@126.com  275084681@qq.com (推荐邮箱)
CopyRight Shop7z.com版权所有 2004-2024 All Rights Reserved.冀ICP备19029961号-4
微信:
友情链接:
5vShop电商系统Shop7z购物系统网趣网上购物系统Asp微信支付中国站长站 源码素材网Admin5源码Asp300源码