經典案例
  • 江西省日威服裝有限公司
  • 北京后羿射日酒業
  • 天浪網絡
  • 贛州芒果小公館
  • 贛州中信旅游網
  • 江西益康紙塑工貿有限公司
  • 贛州天合移門
  • 贛州元吉裝飾工程有限公司
  • 贛州市登峰農業開發有限公司

各種搜索引擎蜘蛛名稱

發布于:2014-10-09 22:50來源:贛州網站優化專欄 作者:tinaweb 點擊:
分享到:

下面列出來的是比較出名的搜索引擎蜘蛛名稱:
Google的蜘蛛: Googlebot
百度的蜘蛛:baiduspider
Yahoo的蜘蛛:Yahoo Slurp
MSN的蜘蛛:Msnbot
Altavista的蜘蛛:Scooter
Lycos的蜘蛛: Lycos_Spider_(T-Rex) 
Alltheweb的蜘蛛: FAST-WebCrawler/ 
INKTOMI的蜘蛛: Slurp
SOGOU的蜘蛛:Sogou web spider/4.0和Sogou inst spider/4.0

按照以上的說明,我們可以給大案一個示例,以Sogou的來說,禁止抓取的robots.txt代碼寫法如下:
User-agent: Sogou web spider/4.0
Disallow: /goods.php 
Disallow: /category.php

tag標簽:
------分隔線----------------------------
------分隔線----------------------------
好玩的免费棋牌游戏
云南11选5走势图基本开奖 什么软件回帖可以赚钱 天津11选5号码组合表 眼镜直通车超市赚钱吗 青海十一选五遗漏 江阴山观电脑赚钱 boll股票技巧分析 九乐棋牌安卓版下载神兽 时彩赚钱么 世界杯比分情况 东莞小姐上门服务价格 微信小说推广赚钱软件哪个好 516游戏中心李逵劈鱼 微信新流行赚钱功能 幸运农场开奖 天下3游戏可以赚钱