来自谷歌博客消息:原来谷歌抓取移动设备的蜘蛛统称为Googlebot移动版,谷歌分析称受此项更新影响的网址不到0.001%,而此项更新可让站长更好地控制对其内容的抓取和编入索引操作。
由于功能手机和智能手机的功能存在很大差异,站长一旦屏蔽了Googlebot那么移动版的则全部屏蔽。而这次谷歌称:谷歌将针对智能手机的新型Googlebot用户代理。
这个蜘蛛大概是未来3、4周后开始工作,且不再将针对智能手机的“Googlebot-Mobile”用作用户代理。之后,针对智能手机的用户代理将直接使用“Googlebot”进行标识。这样即使屏蔽了功能手机的收录,但针对智能手机的优化不会有影响。
针对智能手机的新型Googlebot用户代理:
Mozilla/5.0 (iPhone; CPU iPhone OS 6_0 like Mac OS X) AppleWebKit/536.26 (KHTML, like Gecko) Version/6.0 Mobile/10A5376e Safari/8536.25 (compatible; Googlebot/2.1; +http://www.google.com/bot.html)
针对智能手机的Googlebot-Mobile用户代理(即将停止使用):
Mozilla/5.0 (iPhone; CPU iPhone OS 6_0 like Mac OS X) AppleWebKit/536.26 (KHTML, like Gecko) Version/6.0 Mobile/10A5376e Safari/8536.25 (compatible; Googlebot-Mobile/2.1; +http://www.google.com/bot.html)
请注意此项用户代理更新带来的以下重大影响:针对智能手机的新型Googlebot抓取工具将遵从Googlebot(而非Googlebot-Mobile)的robots.txt指令、robots元标记指令和HTTP header指令。例如,使用新型抓取工具后,以下robots.txt指令将屏蔽针对智能手机的新型Googlebot用户代理以及常规Googlebot执行的所有抓取操作:
User-agent: Googlebot
Disallow: /
以下robots.txt指令将屏蔽Google的功能手机抓取工具执行的抓取操作:
User-agent: Googlebot-Mobile
Disallow: /
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至253000106@qq.com举报,一经查实,本站将立刻删除。
发布者:卢松松,转转请注明出处:https://www.chuangxiangniao.com/p/1072714.html