如何正确识别百度蜘蛛?只需做这两点

很多SEO从业人员在刚刚接触这个行业的时候,经常会问——百度蜘蛛是什么?我们可以理解为百度蜘蛛就是用来抓取网站链接的IP,小编经常会听到百度蜘蛛来的太频繁,服务器要被抓

  很多SEO从业人员在刚刚接触这个行业的时候,经常会问——百度蜘蛛是什么?我们可以理解为百度蜘蛛就是用来抓取网站链接的IP,小编经常会听到百度蜘蛛来的太频繁,服务器要被抓爆了,如果你无法识别百度蜘蛛,你怎么知道是百度蜘蛛抓 […]

  很多SEO从业人员在刚刚接触这个行业的时候,经常会问——百度蜘蛛是什么?我们可以理解为百度蜘蛛就是用来抓取网站链接的IP,小编经常会听到百度蜘蛛来的太频繁,服务器要被抓爆了,如果你无法识别百度蜘蛛,你怎么知道是百度蜘蛛抓爆的呢?也有出现百度蜘蛛都不来了的情况,还有很多站点想得到百度蜘蛛的IP段,想把IP加入白名单,但无法识别百度IP。

  那怎么才能识别正确的百度蜘蛛呢?来来来,只需做着两点,就能正确识别百度蜘蛛

  一、查看UA,如果UA都不对,可以直接判断非百度搜索的蜘蛛,目前对外公布过的UA是:

  移动UA:Mozilla/5.0 (Linux;u;Android 4.2.2;zh-cn;) AppleWebKit/534.46 (KHTML,likeGecko) Version/5.1 Mobile Safari/10600.6.3 (compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html)

  PC UA:Mozilla/5.0 (compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html)

  新增渲染UA:

  移动UA:Mozilla/5.0 (iPhone; CPU iPhone OS 9_1 likeMac OS X) AppleWebKit/601.1.46 (KHTML, like Gecko) Version/9.0 Mobile/13B143 Safari/601.1 (compatible; Baiduspider-render/2.0; +http://www.baidu.com/search/spider.html)

  PC UA:Mozilla/5.0 (compatible; Baiduspider-render/2.0; +http://www.baidu.com/search/spider.html)

  二、反查IP

  站长可以通过DNS反查IP的方式判断某只spider是否来自百度搜索引擎。根据平台不同验证方法不同,如linux/windows/os三种平台下的验证方法分别如下:

正确识别百度蜘蛛

  (1)、在linux平台下,您可以使用host ip命令反解ip来判断是否来自Baiduspider的抓取。Baiduspider的hostname以 *.baidu.com 或 *.baidu.jp 的格式命名,非 *.baidu.com 或 *.baidu.jp 即为冒充。

  (2)、在windows平台或者IBM OS/2平台下,您可以使用nslookup ip命令反解ip来 判断是否来自Baiduspider的抓取。打开命令处理器 输入nslookup xxx.xxx.xxx.xxx(IP地 址)就能解析ip, 来判断是否来自Baiduspider的抓取,Baiduspider的hostname以*.baidu.com 或*.baidu.jp 的格式命名,非 *.baidu.com 或 *.baidu.jp 即为冒充。

  (3)、 在mac os平台下,您可以使用dig 命令反解ip来 判断是否来自Baiduspider的抓取。打开命令处理器 输入dig xxx.xxx.xxx.xxx(IP地 址)就能解析ip, 来判断是否来自Baiduspider的抓取,Baiduspider的hostname以 *.baidu.com 或*.baidu.jp 的格式命名,非 *.baidu.com 或 *.baidu.jp 即为冒充。

版权声明:原创文章,作者(大鹏),如若转载,请注明出处。如何正确识别百度蜘蛛?只需做这两点:https://www.31seo.com/10.html

(0)
打赏 支付宝扫一扫 支付宝扫一扫
大鹏的头像大鹏
上一篇 2020-07-15 17:37:38
下一篇 2020-07-09 16:38:05

相关推荐

  • 新浪微博外链,白名单与SEO有关吗?

    昨天中文,新浪微博管理员发布了一条通讯,主要是增加微博外链白名单的机制,简单理解就是并不是任何一个账号都可以发布短网址。  核心的理由官方给出的解释就是影响用户体验。  如果你仍然需要试图使用新浪微博的短网址,你需要进行相关性的申请,使得相关功能使用的过程中变

    2020-08-18
    3.1K0
  • 大学与职业技术学校,需要做seo吗?

    对于大学而言搜索引擎优化并非是其首选的工作,而对于职业技术学校来讲却是重中之中,但随着时代的发展,大学与职业学校之间同样面临着竞争问题。  特别是远程在线教育,目前很多国内大学都开始这个课程,但自身的网站几乎无SEO人员!  不过有一点欣慰的是,搜索引擎对大学

    2020-08-19
    2.2K0
  • 如何学习SEO?快速学习SEO的四个技巧

    如果你想学习SEO技术,欢迎关注星空seo(https://www.batmanit.com/),我们是一个独立的SEO博客,主要用于SEO技术分享与交流,当你和SEO人员谈论如何进入这个行业的时候,答案总是五花八门的,目前,几乎可以说并没有标准的搜索引擎优化

    2020-08-18
    2.4K0
  • 什么是SALSA算法?SALSA算法详解和在seo中的应用

    一个中级SEOer想要进阶,了解并运用搜索引擎的算法是必不可少的一个过程。今天星空seo博客就带大家了解链接分析算法“SALSA算法”的一些知识。   SALSA算法是什么意思? …

    2020-07-26
    6.4K0
  • TF-IDF算法详解,和TF-IDF对SEO优化的重要性

    从事SEO行业时间比较长的人应该听说过TF-IDF算法,TF-IDF算法属于搜索引擎中的核心部分。TF-IDF算法是增加相关词的覆盖率,以及高优布局关键词密度,从而在百度谷歌等搜索…

    2020-07-21
    3.7K0
  • SEO优化中常见的四种html标签作用

    对于SEOer来说,在HTML代码中,使用一些标签,更利于搜索引擎蜘蛛的读取,适当布局一些优化标签,可能会有意想不到的结果。下面就列举几个标签的妙用。 1.标题标签。 在网页html代

    2020-07-09
    4.0K0

发表回复

登录后才能评论