整理百度蜘蛛机器人的爬行规律
在这里整理一条据说是百度蜘蛛机器人的爬行的一般规律,作为以后参考之用,更新文章也许需要参考百度蜘蛛规律,不然盲目操作就会毫无成效。
一、爆发式爬行
不知百度蜘蛛是不是喜欢高效率的爬行,有时百度蜘蛛能在一两分钟内爬行几百次。比如我的站,每天基本上百度蜘蛛都会爆发式爬行几次,早上6点钟有一次大约爬行300次;上午9点钟的时候有一次也是爬行300多次;13点的时候也有一次,不过要少一点,只有200多次;18点的时候也有一次,大约会爬行400多次,23点的时候也有一次,大约只有250次。有时候,我查看详细爬行记录时,这些爆发式爬行基本上不会超过五分钟。有一次,我的站不知是哪个会事,百度蜘蛛在两分钟内爬行了1800多次,我当时就有点纳闷,百度蜘蛛机器人的运算速度可真是惊人。不过我现在基本上知是哪个会事了,因为蜘蛛机器人,它爬行一段时间过后,蜘蛛机器人在去运算程序,看是否是原来收录过的,是否是原创什么的,是否应该收录等等。
二、稳定式爬行
稳定式爬行,指的是每天24小时,每一个小时的爬行量相差不大。稳定式爬行往往是对新站才会出现,对于百度认为你站是成熟期的,如果出现了这种爬行方式,你可一定要小心了,这种爬行方式,你的站多半会被降权。第二天就能看出来,首页的快照日期,一定不会给你更新的。比如我的站,每一个小时内的爬行量,从图表中看出来都相差无几。所以这个站的首页基本上不会出现24小时快照。每天我更新的内容一样会收录一些。就好比一个人做任何事式的,没有了激情,也就没有了爆发力,当然不会卖力干事的,不卖力干事,你说效果会有多好。
以上说了这么多,大家可能有疑问了,百度蜘蛛来没有,我怎么知道,这个很简单你可以去查看服务器的记录日志。你如果查看不了记录日志的话,看一下网站后台有没有记录蜘蛛爬行记录的。给大家推荐一款源码露珠CMS,这个建站源码后台能比较清晰的记录各大搜索机器人的痕迹,有各个机器人来访的时间,来访的页面,对来访的详细数据作了分析,进行24小时时间段分析,对各个频道的分析,对你所加的内容的版块进行分析。对各大搜索机器人喜欢你网站的哪个频道,哪个版块都进行了分析,同时也给你提出了补救其它频道和版块的建议,哪个时间加内容收录最快等等。
三、 确认式爬行
确认式爬行方式百度也是在9月底才开始试行,那么什么是确认式爬行呢,就是指你网站更新一个内容过后,百度第一次爬行过后,一定不会给你放出收录来,百度蜘蛛还要进行第二次爬行在运算、比较计算的,如果认为你这个更新内容有必要收录,百度蜘蛛会进行第三次爬行,正常情况下百度蜘蛛不会进行第四次爬行。第三次确认过后,百度蜘蛛就会慢慢的给你放出收录。
这种确认式爬行方式,就有点类似与谷歌的爬行方式。百度蜘蛛机器人爬行首页的方式还是同原来一样,一天不知要爬行多少次首页,其它页面,如果百度认为有必要进行计算的话,就会进行第二次确认爬行。比如我的站吧,我每天更新的内容,只要是百度蜘蛛机器人爬行了三次的,基本上都会放出收录来。爬行两次了的,都不会放出来。爬行四次的基本上没有看到过。
只有我们自己认真的比对分析,才能总结出更加完美的更新网站的方式,只有我们掌握了百度蜘蛛的一些规律。 综上所述,百度蜘蛛对每一个网站的爬行规律是不一样的,我们更新内容才能有的放矢。
转截请注明:文章来自 pc捍卫者 http://www.pchwz.com
本站发布此文为传递更多信息之目的,不表明pc捍卫者赞同其观点