深入剖析搜索引擎蜘蛛工作对SEO的提升

搜索引擎蜘蛛是搜索引擎自身的一个程序，它的作用是对网站的网页进行访问，抓取网页的文字、图片等信息，建立一个数据库，反馈给搜索引擎，当用户搜索的时候，搜索引擎会把收集到的信息过滤，通过复杂的排序算法将它认为对用户很有用的信息呈现出来。深入分析网站的SEO表现的时候，一般我们会考虑搜索引擎蜘蛛的抓取质量，而其中能够帮我们优化网站可能会涉及到下面的几个蜘蛛抓取相关的概念：

1.爬取率：既定时间内网站被蜘蛛获取的页面数量。

2.爬取频率：搜索引擎多久对网站或单个网页发起一次新的爬行。

3.爬取深度：一个蜘蛛从开始位置可以点击到多深。

4.爬取饱和度：页面被获取的数量。

5.爬取优先：那些页面很常作为蜘蛛的入口。

6.爬取冗余度：网站一般被多少蜘蛛同时爬取。

7.爬取mapping：蜘蛛爬取路径还原。

这几个概念也是我们可以用来做数据分析的几个方面，那么如何将他们运用到SEO当中去呢？下面我简单地谈一谈自己的一些具体的想法。


1、分析爬取率验证模糊经验理论

分析搜索引擎蜘蛛首先会考虑的一个参数是爬取量，一般我们考虑蜘蛛爬取量的单位是以为一个时间段，那么我们很多时候考虑的是时间内的爬取率。当然，妳也可以根据自己的需要调整时间段的限定，如划分到每个小时，来充分了解各个时间段的蜘蛛的抓取情况，然后针对性的做一些调整。其中我觉得一类分析可以给我们带来很多的成感，即对于一些模糊经验理论的验证。

例如我们经常听到这样一句话：“做网站内容的时候要定时定量的更新，培养搜索引擎蜘蛛的抓取习惯，随意的改变更新时间，可能影响蜘蛛对网站内容的抓取”，这句话到底正确不正确呢？这里可以运用网站的日志进行分析搜索引擎蜘蛛的抓取率来解释。具体的操作方法是对一个月内每天每个小时段的蜘蛛抓取情况进行拆分统计（注意数据样本选取的合理性），然后对每个时间段进行分析，对比可以发现哪个时间段搜索引擎蜘蛛来的比较勤，再和自己做内容更新的情况进行一个对比可以很快的得出结论。

2、提高爬取频率提高提升收录

搜索引擎蜘蛛的爬取频率很多时候是由网站内容质量决定的，因为只有网站有更新鲜更好的内容，才能更吸引蜘蛛来反复抓取，例如很多大型的内容型网站，每天更新大量的内容，这样把蜘蛛一直留在了站内，页面抓取的频率自然会提高。而提升了爬取频率，对于页面中内容和链接的更新会被搜索引擎蜘蛛更快的抓取到，能够更充分的收录网站的页面内容信息。

很多朋友都说自己的网站快照不更新，或者滞后好几天，个人觉得也是蜘蛛抓取的频率不够造成的。要想快照更新快，特别是新站，前期一定要多做内容建设，内容页面如果没有内容的更新，一般蜘蛛可能不会抓取收录，或者抓取了但是不返回数据，当下次用户搜索时候可能会调用搜索引擎数据库中存储的一些数据。

3、研究蜘蛛爬取习惯并优化习惯

至于后面谈到搜索引擎蜘蛛的爬取深度，饱和度，优先爬取，冗余度以及爬取路径都是对于蜘蛛爬取习惯和爬取策略的研究，因为自己也没有针对性的去实践分析，所以只能在理论上谈谈自己的一些想法。

搜索引擎蜘蛛的爬取深度如果不够深，主要是因为网站在结构布局的时候没有考虑到这蜘蛛是否能够充分抓取或者是否按照一层一层的抓取，这里涉及到链接入口的布局，也会考虑到蜘蛛爬取优先的一些入口，很多时候对一些大的网站做诊断，来提升其流量和收录主要的策略布局是优化蜘蛛抓取优先的入口，实现的方法是采用nofollow标签屏蔽一些页面。还需要分析的可能是爬取的饱和度，因为对于单个页面的爬取太多是在浪费蜘蛛资源，我们如果能够适当的控制这些资源的分配，那么对于页面的抓取和收录的提升肯定有很大的帮助。