蜘蛛陷阱是阻止蜘蛛程序爬行网站的一个障碍物,他虽然说是网页界面看起来是正常的,但是这些蜘蛛陷阱会对蜘蛛的程序造成障碍,消灭蜘蛛陷阱可以使蜘蛛成绩收录更多的网页icu的工作,就是网页被收录是基础工作,但是对于搜索引擎来说,有很少的情况下会100%收录你网站的所有网页搜索引擎的爬虫设计很精巧。但是也是难以逾越蜘蛛陷阱的,那么哪些做法它是不利于蜘蛛爬行和抓取的呢?
1、登录要求。
有的企业和个人在设置。10是要用户注册登录之后才可以看到相关的文章内容,这种就对蜘蛛不是很友好的,因为蜘蛛们无法去提交注册,更无法去输入用户名和密码,然后登录查看内容,对蜘蛛来说,用户直接点击看到的内容也是蜘蛛所能看到的内容,如果说你的网站有这种情况,请取消这一项功能,但是如果网站有VIP用户或者是部分资源,也是可以这样设置的。
2、动态url。
动态url可以简单理解为在它当中去加入过多的符号或者是网址的参数,虽然说随着搜索引擎的技术发展,动态url对于蜘蛛抓取已经不是问题了,但是搜索引擎友好度上来说精彩,哪怕是伪精彩,都对于动态url要好。
3、强制用cookie
强制用cookie对于搜索引擎来说是相当于直接禁用的cookie,而有一些网站为了实现某些功能它会强制cookie例如跟踪用户访问路径集中用户信息,甚至是盗取用户们的隐私等等。如果说用户访问这类的网站没有启用cookies,那么所显示的网页就不是正常的,所以对于蜘蛛们来讲,同样的网页是无法正常访问的。
4、框架结构。
早期框架网页被泛滥的使用,而现在有很多网站上已经看不到了,一个是因为现在随着各大的cms系统的开发问世,网站维护是越来越简单了,早期网站使用框架是因为对网站页面维护有一定的便利性,现在大可不必了,而且不利于搜索引擎收录。
5、各种跳转。
对于搜索引擎来说,只对301跳转是比较友好的,对于其其他形式的调整都是比较敏感的,有些网站的做法让人很无语,当打开网页之后会自动跳转到其他的页面,那么打开的页面和你想要找的页面主体相关也算过得去,但是有很大部分的网站转向,让你没有任何的目的,这种转向不推荐大家使用,如果非要做转向那么就只推荐用301永久转跳转可以将群众进行传递,其他的就不推荐了,因为很多都是转向欺骗用户和搜索引擎的,这是一种黑猫的手段,建议大家不要使用。
6、Flash.
有的网站在使用flash视觉效果是很正常的,例如flash做logo,广告图表等这些对于搜索引擎抓取和收录是没有问题的,但是有很多的网站的首页,它是一个很大的flash文件,这种就叫做蜘蛛旋钮了,在它抓取的时候html代码中只是一个链接,它是没有文字的,虽然说大的flash效果看上去很好,外观也非常的漂亮,但是搜索引擎看不到就无法读取它的内容,所以为了体现网站优化最好的效果,不提倡使用这种flash作为首页图片。
7、采用 Session id的页面。
有的销售类的为了分析用户的一些信息,他们会使用 Session id来跟踪用户们访问站点时,每个用户都会增加一次c深爱的,而加入url中同样蜘蛛每一次的访问也会被当做一次新的用户,每次蜘蛛去访问url中都会去加入一个size产生同一个页面,但是不同的情况这种情况就会复制内容页面造成高度重复的内容页,这也是最常见的蜘蛛陷阱之一。
8、Javascript跳转。
虽然说现在搜索引擎对于javascript里的链接是可以跟踪的,甚至是尝试可以拆解分析的,但是我们最好不要觊觎搜索引擎自己克服困难,虽然说通过JavaScript可以做一些效果不错的导航,但是css同样也是可以做到的,为了提高网站对搜索引擎的友好度,使网页可以提更好的让蜘蛛爬行,尽量不要去采用javascript,当然在SEO当中JavaScript有一个很好的好处,就是站网站长希望。被收录的页面或者友情链接都是可以采用javascript。